Hacker News AIT2·78 分
Cerebras 推出 GPU 与晶圆级引擎分离式推理方案
原标题:Cerebras Disaggregated Inference
- GPU 承担 prefill、Cerebras 晶圆级引擎承担 decode 的分离式架构已进入生产环境
- 同等超快速度下每兆瓦 token 吞吐提升 5 倍,直接改善推理能效比
- 方案向基础设施合作伙伴开放,可与 CS-4 及 700MW 数据中心规划形成产能叠加
AI 聚合热点事件 · 2026/11/18
Cerebras 将分离式推理投入生产:GPU 负责 prefill,晶圆级引擎负责 decode,在保持同等超快速度下每兆瓦吞吐提升 5 倍。该方案已在其推理云上线,并开放给基础设施合作伙伴在自有数据中心部署,配合 CS-4 与 700MW 数据中心规划进一步扩张超快推理产能。
曲线只比较全程持续完整观测的同一批信源;缺口小时数据已插值平滑,保持趋势连续。
原标题:Cerebras Disaggregated Inference