模型slug: cs-4

CS-4

Cerebras 新一代晶圆级推理系统,用于承载其超快推理云产能

收录情报动态

共 1 篇 · 第 1/1 页
Hacker News AIT2·算力与基建
78 分
Cerebras 推出 GPU 与晶圆级引擎分离式推理方案

Cerebras 将分离式推理投入生产:GPU 负责 prefill,晶圆级引擎负责 decode,在保持同等超快速度下每兆瓦吞吐提升 5 倍。该方案已在其推理云上线,并开放给基础设施合作伙伴在自有数据中心部署,配合 CS-4 与 700MW 数据中心规划进一步扩张超快推理产能。