Rohan Paul (@rohanpaul_ai)T2·算力与基建
71 分
Positron 的 Titan 服务器放弃稀缺的 HBM,改用智能手机式廉价 DRAM 承载超大模型,单机可容纳最高 32 万亿参数,并以每瓦内存容量作为核心衡量指标。推理云 Parasail 宣布成为首个规模化部署方,首期 5MW,声称每 token 成本比下一代 NVIDIA/AMD 系统低 4 倍,目标 2027 年底达到每天数万亿 token 的成本优化算力。
Memory Capacity per Watt
衡量单位功耗可承载内存容量的硬件指标,正成为大模型推理硬件的关键评判维度
Positron 的 Titan 服务器放弃稀缺的 HBM,改用智能手机式廉价 DRAM 承载超大模型,单机可容纳最高 32 万亿参数,并以每瓦内存容量作为核心衡量指标。推理云 Parasail 宣布成为首个规模化部署方,首期 5MW,声称每 token 成本比下一代 NVIDIA/AMD 系统低 4 倍,目标 2027 年底达到每天数万亿 token 的成本优化算力。