术语slug: memory-capacity-per-watt

每瓦内存容量

Memory Capacity per Watt

衡量单位功耗可承载内存容量的硬件指标,正成为大模型推理硬件的关键评判维度

收录情报动态

共 1 篇 · 第 1/1 页
Rohan Paul (@rohanpaul_ai)T2·算力与基建
71 分
Positron Titan 用廉价 DRAM 承载 32 万亿参数模型

Positron 的 Titan 服务器放弃稀缺的 HBM,改用智能手机式廉价 DRAM 承载超大模型,单机可容纳最高 32 万亿参数,并以每瓦内存容量作为核心衡量指标。推理云 Parasail 宣布成为首个规模化部署方,首期 5MW,声称每 token 成本比下一代 NVIDIA/AMD 系统低 4 倍,目标 2027 年底达到每天数万亿 token 的成本优化算力。