Rohan Paul (@rohanpaul_ai)T2·算力与基建
71 分
Positron 的 Titan 服务器放弃稀缺的 HBM,改用智能手机式廉价 DRAM 承载超大模型,单机可容纳最高 32 万亿参数,并以每瓦内存容量作为核心衡量指标。推理云 Parasail 宣布成为首个规模化部署方,首期 5MW,声称每 token 成本比下一代 NVIDIA/AMD 系统低 4 倍,目标 2027 年底达到每天数万亿 token 的成本优化算力。
Titan
Positron 下一代推理服务器,以廉价 DRAM 替代 HBM,单机支持最高 32 万亿参数模型
Positron 的 Titan 服务器放弃稀缺的 HBM,改用智能手机式廉价 DRAM 承载超大模型,单机可容纳最高 32 万亿参数,并以每瓦内存容量作为核心衡量指标。推理云 Parasail 宣布成为首个规模化部署方,首期 5MW,声称每 token 成本比下一代 NVIDIA/AMD 系统低 4 倍,目标 2027 年底达到每天数万亿 token 的成本优化算力。