IT之家 · 智能时代T2·68 分
SK 海力士预测 AI 基础设施性能规模至 2030 年将增长约 20 倍,提出 HBF 与 3D DRAM 存储层级优化方案
原标题:SK 海力士预测:到 2030 年,AI 基础设施性能规模将增长约 20 倍
- AI 推理需求在任务复杂度、上下文长度和请求量三个维度同时爆发,推动基础设施性能规模预计 2030 年增长 20 倍。
- KV Cache 容量持续膨胀迫使数据分摊于 HBM、DRAM 和 SSD,数据迁移成为制约性能和能耗的新瓶颈。
- SK 海力士推进 3D 堆叠 DRAM 和高带宽闪存(HBF)研发,旨在开辟新存储层级,HBF 目标带宽为同代 HBM 的 50%,容量提升 10 倍。