群联展示内置 NPU 与 64GB 内存的智能固态硬盘

原标题:群联展示内置 NPU 与 64GB 内存的智能固态硬盘,可直接运行 AI 模型
72AI 研判分

群联在 SC26 大会展示两款面向 AI 场景的企业级固态硬盘,其中一款内置 NPU 与 64GB 内存,带宽达 130GB/s,可直接在盘上运行 PyTorch、vLLM、OpenVINO 与 llama.cpp 等框架。其思路是把部分计算下沉到存储侧,仅向主机返回结果,特定负载下数据传输量可减少 10 至 100 倍。另一款采用 pSLC 缓存与 QLC 混合介质设计,以单盘故障仅损失 4% 缓存容量替代独立缓存盘方案。

报道正文

IT之家 11 月 22 日消息,据科技媒体 Tom's Hardware 昨天报道,群联在 SC26 大会中展示两款企业级固态硬盘,专为 AI 场景设计。其中一款甚至带有 NPU 和 64GB 内存,可以直接运行 AI 模型。

群联展示内置 NPU 与 64GB 内存的智能固态硬盘,可直接运行 AI 模型

IT之家从原报道获悉,其中一款产品 SSD 内置 NPU(神经网络引擎)、64GB 内存,带宽达到 130GB/s,支持直接在硬盘上运行 PyTorch、vLLM、OpenVINO 和 llama.cpp 等 AI 框架及推理工具。

该产品的设计思路是将部分计算任务从服务器转移至 SSD,让设备直接处理存储的数据,仅向主机返回结果,无需完整传输数据集。

群联表示,该方案在特定工作负载下有望将数据传输量减少 10 至 100 倍,从而降低主机 CPU 的负载。

另一款产品采用全新的 Mixed Media 混合介质设计,将高耐久性的 pSLC 缓存与大容量 QLC 闪存整合在同一块 SSD 中,并通过一颗 16 通道主控进行管理。

该方案将部分 QLC 闪存切换至 SLC 工作模式,以牺牲部分存储容量为代价,提升写入性能和耐久性。两个存储区域分别分配独立命名空间,主机可以根据数据类型选择对应的存储区域,无需额外安装专用软件。

群联称这种方案能够减少独立缓存盘的依赖。在包含 24 块 SSD 的系统中,如果其中一块硬盘发生故障,缓存损失比例仅为 4%,而采用 4 块独立缓存盘的传统方案可能损失 25% 的缓存容量。