返回热点榜
opensource热度 13.4°

AI 聚合热点事件 · 2026/11/8

llama-modchip 让 284B DeepSeek 在 64GB 内存纯 CPU 运行

1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/11/8 18:22:04
全景综述与最新动态
1 家信源交叉印证

开源项目 llama-modchip v2.4.0 宣称可在 64GB 内存的纯 CPU 工作站上运行 284B 参数的 DeepSeek-V4-Flash 混合专家模型,峰值内存占用 57.61 GiB,256K 上下文下解码约 9–15 tok/s。项目通过 SwiGLU-H2 等量化与内存优化压缩权重,并提供 Fractal-64/MXFP4 转码与状态检查工具链。

最新动向/开源项目 llama-modchip v2.4.0 宣称可在 64GB 内存的纯 CPU 工作站上运行 284B 参数的 DeepSeek-V4-Flash 混合专家模型,峰值内存占用 57.61 GiB,256K 上下文下解码约 9–15 tok/s。项目通过 SwiGLU-H2 等量化与内存优化压缩权重,并提供 Fractal-64/MXFP4 转码与状态检查工具链。

逐小时热度走势

2 个完整观测小时
连续完整观测不足 3 个小时,暂不绘制趋势曲线。

报道时间线

共 1 篇 · 最新优先