Hacker News AIT2·74 分
llama-modchip 让 284B DeepSeek 在 64GB 内存纯 CPU 运行
原标题:Llama-modchip: 284B DeepSeek on 64GB RAM, no GPU
- 284B DeepSeek-V4-Flash 可在 64GB 内存纯 CPU 环境运行,峰值内存约 57.61 GiB
- 256K 上下文下解码速度约 9.1–14.7 tok/s,预填充约 44 tok/s
- 提供 Fractal-64 与 Fractal-MXFP4 量化转码及 CPU 就绪状态检查工具