Hacker News AIT2·72 分
开发者用 190 行纯 JAX 复现 DeepSeek V3
原标题:Show HN: DeepSeek V3 in ~200 lines of pure Jax
- 用约 190 行纯 JAX 实现 DeepSeek V3 的 MLA、解耦 RoPE 与 DeepSeekMoE 等核心组件
- 不依赖 Flax、Equinox 或 PyTorch,参数为普通字典数组,代码可逐行通读
- 在 MacBook Air 上从零预训练,模型约 3620 万参数、每 token 激活约 1360 万