返回热点榜
opensource热度 13.2°

AI 聚合热点事件 · 2026/11/14

开发者用 190 行纯 JAX 复现 DeepSeek V3

1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/11/14 23:04:15
全景综述与最新动态
1 家信源交叉印证

开发者发布开源项目,用约 190 行纯 JAX 代码从零实现 DeepSeek V3 核心架构,包含多头潜在注意力(MLA)、解耦 RoPE、DeepSeekMoE 与无辅助损失负载均衡等关键设计,并在 MacBook Air 上完成预训练。项目不依赖 Flax、Equinox 或 PyTorch,参数以纯字典数组表示,代码可逐行阅读,是理解前沿 MoE 架构的高价值教学与实验范本。

最新动向/开发者发布开源项目,用约 190 行纯 JAX 代码从零实现 DeepSeek V3 核心架构,包含多头潜在注意力(MLA)、解耦 RoPE、DeepSeekMoE 与无辅助损失负载均衡等关键设计,并在 MacBook Air 上完成预训练。项目不依赖 Flax、Equinox 或 PyTorch,参数以纯字典数组表示,代码可逐行阅读,是理解前沿 MoE 架构的高价值教学与实验范本。

逐小时热度走势

3 个完整观测小时
当前
13.2
峰值
13.511-15
近 24h 变化
–

曲线只比较全程持续完整观测的同一批信源;缺口小时数据已插值平滑,保持趋势连续。

报道时间线

共 1 篇 · 最新优先
  1. Hacker News AIT2·72 分

    开发者用 190 行纯 JAX 复现 DeepSeek V3

    原标题:Show HN: DeepSeek V3 in ~200 lines of pure Jax

    • 用约 190 行纯 JAX 实现 DeepSeek V3 的 MLA、解耦 RoPE 与 DeepSeekMoE 等核心组件
    • 不依赖 Flax、Equinox 或 PyTorch,参数为普通字典数组,代码可逐行通读
    • 在 MacBook Air 上从零预训练,模型约 3620 万参数、每 token 激活约 1360 万