返回热点榜
llm热度 14.3°

AI 聚合热点事件 · 2026/10/30

Prime Intellect 发布 Mega MoE 训练内核,提速 55%

1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/10/30 02:34:52
全景综述与最新动态
1 家信源交叉印证

Prime Intellect 推出 Prime Mega MoE,将 DeepSeek 的融合内核扩展至支持高效反向传播训练。在 Qwen3-235B 模型上,该方案使单步训练时间从 14.98 秒降至 9.65 秒,整体提速约 55%,显著优化了混合专家模型的通信与计算重叠效率。

最新动向/Prime Intellect 推出 Prime Mega MoE,将 DeepSeek 的融合内核扩展至支持高效反向传播训练。在 Qwen3-235B 模型上,该方案使单步训练时间从 14.98 秒降至 9.65 秒,整体提速约 55%,显著优化了混合专家模型的通信与计算重叠效率。

逐小时热度走势

2 个完整观测小时
连续完整观测不足 3 个小时,暂不绘制趋势曲线。

报道时间线

共 1 篇 · 最新优先
  1. Marktechpost (@Marktechpost)T2·78 分

    Prime Intellect 发布 Mega MoE 训练内核,提速 55%

    原标题:▲ Prime Intellect just released Prime Mega MoE, which makes DeepSeek's fused Mega MoE kernel usable ...

    • 通过融合路由、发送、计算和返回步骤,消除 MoE 层中的 GPU 空闲等待时间。
    • 在 H200 集群上对 Qwen3-235B-A22B 进行训练时,相比 TorchTitan 基线提速 55%。
    • 已集成至 prime-rl (Apache 2.0) 作为 mega_moe 调度后端,支持 BF16、Hopper FP8 及 Blackwell MXFP8。