Marktechpost (@Marktechpost)T2·78 分
Prime Intellect 发布 Mega MoE 训练内核,提速 55%
原标题:▲ Prime Intellect just released Prime Mega MoE, which makes DeepSeek's fused Mega MoE kernel usable ...
- 通过融合路由、发送、计算和返回步骤,消除 MoE 层中的 GPU 空闲等待时间。
- 在 H200 集群上对 Qwen3-235B-A22B 进行训练时,相比 TorchTitan 基线提速 55%。
- 已集成至 prime-rl (Apache 2.0) 作为 mega_moe 调度后端,支持 BF16、Hopper FP8 及 Blackwell MXFP8。