IT之家 · 智能时代T2·78 分
摩尔线程开源 Megatron-MUSA-Titan，支持万亿参数 MoE 训练
原标题：摩尔线程开源 Megatron-MUSA-Titan，聚焦万卡级集群的万亿参数 MoE 模型训练
- 聚焦万卡级集群的万亿参数 MoE 模型预训练与强化学习场景
- 支持 blockwise FP8 训练以提升计算效率
- 结合 DeepEP 与 ACE 异步通信引擎实现专家并行通算重叠
返回热点榜
compute热度 11.5°
AI 聚合热点事件 · 2026/10/28
摩尔线程开源 Megatron-MUSA-Titan，支持万亿参数 MoE 训练
1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/10/28 18:16:40
全景综述与最新动态
1 家信源交叉印证摩尔线程发布开源项目 Megatron-MUSA-Titan，专为万卡级集群上的万亿参数 MoE 模型预训练与强化学习设计。该项目通过 blockwise FP8、DeepEP 及异步通信引擎优化 MUSA GPU 算力利用率，实现高 MFU 长稳训练。
最新动向/摩尔线程发布开源项目 Megatron-MUSA-Titan，专为万卡级集群上的万亿参数 MoE 模型预训练与强化学习设计。该项目通过 blockwise FP8、DeepEP 及异步通信引擎优化 MUSA GPU 算力利用率，实现高 MFU 长稳训练。
逐小时热度走势
2 个完整观测小时连续完整观测不足 3 个小时，暂不绘制趋势曲线。