摩尔线程开源 Megatron-MUSA-Titan，聚焦万卡级集群的万亿参数 MoE 模型训练

摩尔线程宣布开源大模型训练基础设施项目 Megatron-MUSA-Titan，该项目基于摩尔线程全功能 GPU，聚焦万卡级集群的万亿参数 MoE 模型训练需求，覆盖预训练与强化学习两大场景。项目支持 blockwise FP8 训练，结合 DeepEP 与 ACE 异步通信引擎，提升大规模训练的计算效率。