AWS Machine Learning Blog· Josh Longenecker·· 4 天前AI 评分45
AWS Trainium 上使用 torchtitan 训练 Qwen3
Train Qwen3 on AWS Trainium with torchtitan
AI 导读
AWS Trainium 通过 torchtitan 支持三种方式训练 Qwen3,包括 Transformers v5 后端、torchtitan 原生实现及 NKI MoE 内核优化。实验在 trn2.48xlarge 实例上完成,支持预训练和微调,可加载 Hugging Face 检查点并导出 safetensors 格式。
来源:AWS Machine Learning Blog · aws.amazon.com