AWS Trainium全面支持PyTorch生态

Hugging Face 发布 torch-neuronx 模型支持查询工具，可查看 Hub 上模型是否能在 AWS Trainium 上运行，并提供运行脚本。该工具支持文本生成和图文模型，测试结果基于公共数据集，用户可直接查询模型兼容性。

AWS Trainium 通过 torchtitan 支持三种方式训练 Qwen3，包括 Transformers v5 后端、torchtitan 原生实现及 NKI MoE 内核优化。实验在 trn2.48xlarge 实例上完成，支持预训练和微调，可加载 Hugging Face 检查点并导出 safetensors 格式。

Hugging Face 博客详解如何使用 TorchNeuron 对 AWS Trainium 推理性能进行系统级剖析，涵盖 torch.profiler 配置、Neuron Explorer 工具及 RMSNorm 操作的三种实现对比分析。

亚马逊宣布推出开源工具 TorchNeuron，允许开发者编写的 PyTorch 代码只需更改一次配置即可在自研 Trainium 芯片上本地运行，无需重写代码。该工具将于 10 月 20 日在北美 PyTorch 大会上以开源许可形式发布，旨在为开发者提供除英伟达 CUDA 外的可行选择。

Amazon Web Services发布TorchNeuron工具，允许AI开发者只需更改一行配置即可将PyTorch应用迁移到Trainium芯片上运行。该工具针对约85%使用PyTorch构建的AI应用，旨在打破NVIDIA CUDA软件的垄断优势，同时提供完整的云基础设施支持。

Deepgram 将 Nova-3 语音识别模型迁移至 AWS Trainium2，在批处理任务中实现每美元处理音频量提升 11–70%。通过 PyTorch 重建、内核调优及 Rust 并行运行时，单 trn2.3xlarge 实例可运行 8 个模型副本，成本效率显著提升。

亚马逊宣布向所有PyTorch开发者开放其AWS Trainium AI芯片，开发者无需重写代码即可使用。

Hugging Face发布TorchNeuron，为PyTorch提供AWS Trainium的新原生后端。从2026年10月20日起，研究人员和开发者可通过pip install torch-neuronx安装使用。TorchNeuron使Transformers、Diffusers等库直接支持Trainium，文本生成模型支持率从Optimum Neuron的46%提升至89%。