Hugging Face Blog·· 6 天前精选AI 评分75
Hugging Face发布TorchNeuron,简化在AWS Trainium上运行模型
TorchNeuron: running HF models on AWS Trainium is easier than ever
AI 导读
Hugging Face发布TorchNeuron,为PyTorch提供AWS Trainium的新原生后端。从2026年10月20日起,研究人员和开发者可通过pip install torch-neuronx安装使用。TorchNeuron使Transformers、Diffusers等库直接支持Trainium,文本生成模型支持率从Optimum Neuron的46%提升至89%。
推荐理由
TorchNeuron让AWS Trainium支持PyTorch原生接口,模型支持率从46%提升至89%,降低了AI芯片的使用门槛。
来源:Hugging Face Blog · huggingface.co