Hugging Face Blog· 机构原始发布·· 7 天前精选
TorchNeuron:在AWS Trainium上运行Hugging Face模型变得前所未有的简单
原文标题
TorchNeuron: running HF models on AWS Trainium is easier than ever
AI 导读
Hugging Face宣布推出TorchNeuron,这是一个为AWS Trainium提供的新原生PyTorch后端。从2026年10月20日起,研究人员和开发者可通过pip安装使用。TorchNeuron支持eager模式、torch.compile和原生分布式API,使Transformers、Diffusers等库可直接在Trainium上运行,无需通过Optimum Neuron。文本生成模型支持率从46%提升至89%,训练和推理代码与在其他加速器上使用相同。
来源:Hugging Face Blog · huggingface.co
导读与选稿说明
TorchNeuron简化了在AWS Trainium上部署Hugging Face模型的流程,大幅提高了模型支持率,降低了开发者使用AI芯片的门槛。
导读由模型辅助整理,非独立核验。完整信息见原文。