Hugging Face Blog· 机构原始发布·· 6 天前精选
Hugging Face 推出 TorchTPU:TPU 现已成为 PyTorch 原生支持设备
原文标题
Hugging Face ❤️ TorchTPU: TPUs, Natively
AI 导读
Hugging Face 发布 TorchTPU,将 TPU 作为 PyTorch 的原生后端,使开发者无需修改代码即可在 TPU 上运行 Transformers、Diffusers 等库。用户只需将模型发送到 'tpu' 设备即可完成部署,支持分布式训练和 torch.compile 优化。TorchTPU 还提供了 Pallas 内核和 Kernels Hub 的 TPU 内核支持,显著提升模型推理速度。
来源:Hugging Face Blog · huggingface.co
导读与选稿说明
TorchTPU 解决了 PyTorch 用户在 TPU 上部署的复杂性问题,使 TPU 成为与 GPU、CPU 平等的原生设备,大幅简化了 Hugging Face 生态在 TPU 上的使用门槛。
导读由模型辅助整理,非独立核验。完整信息见原文。