跳到正文
/阅读与研究

外观

快速抵达

↑ ↓ 选择 · Enter 打开 · Esc 关闭MyHOT
原文
Hugging Face Blog· 机构原始发布·· 6 天前精选

Hugging Face 推出 TorchTPU:TPU 现已成为 PyTorch 原生支持设备

原文标题

Hugging Face ❤️ TorchTPU: TPUs, Natively

AI 导读

Hugging Face 发布 TorchTPU,将 TPU 作为 PyTorch 的原生后端,使开发者无需修改代码即可在 TPU 上运行 Transformers、Diffusers 等库。用户只需将模型发送到 'tpu' 设备即可完成部署,支持分布式训练和 torch.compile 优化。TorchTPU 还提供了 Pallas 内核和 Kernels Hub 的 TPU 内核支持,显著提升模型推理速度。

来源:Hugging Face Blog · huggingface.co

导读与选稿说明

TorchTPU 解决了 PyTorch 用户在 TPU 上部署的复杂性问题,使 TPU 成为与 GPU、CPU 平等的原生设备,大幅简化了 Hugging Face 生态在 TPU 上的使用门槛。

导读由模型辅助整理,非独立核验。完整信息见原文。