跳到正文
/阅读与研究

外观

快速抵达

↑ ↓ 选择 · Enter 打开 · Esc 关闭MyHOT
原文
Hugging Face Blog· 机构原始发布·· 3 天前

Hugging Face推出TorchNeuron模型支持查询工具,检查模型在AWS Trainium上的运行情况

原文标题

Does Your Model Run on AWS Trainium? Look It Up

AI 导读

Hugging Face发布torch-neuronx模型支持查询工具,可查看Hub上哪些模型能在AWS Trainium上运行,无需修改代码。该工具提供模型运行结果、所需Trainium核心数、运行时间和峰值内存信息,并提供运行脚本。目前仅支持文本生成和图像-文本到文本模型,计划扩展到diffusers和sentence transformers等任务。

来源:Hugging Face Blog · huggingface.co

导读说明

导读由模型辅助整理,非独立核验。完整信息见原文。