事件记录历史事件
Hugging Face发布TorchNeuron模型支持查询工具
1 篇报道1 个报道来源3 天前更新
先了解这件事
报道摘要
Hugging Face发布torch-neuronx模型支持查询工具，可查看Hub上哪些模型能在AWS Trainium上运行，无需修改代码。该工具提供模型运行结果、所需Trainium核心数、运行时间和峰值内存信息，并提供运行脚本。目前仅支持文本生成和图像-文本到文本模型，计划扩展到diffusers和sentence transformers等任务。
摘自 Hugging Face Blog
报道时间线
沿着报道，了解事件的不同侧面。
10月23日
- Hugging Face BlogHugging Face推出TorchNeuron模型支持查询工具，检查模型在AWS Trainium上的运行情况
Hugging Face发布torch-neuronx模型支持查询工具，可查看Hub上哪些模型能在AWS Trainium上运行，无需修改代码。该工具提供模型运行结果、所需Trainium核心数、运行时间和峰值内存信息，并提供运行脚本。目前仅支持文本生成和图像-文本到文本模型，计划扩展到diffusers和sentence transformers等任务。