Hugging Face Blog· 机构原始发布·· 3 天前
Hugging Face推出TorchNeuron模型支持查询工具,检查模型在AWS Trainium上的运行情况
原文标题
Does Your Model Run on AWS Trainium? Look It Up
AI 导读
Hugging Face发布torch-neuronx模型支持查询工具,可查看Hub上哪些模型能在AWS Trainium上运行,无需修改代码。该工具提供模型运行结果、所需Trainium核心数、运行时间和峰值内存信息,并提供运行脚本。目前仅支持文本生成和图像-文本到文本模型,计划扩展到diffusers和sentence transformers等任务。
来源:Hugging Face Blog · huggingface.co
导读说明
导读由模型辅助整理,非独立核验。完整信息见原文。