跳到正文
Hugging Face Blog·· 4 天前AI 评分44

Hugging Face 推出 torch-neuronx 模型支持查询 Space:你的模型能否跑在 AWS Trainium 上一查便知

Does Your Model Run on AWS Trainium? Look It Up

来源与原文

Hugging Face Blog

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/blog/torch-neuronx-model-support

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Hugging Face 推出 torch-neuronx model support Space,可查询 Hub 上热门模型能否在 AWS Trainium 上原生运行,并提供可复现的 run.py 脚本。每条记录包含 Trainium core 分片数、含编译的总运行时间和峰值显存,结果来自公开数据集 aws-neuron/torch-neuronx-model-support,用户可通过 NEFF cache bucket 跳过编译。

来源:Hugging Face Blog · huggingface.co