Hugging Face Blog·· 4 天前AI 评分44
Hugging Face 推出 torch-neuronx 模型支持查询 Space:你的模型能否跑在 AWS Trainium 上一查便知
Does Your Model Run on AWS Trainium? Look It Up
来源与原文
Hugging Face Blog
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/blog/torch-neuronx-model-support
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Hugging Face 推出 torch-neuronx model support Space,可查询 Hub 上热门模型能否在 AWS Trainium 上原生运行,并提供可复现的 run.py 脚本。每条记录包含 Trainium core 分片数、含编译的总运行时间和峰值显存,结果来自公开数据集 aws-neuron/torch-neuronx-model-support,用户可通过 NEFF cache bucket 跳过编译。
来源:Hugging Face Blog · huggingface.co