GitHub · 灵魂体仓库·· 6 天前精选AI 评分65
modelinfo-cli 发布：离线解析模型 checkpoint 并计算硬件需求
pipe1os/modelinfo-cli
来源与原文
GitHub · 灵魂体仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/pipe1os/modelinfo-cli
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
pipe1os 发布开源 CLI 工具 modelinfo-cli，可离线检查 .safetensors、.gguf、.pt 模型 checkpoint 并计算硬件需求，仅用 Python 标准库读取二进制头文件，本地解析在 100ms 内完成。支持通过 Hugging Face Hub 的字节范围请求在 2 秒内远程读取头部而无需下载 checkpoint，可按上下文长度计算 VRAM、用 --vllm 模拟 PagedAttention 池可服务 token 数，并按 --gpu 与多卡 --topology、--strategy 做硬件适配诊断和并排对比。
推荐理由
工具只用标准库解析模型头文件，本地毫秒级、远程免下载整个 checkpoint 就能算 VRAM，部署前选型可以省大量磁盘和时间。
来源：GitHub · 灵魂体仓库 · github.com