GitHub · 去对齐工具与仓库·· 17 天前精选AI 评分65
ModelFit 上线:实测 110+ 本地 LLM 的 VRAM/RAM 需求
Alex20Sas12/modelfit
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/Alex20Sas12/modelfit
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
ModelFit 网站上线,汇总 Kimi K3、Gemma 4、DeepSeek V4、Qwen 3.8、GLM-5、Llama 3.1 等 110+ 热门本地 LLM 的 GGUF 实测文件体积与显存内存需求。所有数字直接取自 Hugging Face 上的真实 GGUF 文件而非公式估算,KV cache 按 config. 精确计算,并对 DeepSeek/Kimi 架构使用 MLA 分支公式,避免 GQA 朴素算法高估 5–50 倍。网站每日自动重建,新模型上榜约 24 小时内生成页面,数据以 CC BY 4.0 开放并提供 JSON API。
推荐理由
这个网站直接从 Hugging Face GGUF 文件实测体积并精确计算 KV cache,还解释了主流估算公式为何偏差可达数倍,方法可复用。
来源:GitHub · 去对齐工具与仓库 · github.com