跳到正文
GitHub · 去对齐工具与仓库·· 17 天前精选AI 评分65

ModelFit 上线:实测 110+ 本地 LLM 的 VRAM/RAM 需求

Alex20Sas12/modelfit

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/Alex20Sas12/modelfit

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

ModelFit 网站上线,汇总 Kimi K3、Gemma 4、DeepSeek V4、Qwen 3.8、GLM-5、Llama 3.1 等 110+ 热门本地 LLM 的 GGUF 实测文件体积与显存内存需求。所有数字直接取自 Hugging Face 上的真实 GGUF 文件而非公式估算,KV cache 按 config. 精确计算,并对 DeepSeek/Kimi 架构使用 MLA 分支公式,避免 GQA 朴素算法高估 5–50 倍。网站每日自动重建,新模型上榜约 24 小时内生成页面,数据以 CC BY 4.0 开放并提供 JSON API。

推荐理由

这个网站直接从 Hugging Face GGUF 文件实测体积并精确计算 KV cache,还解释了主流估算公式为何偏差可达数倍,方法可复用。

来源:GitHub · 去对齐工具与仓库 · github.com