QuantForge：本地 LLM 自动化 GGUF 量化、imatrix 校准与困惑度评测工具

QuantForge 是一个面向本地 LLM 的自动化实验工具，可将 FP16 checkpoint 批量量化为带质量指标的 GGUF 量化集，并与 llama.cpp 配合使用。它支持 Q4_0 到 Q8_0、Q2_K 到 Q6_K 及 IQ1_S 到 IQ4_NL 等量化格式，提供 imatrix 校准语料预设、基于 FP16 基线的 delta perplexity 评测、Pareto 权衡分析 SVG 图表和硬件自动调优。工具以 Typer CLI 和 FastAPI 仪表盘双界面提供，可直接拉取模型并将量化套件发布到 Hugging Face Hub。