MiniCPM-V 4.7 1B 发布 Heretic 去对齐 GGUF 量化版
maternion 在 Hugging Face 发布基于 openbmb/MiniCPM-V-4.7-1B 的去对齐 GGUF 量化版,用 heretic 的方向消融流程从权重中移除拒绝方向。404 次试验后拒绝率为 21/100,KL 散度 0.0122,作者称数值上接近基座模型、保留推理、工具调用与视觉能力。提供 Q4_K_M 到 F16 共 4 档量化(641 MB 至 1.9 GB)及视觉投影 mmproj-F16.gguf,可在 llama.cpp、Ollama、LM Studio 等 GGUF 兼容运行时运行,Ollama 注册表同步发布。
推荐理由:原文给出了拒绝率 21/100 和 KL 散度 0.0122 的实测数据,可据此判断该去对齐版本的去拒答程度与能力保留情况。