跳到正文
Hugging Face · 新模型:abliterated·· 14 天前精选AI 评分52

MiniCPM-V 4.7 1B 发布 Heretic 去对齐 GGUF 量化版

maternion/MiniCPM-V4.7-1B-Heretic-Abliterated-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/maternion/MiniCPM-V4.7-1B-Heretic-Abliterated-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

maternion 在 Hugging Face 发布基于 openbmb/MiniCPM-V-4.7-1B 的去对齐 GGUF 量化版,用 heretic 的方向消融流程从权重中移除拒绝方向。404 次试验后拒绝率为 21/100,KL 散度 0.0122,作者称数值上接近基座模型、保留推理、工具调用与视觉能力。提供 Q4_K_M 到 F16 共 4 档量化(641 MB 至 1.9 GB)及视觉投影 mmproj-F16.gguf,可在 llama.cpp、Ollama、LM Studio 等 GGUF 兼容运行时运行,Ollama 注册表同步发布。

推荐理由

原文给出了拒绝率 21/100 和 KL 散度 0.0122 的实测数据,可据此判断该去对齐版本的去拒答程度与能力保留情况。

来源:Hugging Face · 新模型:abliterated · huggingface.co