Hugging Face · 新模型:uncensored·· 21 天前精选AI 评分63
npario 发布 gemma-4-26B-A4B 的 UDmerge 去审查 GGUF 量化版本
npario/gemma-4-26B-A4B-it-qat-uncensored-heretic-UDmerge-GGUF
来源与原文
Hugging Face · 新模型:uncensored
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/npario/gemma-4-26B-A4B-it-qat-uncensored-heretic-UDmerge-GGUF
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
npario 发布了 gemma-4-26B-A4B-it-qat 的 uncensored GGUF 版本,将 llmfan46 的 abliterated 张量合并进 Unsloth 的无损 Q4_0 量化,提供 UDmerge-Q4_K_XL 与 UDmerge-Q4_K_XXL 两个变体,后者把相关张量量化为 Q8_0,拒绝率降至 16%,MMLU-val 为 81.06%,flip 仅 0.98%。作者用 Heretic 相同的 mlabonne/harmful_behaviors 数据集前 100 题测拒绝率、cais/mmlu 验证集测准确率,并指出原方法声称的 11% 拒绝率未能复现,数据仅供本表内对比。
推荐理由
作者给出多档量化版本在 PPL、KLD、MMLU 和拒绝率上的实测对比,读者可据此判断合并方案对精度与拒绝率的取舍。
来源:Hugging Face · 新模型:uncensored · huggingface.co