跳到正文
Hugging Face · 新模型:uncensored·· 21 天前精选AI 评分63

npario 发布 gemma-4-26B-A4B 的 UDmerge 去审查 GGUF 量化版本

npario/gemma-4-26B-A4B-it-qat-uncensored-heretic-UDmerge-GGUF

来源与原文

Hugging Face · 新模型:uncensored

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/npario/gemma-4-26B-A4B-it-qat-uncensored-heretic-UDmerge-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

npario 发布了 gemma-4-26B-A4B-it-qat 的 uncensored GGUF 版本,将 llmfan46 的 abliterated 张量合并进 Unsloth 的无损 Q4_0 量化,提供 UDmerge-Q4_K_XL 与 UDmerge-Q4_K_XXL 两个变体,后者把相关张量量化为 Q8_0,拒绝率降至 16%,MMLU-val 为 81.06%,flip 仅 0.98%。作者用 Heretic 相同的 mlabonne/harmful_behaviors 数据集前 100 题测拒绝率、cais/mmlu 验证集测准确率,并指出原方法声称的 11% 拒绝率未能复现,数据仅供本表内对比。

推荐理由

作者给出多档量化版本在 PPL、KLD、MMLU 和拒绝率上的实测对比,读者可据此判断合并方案对精度与拒绝率的取舍。

来源:Hugging Face · 新模型:uncensored · huggingface.co