Hugging Face · 新模型：uncensored·· 4 天前精选AI 评分59
npario 发布 gemma-4-31B 的 UDmerge 去对齐 GGUF 量化版本
npario/gemma-4-31B-it-qat-uncensored-heretic-UDmerge-GGUF
来源与原文
Hugging Face · 新模型：uncensored
发布时间：（北京时间）
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/npario/gemma-4-31B-it-qat-uncensored-heretic-UDmerge-GGUF
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
npario 在 Hugging Face 发布 gemma-4-31B-it-qat-uncensored-heretic-UDmerge-GGUF，将 llmfan46 的 abliterated 张量合并到 Unsloth 无损 Q4_0 量化中，称可获得比朴素消融量化更好的准确率和拒绝率。提供两个变体，UDmerge-Q4_K_XL 将 attn_output.weight（blk.10 至 blk.35）量化为 Q4_0，UDmerge-Q4_K_XXL 量化为 Q8_0，后者拒绝率 20%，与 QAT BF16 持平，且基本不影响 TG 速度；实测 QAT Q4_0 拒绝率为 32%。
推荐理由
作者用统一的 PPL、KLD、拒绝率和 MMLU 数据对比了合并版与朴素消融量化的差异，Q8_0 变体把拒绝率压回 20%。
来源：Hugging Face · 新模型：uncensored · huggingface.co