跳到正文
Hugging Face · 新模型:uncensored·· 12 天前精选AI 评分62

OS-Software 发布 llm-jp-4.1-32b-a3b-thinking 的去对齐 GGUF 版本

OS-Software/llm-jp-4.1-32b-a3b-thinking-uncensored-heretic-GGUF

来源与原文

Hugging Face · 新模型:uncensored

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/OS-Software/llm-jp-4.1-32b-a3b-thinking-uncensored-heretic-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

OS-Software 用 Heretic 消融方法的自定义 fork 制作了 llm-jp/llm-jp-4.1-32b-a3b-thinking 的去对齐版本,并以 GGUF 格式发布。在 Q4_K_M 量化权重上实测,100 个日语有害提示词的拒绝率从原版的 100/100 降到 0/100,首 token KL 散度为 0.0205;MMLU 为 68.89%(原版 69.00%),HumanEval pass@1 为 89.63%(原版 90.85%)。作者提示该模型安全对齐被大幅削弱,仅建议用于研究与实验,输出应视为不可信并自行验证。

推荐理由

作者给出了消融参数、拒绝率从 100/100 降到 0/100 以及 MMLU 和 HumanEval 的前后对比,可据此评估去对齐的代价。

来源:Hugging Face · 新模型:uncensored · huggingface.co