Hugging Face · 新模型:uncensored·· 12 天前精选AI 评分62
OS-Software 发布 llm-jp-4.1-32b-a3b-thinking 的去对齐 GGUF 版本
OS-Software/llm-jp-4.1-32b-a3b-thinking-uncensored-heretic-GGUF
来源与原文
Hugging Face · 新模型:uncensored
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/OS-Software/llm-jp-4.1-32b-a3b-thinking-uncensored-heretic-GGUF
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
OS-Software 用 Heretic 消融方法的自定义 fork 制作了 llm-jp/llm-jp-4.1-32b-a3b-thinking 的去对齐版本,并以 GGUF 格式发布。在 Q4_K_M 量化权重上实测,100 个日语有害提示词的拒绝率从原版的 100/100 降到 0/100,首 token KL 散度为 0.0205;MMLU 为 68.89%(原版 69.00%),HumanEval pass@1 为 89.63%(原版 90.85%)。作者提示该模型安全对齐被大幅削弱,仅建议用于研究与实验,输出应视为不可信并自行验证。
推荐理由
作者给出了消融参数、拒绝率从 100/100 降到 0/100 以及 MMLU 和 HumanEval 的前后对比,可据此评估去对齐的代价。
来源:Hugging Face · 新模型:uncensored · huggingface.co