Hugging Face · 新模型:uncensored·· 11 天前精选AI 评分66
OS-Software 发布 LFM2.5-24B-A2B-Uncensored-Heretic 去对齐版本
OS-Software/LFM2.5-24B-A2B-Uncensored-Heretic
来源与原文
Hugging Face · 新模型:uncensored
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/OS-Software/LFM2.5-24B-A2B-Uncensored-Heretic
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
OS-Software 基于 LiquidAI/LFM2.5-24B-A2B 发布去对齐版本,用自研 Heretic fork 只改动 layers 18、22、26 的 self_attn.out_proj 权重并烘焙进 BF16。实测 100 条日语有害提示词的拒绝率从原版 94-99/100 降到 0-1/100,QAD Q4_0 的 MMLU 为 55.35%(较原版 -0.62),并提供 Q4_0 到 Q8_0 多档 GGUF;模型仍会先思考再回答,输出偏长,建议 8k 以上输出预算,仅供研究实验用途。
推荐理由
作者给出了各量化档位的拒绝率前后对比和 KL 散度、MMLU 数据,可以据此评估这个去对齐版本改动幅度与能力损失。
来源:Hugging Face · 新模型:uncensored · huggingface.co