跳到正文
Hugging Face · 新模型:uncensored·· 11 天前精选AI 评分66

OS-Software 发布 LFM2.5-24B-A2B-Uncensored-Heretic 去对齐版本

OS-Software/LFM2.5-24B-A2B-Uncensored-Heretic

来源与原文

Hugging Face · 新模型:uncensored

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/OS-Software/LFM2.5-24B-A2B-Uncensored-Heretic

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

OS-Software 基于 LiquidAI/LFM2.5-24B-A2B 发布去对齐版本,用自研 Heretic fork 只改动 layers 18、22、26 的 self_attn.out_proj 权重并烘焙进 BF16。实测 100 条日语有害提示词的拒绝率从原版 94-99/100 降到 0-1/100,QAD Q4_0 的 MMLU 为 55.35%(较原版 -0.62),并提供 Q4_0 到 Q8_0 多档 GGUF;模型仍会先思考再回答,输出偏长,建议 8k 以上输出预算,仅供研究实验用途。

推荐理由

作者给出了各量化档位的拒绝率前后对比和 KL 散度、MMLU 数据,可以据此评估这个去对齐版本改动幅度与能力损失。

来源:Hugging Face · 新模型:uncensored · huggingface.co