跳到正文
我的
Hugging Face · 新模型:abliterated·· 21 小时前精选AI 评分79

LiquidAI LFM3-1.7B 去 refusal 版 GGUF 发布,拒绝率从 87% 降到约 3%

orcarouter/LFM3-1.7B-abliterated-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/orcarouter/LFM3-1.7B-abliterated-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

orcarouter 在 Hugging Face 发布 LiquidAI/LFM3-1.7B 的 abliterated 版本 GGUF,用 diff-of-means 在 BF16 权重中移除一个 refusal direction,有害提示词拒绝率从 87.3% 降到平均 2.8%,GSM8K 和 CMMLU 不变,MMLU 降 3.3 pp。提供 BF16、Mix-8bit(1.84 GB)和 Mix-4bit(1.10 GB)三种构建,混合精度量化在相同文件大小下 KLD 比 Q8_0 低 24%、比 Q4_K_M 低 16%,量化后各构建在 JailbreakBench 上拒绝率为 0%,与 BF16 一致。需 llama.cpp PR #31252 或更新版本,仅供可解释性与安全研究等合法用途。

推荐理由

原文给出了完整的拒绝率前后数据和量化保真度对比,读者可以据此判断这个 abliterated 版本到底去掉了多少对齐、量化损失多大。

来源:Hugging Face · 新模型:abliterated · huggingface.co

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。