Hugging Face · 新模型:abliterated·· 17 天前精选AI 评分69
LFM3-1.7B-Abliterated-GGUF 发布,拒绝率从 40/84 降至 0/84
onemunanoyo/LFM3-1.7B-Abliterated-GGUF
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/onemunanoyo/LFM3-1.7B-Abliterated-GGUF
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
onemunanoyo 在 Hugging Face 发布 LiquidAI/LFM3-1.7B 的去对齐 GGUF 版本,仅做权重编辑、无训练或蒸馏,从第 4-23 层的 40 个 residual-writer 矩阵中移除拒绝方向。自建评测中拒绝率从基线 40/84 降到 0/84,知识正确率 48/80 与基线 49/80 基本持平;提供 BF16 至 Q4_K_M 四种量化,Q8_0 推荐使用,Q4_K_M PPL 增加 2.3%。需 llama.cpp b12040 以上版本,thinking 默认开启,建议 max_tokens 不低于 4096。采用 LFM Open License v1.0,年营收低于 1000 万美元的实体方可商用。
推荐理由
原文给出拒绝方向消融方法和基线对照的拒绝率与知识成绩数据,可以据此评估这个去对齐版本的实际改动幅度。
来源:Hugging Face · 新模型:abliterated · huggingface.co