跳到正文
Hugging Face · 新模型:uncensored·· 1 小时前精选AI 评分65

AtomicChat 发布 LFM3-1.7B 无对齐 GGUF 量化版本

Centerjon/LFM3-1.7B-Uncensored-GGUF

来源与原文

Hugging Face · 新模型:uncensored

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/Centerjon/LFM3-1.7B-Uncensored-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

AtomicChat 团队发布 LiquidAI/LFM3-1.7B 的安全消融 GGUF 版本,将投影 rank-1 LoRA 以 W*=2.0 烘焙进权重后做 AD 量化。实测有害提示拒绝率从 61.7% 降到 0.0%,XSTest 误拒从 5.2% 降到 0.0%,MMLU 保持 41.0% 无下降,长上下文 needle 测试 3/3 通过;提供 AD-Q6_K(7.31GB)和 AD-Q4_K_M(1.1GB)两档量化,需合并了 LFM3 支持的 llama.cpp 版本运行,采用 LFM Open License v1.0。

推荐理由

原文给出了拒绝率、MMLU 和 ΔKLD 的前后实测对比,还用同规模随机编辑作对照,可据此判断这次去对齐的代价。

来源:Hugging Face · 新模型:uncensored · huggingface.co