Hugging Face · 新模型:uncensored·· 12 天前精选AI 评分62
AtomicChat 发布 Ternary-Bonsai-2-2B 去对齐 LoRA 适配器(GGUF)
AtomicChat/Ternary-Bonsai-2-2B-Uncensored-LoRA-GGUF
来源与原文
Hugging Face · 新模型:uncensored
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/AtomicChat/Ternary-Bonsai-2-2B-Uncensored-LoRA-GGUF
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
AtomicChat 发布 Ternary-Bonsai-2-2B-gguf 的 rank-1 投影 LoRA,通过移除 attn_output、ssm_out、ffn_down 中的拒绝方向实现去对齐,基础权重不变,以适配器形式发布。拒绝率从 87.5% 降到 0.0%,无害提示误拒为 0.0%,MMLU(n=300)从 31.7 变为 34.3;推荐 scale 1.0(1.5 开始退化),残差泄漏约 1e-4,作者标注为研究级产物,完整逐条日志在 -metrics 仓库。
推荐理由
原文给出拒绝率与 MMLU 前后对比数据,并说明残差泄漏等局限,读者可据此判断该去对齐适配器的实际代价。
来源:Hugging Face · 新模型:uncensored · huggingface.co