跳到正文
Hugging Face · 新模型:abliterated·· 11 天前精选AI 评分66

distributedcognition 发布 Mellum2.1-12B-A2.5B-Thinking 的 abliterated 去对齐版本

distributedcognition/Mellum2.1-12B-A2.5B-Thinking-abliterated

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/distributedcognition/Mellum2.1-12B-A2.5B-Thinking-abliterated

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

distributedcognition 在 Hugging Face 发布 JetBrains/Mellum2.1-12B-A2.5B-Thinking 的 abliterated 版本,用投影式 writer 级消融从权重中移除拒绝方向,gated alpha 0.8 下 104 条有害提示的 judge 拒绝从 12 降到 5,MMLU-14k 仅降 0.05pp。发布包含逐层拒绝方向文件(refusal_directions.pt、dirs.npz)供任意强度重消融,完整评测原始数据在 eval-results/,GGUF Q8_0 量化可在 llama.cpp、LM Studio、Ollama、Jan 运行,Apache 2.0 许可。

推荐理由

原文给出消融方法细节和拒绝率、MMLU 前后对比数据,读者可据此判断这个去对齐版本的实际代价。

来源:Hugging Face · 新模型:abliterated · huggingface.co