跳到正文
Hugging Face · 新模型:abliterated·· 20 天前精选AI 评分78

MiMo-V2.6-Distill-Qwen-9B 发布 abliterated 版,拒绝率从 78.1% 降至 9.4%

Flexingmeow/MiMo-V2.6-Distill-Qwen-9B-Abliterated

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/Flexingmeow/MiMo-V2.6-Distill-Qwen-9B-Abliterated

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

作者 Hadi 对 XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B(MIT 许可)做拒绝消融,在 Hugging Face 发布 Flexingmeow/MiMo-V2.6-Distill-Qwen-9B-Abliterated(D 激进变体),拒绝率从 78.1% 降到 9.4%,数学推理准确率保持 100%,困惑度变化小于 0.03 NLL。因 qwen3_5 混合注意力架构不被现有工具支持,作者自写了基于 transformers 的管线,全程 CPU 完成。关键发现是拒绝方向必须从生成的回复区提取,在提示词末 token 提取的方向消融后无效(KL ≈ 1e-7,拒绝率不变);作者也提示评测集较小且微调可能重新引入拒绝。

推荐理由

原文给出完整消融方法、拒绝率前后数据和评估局限,还提出推理模型需在生成区提取拒绝方向的可迁移结论。

来源:Hugging Face · 新模型:abliterated · huggingface.co