MiMo-V2.6-Distill-Qwen-9B 发布 abliterated 版,拒绝率从 78.1% 降至 9.4%
作者 Hadi 对 XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B(MIT 许可)做拒绝消融,在 Hugging Face 发布 Flexingmeow/MiMo-V2.6-Distill-Qwen-9B-Abliterated(D 激进变体),拒绝率从 78.1% 降到 9.4%,数学推理准确率保持 100%,困惑度变化小于 0.03 NLL。因 qwen3_5 混合注意力架构不被现有工具支持,作者自写了基于 transformers 的管线,全程 CPU 完成。关键发现是拒绝方向必须从生成的回复区提取,在提示词末 token 提取的方向消融后无效(KL ≈ 1e-7,拒绝率不变);作者也提示评测集较小且微调可能重新引入拒绝。
推荐理由:原文给出完整消融方法、拒绝率前后数据和评估局限,还提出推理模型需在生成区提取拒绝方向的可迁移结论。