Reddit用户低秩权重编辑降低Qwen3.8-27B拒绝率并发布权重
先了解这件事
Reddit用户/u/FeydRowan对Qwen3.8-27B做低秩权重编辑(abliteration式)以降低拒绝率,并将编辑后的GGUF权重发布在Hugging Face(Qwen3.8-27B-refusal-band-ablation-experiment)。编辑无需训练、可逆,仅由28个小向量描述,限定在第20-47层(共64层),每层单一方向。作者称拒绝率整体下降约50%,且在Q8下MMLU-Pro 73%、GSM8K 93%与基线持平。 效果并不均匀:作者在9个类别(40条提示×10)的测试中称,接受率从约76%到约10%不等,且多数被接受的是带免责声明、只给部分帮助的回答。作者指出,将编辑限制在该层带内是保留能力的关键——若对全部64层编辑,MMLU-Pro会从73%跌到9%。作者还称此类编辑可通过权重量审计检测到,并建议开放权重附带签名哈希。
AI 根据报道生成 · 14 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- Reddit · r/LocalLLaMA精选对 Qwen3.8-27B 做低秩权重编辑降低拒绝率,实测能力几乎无损
/u/FeydRowan 对 Qwen3.8-27B 做了低秩权重编辑以降低拒绝率,编辑限定在第 20-47 层(共 64 层),每层单一方向,无训练且可逆,仅由 28 个小向量描述。限制在层带内可保留能力:Q8 下 MMLU-Pro 73%、GSM8K 93% 与基线持平,而全 64 层编辑会让 MMLU-Pro 从 73% 跌到 9%。拒绝率整体下降约 50%,但效果按 9 个类别不均匀,接受率从约 76% 到约 10%,多数为带免责声明的部分帮助。权重已以 GGUF 发布于 https://huggingface.co/Feyd89/Qwen3.8-27B-refusal-band-ablation-experiment ,作者还指出此类编辑可通过权重量审计检测到,建议开放权重附带签名哈希。
本事件热度走势
- 可比范围当前
- 7
- 可比范围峰值
- 1011月6日 02:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。