llm-refusal 项目复现并扩展 Arditi 与 Obeso 的单一方向拒绝机制论文

Darby79797 在 GitHub 开源 llm-refusal 项目，独立复现并扩展 Arditi 和 Obeso 的论文《Refusal in Language Models is Mediated by a Single Direction》，第 1 部分已在全部 7 个模型上完成 §2-4，并发现仅编辑 r̂ 所在层之前的块即可移除拒绝、重新长出的拒绝需要 8-16 个拒绝样本、rank-one 开关连重新长出的拒绝也能移除。第 2 部分发现 empathy 方法在 6/7 个模型上有效，谄媚响应对比方向在 Qwen2.5-0.5B 上最高诱导 83%；第 3 部分 7 种行为均可在 Llama-2-7B 上转向并在第 11-13 层达到峰值，其余 6 个模型需 ×2 强度。