跳到正文
  1. arXiv · cs.CL56

    PatchBench 基准提出局部评测协议,衡量越狱修复对无关行为的附带损害

    论文发布 PatchBench,指出安全补丁可能通过基准测试却压制无关行为,提出 PatchBench-Local 协议评测补丁的行为精确性。该协议从 27,870 个提示中筛选出 400 个高置信越狱失败案例,为每个有害源提示生成有害变体与两类良性邻居提示;对四种 activation steering 方法的评测显示全局能力几乎不变时局部良性回归可能很严重。论文已被 NeurIPS 2026 Datasets and Benchmarks Track 接收,地址 https://arxiv.org/abs/2610.10276v1。

    推荐理由:提出用局部邻居提示区分选择性修复与局部压制的评测协议,可迁移到越狱修复方法的对比评估中。

  1. arXiv · cs.CL59

    arXiv 论文提出 CAP 指标发现被抑制的 LLM 安全特征

    arXiv 论文(arXiv:2610.05541)提出反事实激活势 CAP,量化被抑制安全特征的潜在激活倾向,并给出两阶段筛选算法 CSFD,从数十万 transcoder 特征中定位候选安全特征。

    推荐理由:论文提出量化被抑制安全特征的 CAP 指标和两阶段筛选算法,实验覆盖 Gemma、Qwen、Llama 五个模型,可作机制可解释性方法的补充。

已经到底了