arXiv · cs.CL· Yuanwei Wu·· 11 天前精选AI 评分62
ECHO 论文提出以回复有害性替代合规代理的优化式越狱攻击方法
ECHO: Replacing the Compliance Proxy with Response Harmfulness in Optimization-Based Jailbreak Attack
来源与原文
arXiv · cs.CL
作者：Yuanwei Wu
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.23030v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
论文提出 ECHO（Evaluation-Conditioned Harmfulness Optimization），用基于实际有害能力的 1.7B 回归器 HarmSig 给出的回复级连续有害性评分，替代现有优化式攻击中以肯定前缀等提示层 token 级合规代理为目标的做法。方法结合五个词级扰动算子与带全局 top-m 记忆的 Keyword-Anchored Beam Search，在严格黑盒威胁模型下，对五个开源模型在 AdvBench 上取得最高 0.898 的 StrongREJECT 均分和 89.23% 的 HarmBench 成功率，代码已公开。
推荐理由
论文把越狱攻击的优化目标从提示层合规代理换成回复层连续有害性评分，评测方法和代码都开源，可复现。
来源：arXiv · cs.CL · arxiv.org