跳到正文
arXiv · cs.AI· Hasan Demirkiran·· 12 天前精选AI 评分55

LinguaGuardBench 揭示语言是 Agent 安全守卫的攻击面

Language Is a Security Surface for Agent Guards

来源与原文

arXiv · cs.AI

作者:Hasan Demirkiran

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.22244v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

作者构建 LinguaGuardBench,基于 TS-Bench AgentDojo-Traj 的 1220 个标注步骤,仅将用户指令译为德语、法语、土耳其语、斯瓦希里语和阿姆哈拉语,检验 Agent 守卫判定是否受请求语言影响。在 19 个守卫中,多数开源小型和专用守卫的判定翻转超出自身噪声底,专用守卫最敏感;13B 以下九个守卫经安慰剂校正的翻转率从法语的 +1.5 pp 升至阿姆哈拉语的 +4.4 pp,12-30B 开源守卫更多误拦良性步骤(最高 +5.0 pp),10B 以下守卫出现召回损失(最高 -7.4 pp);前沿守卫偏移至多约一个百分点,Gemini 3.8 Flash 最稳定。基准和全部 489k 判定已开源。

推荐理由

研究把用户指令译成多语言而其余轨迹不变,分离出语言本身对 Agent 守卫判定的影响,方法设计和 489k 判定数据都可复用。

来源:arXiv · cs.AI · arxiv.org