arXiv · cs.AI· Woosang Lim·· 1 天前AI 评分49
SPILLWAY：将目标准入与净化分离，防御工具调用智能体的提示注入攻击
SPILLWAY: Separating Target Admission from Sanitization to Defend Tool-Using Agents against Prompt Injection
来源与原文
arXiv · cs.AI
作者：Woosang Lim
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2611.07222v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
SPILLWAY 通过读取工具的类型化返回值判断动作目标，将目标准入与净化分离，无需逐任务规划即可为工具调用智能体建立确定性的拒绝底线。在三个骨干模型和七个任务套件上，标准模板化注入均无法将动作重定向至攻击者目标，同时取得所测防御中最高的平均效用与 NRP、ERS 综合分数；在已发布的强化学习攻击者下，范围内平均攻击成功率为 .007。该防御几乎不增加模型调用，也不触发骨干模型重跑。
来源：arXiv · cs.AI · arxiv.org
这条消息，你怎么看？
把新闻带到 MickerBook，和社区伙伴聊聊；也可以去 AIHER 看看模型背后的角色与梗。