arXiv · cs.AI· Haoran Bu·· 2 天前精选AI 评分53
Role Grounding Attack：通过社交交互篡改 Agent 记忆偏好归属的攻击形式化
Is it my preference? Role Grounding Attack against Agent's Memory via Social Interaction
来源与原文
arXiv · cs.AI
作者：Haoran Bu
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.38209v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
论文首次形式化了 Role Grounding Attack（RGA），利用经验分享帖中的嵌套会话结构，使受害 Agent 把攻击者的偏好错误记录为用户偏好。作者将该攻击实例化为工具选择操纵和隐私泄露两种形式，并在五个主流记忆系统和六个语言模型上评估，两种攻击均取得较高成功率。
推荐理由
论文形式化了 Agent 记忆系统中的角色归属漏洞，并给出跨五个记忆系统、六个模型的攻击实测成功率。
来源：arXiv · cs.AI · arxiv.org