跳到正文
GitHub · 灵魂体仓库·· 3 天前精选AI 评分59

新加坡国立大学开源 trace-and-gate:邮件 Agent 间接提示词注入防御对比实验

Rick-sys-cell/trace-and-gate

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/Rick-sys-cell/trace-and-gate

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

新加坡国立大学 ESP3201A 课程项目 trace-and-gate 在 GitHub 开源,针对能收发邮件的 LLM 邮件助手,对比溯源追踪与策略检查两类防御对抗间接提示词注入的效果。Qwen3-8B 本地实测中,无防御基线攻击成功率 33.0%,Dual-LLM 为 2.1%,溯源追踪 D1 为 0%,策略检查 D2 为 1.0%,D1h 在套件 v2 复测中攻击成功率 0% 且正常任务完成率与基线持平(87.5%)。项目含 Docker 沙箱环境、LLMail-Inject 真实攻击采样与 AgentDojo 桥接,第 10 周将加入冻结防御后编写的 held-out 攻击集。

推荐理由

项目给出了五种防御配置的攻击成功率与正常任务完成率对照数据,可用来比较溯源追踪与策略检查这两类防注入思路的代价。

来源:GitHub · 灵魂体仓库 · github.com