GitHub · 去对齐工具与仓库·· 1 小时前精选AI 评分61
llm-agent-injection-benchmark 实测 GPT-4o 邮件智能体提示注入攻击成功率
Lifsaa/llm-agent-injection-benchmark
来源与原文
GitHub · 去对齐工具与仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/Lifsaa/llm-agent-injection-benchmark
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
该项目用 100 条攻击、10 个类别、4 种防御条件共 400 次 GPT-4o 运行，测出无防御时攻击成功率为 20%，Spotlighting 与 MELON-Aug 组合后降到 7%。两种防御各自单独使用时分别为 11% 和 18%，但 MELON 需要二次模型调用，每次运行的 token 从 970 增至 2,012。伪造对话轮次的劫持类攻击仍最难防，无防御时成功率 78%，两种防御同时开启后为 39%，其余类别均在 10% 及以下。
推荐理由
原文给出了 GPT-4o 邮件智能体在四种防御条件下的攻击成功率与 token 成本对比，读者可据此判断两种防御各自的代价。
来源：GitHub · 去对齐工具与仓库 · github.com
这条消息，你怎么看？
把新闻带到 MickerBook，和社区伙伴聊聊；也可以去 AIHER 看看模型背后的角色与梗。