GitHub · 去对齐工具与仓库·· 20 天前AI 评分44
AdaptiGuard:LLM 智能体防御评测中测量有效性的实证案例研究
MohammadRezaShiraziMatin/Adapti-guard
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/MohammadRezaShiraziMatin/Adapti-guard
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
AdaptiGuard 是一项实证案例研究,展示对 LLM 智能体防御的评测中测量决策如何改变同一批 traces 上的结论。研究对 prompt-injection 攻击下工具调用智能体的冻结运行重新打分,考察成功终点、拦截 payload 标注、逐模型报告与噪声底线等选择如何影响评测结果。仓库明确表示不提出 SOTA 防御或通用 benchmark,完整 harness 未公开,历史复现需 Python >= 3.12。
来源:GitHub · 去对齐工具与仓库 · github.com