GitHub · 灵魂体仓库·· 2 天前AI 评分23
Cal Poly SLO 开源 CANARY：面向工具调用 LLM Agent 的提示词注入测量与隔离评估框架
marek-sm/CANARY
来源与原文
GitHub · 灵魂体仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/marek-sm/CANARY
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Cal Poly SLO CS + AI Club 在 GitHub 开源 CANARY，一个用于测量和隔离工具调用 LLM Agent 中间接提示词注入的受控评估项目。它将“模型提出的不安全行为”与“系统实际允许的效果”分开记录，并量化每种防护措施对正常任务的代价。实验仅使用本地虚构 fixture 和 fake sink，无网络外发；开发模型为 claude-haiku-5-5，备选 gpt-6-luna，防护方案包括 D1_POLICY_GATE 和 D2_DATAMARKING。
来源：GitHub · 灵魂体仓库 · github.com