Cal Poly SLO 开源 CANARY 提示词注入评估框架
热点事件观察中
Cal Poly SLO 开源 CANARY 提示词注入评估框架
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
Cal Poly SLO CS + AI Club 在 GitHub 开源 CANARY，一个面向工具调用 LLM Agent 的受控评估项目，用于测量和隔离间接提示词注入。它将模型提出的不安全行为与系统实际允许的效果分开记录，并量化每种防护措施（如 D1_POLICY_GATE、D2_DATAMARKING）对正常任务的代价。实验仅使用本地虚构 fixture 和 fake sink，无网络外发；开发模型为 claude-haiku-5-5，备选 gpt-6-luna。 项目 README 明确说明：样本规模、试验次数、结果占位符和防护名称只是协议承诺而非已完成的研究结果；在冻结证据支持之前，不得将实验描述为已运行、防护已生效或产物已发布；仓库未附 LICENSE 文件前不隐含任何复用许可。
AI 根据报道生成 · 1 天前更新
最新进展10月26日 07:24
Cal Poly SLO 开源 CANARY：面向工具调用 LLM Agent 的提示词注入测量与隔离评估框架报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- GitHub · 灵魂体仓库Cal Poly SLO 开源 CANARY：面向工具调用 LLM Agent 的提示词注入测量与隔离评估框架
Cal Poly SLO CS + AI Club 在 GitHub 开源 CANARY，一个用于测量和隔离工具调用 LLM Agent 中间接提示词注入的受控评估项目。它将“模型提出的不安全行为”与“系统实际允许的效果”分开记录，并量化每种防护措施对正常任务的代价。实验仅使用本地虚构 fixture 和 fake sink，无网络外发；开发模型为 claude-haiku-5-5，备选 gpt-6-luna，防护方案包括 D1_POLICY_GATE 和 D2_DATAMARKING。
本事件热度走势
- 可比范围当前
- 4
- 可比范围峰值
- 1010月26日 08:00
- 近 24 小时变化
- -51%
02.557.510
12:0018:0010月27日06:0012:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。