跳到正文
GitHub · 去对齐工具与仓库·· 19 天前精选AI 评分58

yuttii 开源 agent-execution-guard 拦截 LLM Agent 中间不安全步骤

yuttii/agent-execution-guard

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/yuttii/agent-execution-guard

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

yuttii 在 GitHub 发布 agent-execution-guard,一个拦截 LLM Agent 中间步骤的中间件,提供工具调用策略检查、不安全计划检测和指标统计。它以 Final ASR、Intermediate Compromise Rate 等指标区分最终回答与 Agent 实际执行的行为,支持 block、warn、log_only 三种模式和 @guard.guarded() 装饰器,兼容 LangChain、LangGraph、LiteLLM。作者说明演示基于脚本化场景和 mock 工具,基于模式的计划检查可被改写绕过,路径检查存在 TOCTOU 缺口,建议用 AgentDojo 或 AgentHarm 做真实评测。

推荐理由

原文给出了拦截 LLM 智能体中间步骤的工具设计与局限说明,读者可以了解只看最终回答会漏掉哪些不安全行为。

来源:GitHub · 去对齐工具与仓库 · github.com