跳到正文
arXiv · cs.AI· Sreehari Sankar·· 21 天前精选AI 评分54

LeanGuard:用 Lean4 验证的工具调用护栏运行时

LEANGUARD: Lean-Verified Guardrails for Tool-Using Agents

来源与原文

arXiv · cs.AI

作者:Sreehari Sankar

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2611.02332v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

论文提出 LeanGuard,一个在工具调用进入环境前用 Lean4 编写策略逐一校验的运行时,决策过程经证明与 LeanLTL 语义等价且评估为 fail-closed。在 Tau-Bench 上五个 Qwen 模型(0.8B-27B)的无护栏智能体至少执行 33 次被策略禁止的调用,LeanGuard 为零;在 DTap 上直接提示词注入成功率从 57.9% 降至 5.9%。被拒调用可通过反馈提示或证明引导修复纠正,修复在 252 个参数值导致的拒绝中为 88 个证明了可采纳修改,中位耗时 2ms。

推荐理由

论文给出 Lean4 形式化策略校验的运行时设计,并在 Tau-Bench 与 DTap 上报告违规调用与注入成功率的前后数据。

来源:arXiv · cs.AI · arxiv.org