跳到正文
GitHub · 去对齐工具与仓库·· 4 天前精选AI 评分61

TaintGate v0.1.0 开源:面向 LLM 智能体的信息流防火墙

guru-bharadwaj20/TaintGate

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/guru-bharadwaj20/TaintGate

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

guru-bharadwaj20 发布 TaintGate v0.1.0,一个让标签随值流动、用确定性 Datalog 策略审查每次工具调用的 LLM 智能体信息流防火墙。受信任 planner 只见可信请求,不可信内容由无工具提取器转成带标签值,MCP 网关在副作用前询问策略引擎并输出可解释的 allow/deny 与带 Merkle 证明的审计日志。AgentDojo v1 对比在 Qwen2.5-0.5B-Instruct CPU 环境下完成 4,356 次评分运行,作者明确称其为下限而非胜利,因 0.5B 模型很少产生有效工具调用,对比未能区分各防御方案;策略检查中位开销 0.6 ms。

推荐理由

作者把 AgentDojo 对比明确定位为下限而非胜利,并保留负面结果,可据此了解这套信息流防火墙的实际边界。

来源:GitHub · 去对齐工具与仓库 · github.com