跳到正文
GitHub · 去对齐工具与仓库·· 17 天前精选AI 评分72

开源库 figured 发布:对 LLM 回答中的数字和 Agent 工具调用参数做无参考溯源检查

nisheshshukla/figured

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/nisheshshukla/figured

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

GitHub 开源库 figured 发布,提供两类无参考、确定性的在线评测,对每个回答的数字和每次工具调用参数溯源,单次检查约 150 µs、每次工具调用约 25 µs(p99 0.19 ms),零依赖、无模型调用,Python 3.10+,pip install figured 可装。库支持 before_call 的 allow/warn/block/confirm 四种裁决、来源规则限制值只能来自指定通道(可拦下间接提示注入类载荷)、重复调用与预算检查,并能重放 OpenAI、Anthropic、Gemini、Bedrock、LangChain 及 tau-bench、AgentDojo 等格式的记录用于离线评测和 CI。

推荐理由

原文给出基准实测数字、延迟数据和局限清单,读者可据此判断这套无参考确定性检查是否适合接入生产流量。

来源:GitHub · 去对齐工具与仓库 · github.com