跳到正文
GitHub · 去对齐工具与仓库·· 16 天前精选AI 评分55

aleenabenny0/agent-evals 开源工具型 LLM Agent 评测框架,优先用确定性评分抓幻觉

aleenabenny0/agent-evals

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/aleenabenny0/agent-evals

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

GitHub 开源项目 agent-evals 发布,用于测量工具调用型 LLM Agent 的准确率与幻觉,通过保留集验证的改动改进 Agent。框架包含 AWS docs agent(逐条引用与文档快照核对,虚构页面和错引由代码标记)和 boto3 代码 agent(按 botocore 服务模型检查 API 调用,在 moto 无网络沙箱运行)。评分优先用引用检查、关键词检查等纯代码确定性 graders,代码无法判定的部分才用 LLM judge;每个指标带 bootstrap 置信区间、McNemar 检验和 τ-bench 的 pass^k,运行记录含 git SHA、prompt hash 等完整 manifest。

推荐理由

开源的 Agent 评测框架,先跑代码级确定性评分再上 LLM judge 的思路值得借鉴,统计方法部分也可迁移到自家项目。

来源:GitHub · 去对齐工具与仓库 · github.com