跳到正文
arXiv · cs.AI· Zhengxi Li·· 17 天前AI 评分46

SkillForgeBench 发布:基于 Agent 技能规范的智能体可靠性评测基准

SkillForgeBench: Evaluating Agent Reliability Grounded in Agent Skill Specifications

来源与原文

arXiv · cs.AI

作者:Zhengxi Li

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.14918v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

SkillForgeBench 是一个以 agent 技能为执行蓝图的智能体可靠性评测基准,含 842 个跨五大专业领域的 sandboxed 任务,对 8 个主流 agent 进行严格评分,Opus 4.8 以 40.9% 的 strict completion 率居首。结果显示所有模型层级在满足全部约束时表现大幅下滑(70.0%-85.7% 的单项通过率降至 12.6%-40.9%),且各模型的过程 rubric 达成率远低于完成 rubric(Haiku 4.5 不足 3%),说明仅看完成度会高估真实可靠性。

来源:arXiv · cs.AI · arxiv.org