arXiv · cs.AI· Zhengxi Li·· 17 天前AI 评分46
SkillForgeBench 发布:基于 Agent 技能规范的智能体可靠性评测基准
SkillForgeBench: Evaluating Agent Reliability Grounded in Agent Skill Specifications
来源与原文
arXiv · cs.AI
作者:Zhengxi Li
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.14918v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
SkillForgeBench 是一个以 agent 技能为执行蓝图的智能体可靠性评测基准,含 842 个跨五大专业领域的 sandboxed 任务,对 8 个主流 agent 进行严格评分,Opus 4.8 以 40.9% 的 strict completion 率居首。结果显示所有模型层级在满足全部约束时表现大幅下滑(70.0%-85.7% 的单项通过率降至 12.6%-40.9%),且各模型的过程 rubric 达成率远低于完成 rubric(Haiku 4.5 不足 3%),说明仅看完成度会高估真实可靠性。
来源:arXiv · cs.AI · arxiv.org