arXiv · cs.AI· Dongxu Yang·· 11 天前精选AI 评分53
FDE-Gym 基准发布:评测 AI 智能体的真实客户交付能力
FDE-Gym: The Last Mile of AI Delivery
来源与原文
arXiv · cs.AI
作者:Dongxu Yang
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.22350v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
arXiv 论文提出 FDE-Gym 基准,包含来自 20 个真实客户场景、18 个行业的 95 个端到端交付任务,考察智能体澄清模糊需求、发现未言明约束并在生产级系统上交付方案的能力。评分以客户自身成功指标的改进归一化(0 到 1),并对与利益相关者的交互(消息、试运行、等待时间)施加惩罚;同时评测了 7 家提供商的 13 个模型配置,最佳配置平均分 0.56,仅完成 14/95 个任务(得分至少 0.8 且无事故)。主要瓶颈是发现未言明约束,但即便在 23 个拿到全部关键事实的任务上,最佳配置也只有 10 个达到 0.8 以上的业务提升,显示解决明确任务与真实客户交付之间存在显著差距。配套有在线练习平台、代码和数据。
推荐理由
基准把交付结果量化为对客户业务指标的改进,还给出 13 个模型配置的实测对比和瓶颈定位,便于评估真实交付能力差距。
来源:arXiv · cs.AI · arxiv.org