跳到正文
arXiv · cs.AI· Dongxu Yang·· 11 天前精选AI 评分53

FDE-Gym 基准发布:评测 AI 智能体的真实客户交付能力

FDE-Gym: The Last Mile of AI Delivery

来源与原文

arXiv · cs.AI

作者:Dongxu Yang

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.22350v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

arXiv 论文提出 FDE-Gym 基准,包含来自 20 个真实客户场景、18 个行业的 95 个端到端交付任务,考察智能体澄清模糊需求、发现未言明约束并在生产级系统上交付方案的能力。评分以客户自身成功指标的改进归一化(0 到 1),并对与利益相关者的交互(消息、试运行、等待时间)施加惩罚;同时评测了 7 家提供商的 13 个模型配置,最佳配置平均分 0.56,仅完成 14/95 个任务(得分至少 0.8 且无事故)。主要瓶颈是发现未言明约束,但即便在 23 个拿到全部关键事实的任务上,最佳配置也只有 10 个达到 0.8 以上的业务提升,显示解决明确任务与真实客户交付之间存在显著差距。配套有在线练习平台、代码和数据。

推荐理由

基准把交付结果量化为对客户业务指标的改进,还给出 13 个模型配置的实测对比和瓶颈定位,便于评估真实交付能力差距。

来源:arXiv · cs.AI · arxiv.org