跳到正文
arXiv · cs.CL· Hexuan Deng·· 19 天前AI 评分48

SWE-Journey:通过长程多轮交互更真实地评测编程助手

SWE-Journey: Towards More Realistic Evaluation of Coding Assistants through Long-Horizon, Multi-Turn Interaction

来源与原文

arXiv · cs.CL

作者:Hexuan Deng

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.11559v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

研究者推出编程助手评测基准 SWE-Journey,用 weak-to-strong 合成流水线自动构建长程编码任务,并基于真实交互数据挖掘四种用户画像、构建用户模拟智能体还原多轮交互。实验显示,模型在软件架构师场景下平均通过超过 75% 的功能测试,非程序员场景下则不足 25%。作者将差距归因于 asking right、finding right 和 fixing right 三项关键能力。

来源:arXiv · cs.CL · arxiv.org