跳到正文
arXiv · cs.AI· Zhonghao Jiang·· 1 天前AI 评分34

ExLabel:用自我进化智能体评估 SWE 风格数据集的任务清晰度与测试覆盖

Well-Specified and Well-Tested? Assessing SWE-bench-Style Datasets with a Self-Evolving Agent

来源与原文

arXiv · cs.AI

作者:Zhonghao Jiang

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.39417v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

研究者提出 ExLabel,一个基于 LLM 的自我进化、经验引导的智能体,用于评估 SWE 风格数据集的任务清晰度和测试覆盖,并构建了覆盖 8 种编程语言的新 benchmark SWE-TQ。三个 backbone LLM 上 ExLabel 均取得最佳 F1,在 Python/多语言子集上相对最佳基线分别提升 44.2%/49.9% 和 24.0%/18.4%。用其过滤的 SWE-rebench 数据微调的编程模型在 SWE-bench Verified 上解决 66.2% 的问题,比最佳基线高 14.5%。

来源:arXiv · cs.AI · arxiv.org