arXiv · cs.AI· Zhonghao Jiang·· 1 天前AI 评分34
ExLabel:用自我进化智能体评估 SWE 风格数据集的任务清晰度与测试覆盖
Well-Specified and Well-Tested? Assessing SWE-bench-Style Datasets with a Self-Evolving Agent
来源与原文
arXiv · cs.AI
作者:Zhonghao Jiang
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.39417v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
研究者提出 ExLabel,一个基于 LLM 的自我进化、经验引导的智能体,用于评估 SWE 风格数据集的任务清晰度和测试覆盖,并构建了覆盖 8 种编程语言的新 benchmark SWE-TQ。三个 backbone LLM 上 ExLabel 均取得最佳 F1,在 Python/多语言子集上相对最佳基线分别提升 44.2%/49.9% 和 24.0%/18.4%。用其过滤的 SWE-rebench 数据微调的编程模型在 SWE-bench Verified 上解决 66.2% 的问题,比最佳基线高 14.5%。
来源:arXiv · cs.AI · arxiv.org