arXiv · cs.CL· Han Peng·· 18 天前AI 评分37
并非所有正确补丁性能都相同:仓库级 Issue 修复中补丁性能的实证研究
Not All Correct Fixes Run Alike: An Empirical Study of Patch Performance in Repository-Level Issue Resolution
来源与原文
arXiv · cs.CL
作者:Han Peng
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.13563v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
一项 arXiv 实证研究将 SWE-bench 与 SWE-bench-Live 验证集的 FAIL_TO_PASS 测试用于评估补丁运行时性能,测试 Claude Opus 5、GPT 5.6、DeepSeek V4 Pro 与 Qwen 3.8 Max 配合 SWE-agent 生成的 262 个含多种正确解的案例。借助 Welch ANOVA 判据,该方法在近半数实例中发现显著性能差异,且补丁运行性能与模型 issue 解决率无关,模型排名几乎相反。研究还发现部分补丁存在正确性评测未察觉的架构性能回退,表明解决率不足以刻画 LLM 的仓库级修复能力。
来源:arXiv · cs.CL · arxiv.org