跳到正文
arXiv · cs.CL· Han Peng·· 18 天前AI 评分37

并非所有正确补丁性能都相同:仓库级 Issue 修复中补丁性能的实证研究

Not All Correct Fixes Run Alike: An Empirical Study of Patch Performance in Repository-Level Issue Resolution

来源与原文

arXiv · cs.CL

作者:Han Peng

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.13563v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

一项 arXiv 实证研究将 SWE-bench 与 SWE-bench-Live 验证集的 FAIL_TO_PASS 测试用于评估补丁运行时性能,测试 Claude Opus 5、GPT 5.6、DeepSeek V4 Pro 与 Qwen 3.8 Max 配合 SWE-agent 生成的 262 个含多种正确解的案例。借助 Welch ANOVA 判据,该方法在近半数实例中发现显著性能差异,且补丁运行性能与模型 issue 解决率无关,模型排名几乎相反。研究还发现部分补丁存在正确性评测未察觉的架构性能回退,表明解决率不足以刻画 LLM 的仓库级修复能力。

来源:arXiv · cs.CL · arxiv.org