跳到正文
arXiv · cs.AI· Yinuo Liu·· 1 天前AI 评分42

RLVR 没有免费午餐:每一分 pass@1 提升都有 pass@k 代价

There Is No Free Lunch in RLVR: Every pass@1 Gain Has a pass@k Price

来源与原文

arXiv · cs.AI

作者:Yinuo Liu

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.39295v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

一项 arXiv 研究用定理证明,RLVR(可验证奖励强化学习)提升 pass@1 的同时必然压低部分提示的成功率,导致大采样预算 k 下 base 模型反超的 pass@k 交叉。研究将 RLVR 建模为 base 策略的指数倾斜,给出正价是必要条件的 Stiemne 对偶证明,并推出完全消除交叉会损失全部 pass@1 收益。同一机制还统一了 entropy collapse 与 entropy-performance law,附带的诊断工具可从评测日志中读出该代价。

来源:arXiv · cs.AI · arxiv.org