arXiv · cs.AI· Yinuo Liu·· 1 天前AI 评分42
RLVR 没有免费午餐:每一分 pass@1 提升都有 pass@k 代价
There Is No Free Lunch in RLVR: Every pass@1 Gain Has a pass@k Price
来源与原文
arXiv · cs.AI
作者:Yinuo Liu
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.39295v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
一项 arXiv 研究用定理证明,RLVR(可验证奖励强化学习)提升 pass@1 的同时必然压低部分提示的成功率,导致大采样预算 k 下 base 模型反超的 pass@k 交叉。研究将 RLVR 建模为 base 策略的指数倾斜,给出正价是必要条件的 Stiemne 对偶证明,并推出完全消除交叉会损失全部 pass@1 收益。同一机制还统一了 entropy collapse 与 entropy-performance law,附带的诊断工具可从评测日志中读出该代价。
来源:arXiv · cs.AI · arxiv.org