arXiv · cs.CL· Saif Punjwani·· 19 天前精选AI 评分55
ExpDis 论文提出在 RLVR 中将探索与优化解耦
Decoupling Exploration from Optimization in RLVR
来源与原文
arXiv · cs.CL
作者:Saif Punjwani
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.10536v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
arXiv 论文 2610.10536 提出 Exploration-Distillation(ExpDis)框架,将 RLVR 中的探索与优化解耦:训练带新颖性奖励的 explorer 策略,过滤轨迹后蒸馏进独立的 student 策略,student 训练时不带新颖性奖励,并多轮交替进行。在七个数学推理基准和两个模型家族上,ExpDis 在相同 wall-clock 预算下超过 DAPO,且 pass@$k$ 扩展更佳,表明生成的正确解更多样。代码与 checkpoints 已开放。
推荐理由
论文提出把探索与优化解耦的 ExpDis 框架,在七个数学推理基准和两个模型家族上与 DAPO 对比,方法描述完整可复现。
来源:arXiv · cs.CL · arxiv.org