跳到正文
arXiv · cs.CL· Saif Punjwani·· 19 天前精选AI 评分55

ExpDis 论文提出在 RLVR 中将探索与优化解耦

Decoupling Exploration from Optimization in RLVR

来源与原文

arXiv · cs.CL

作者:Saif Punjwani

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.10536v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

arXiv 论文 2610.10536 提出 Exploration-Distillation(ExpDis)框架,将 RLVR 中的探索与优化解耦:训练带新颖性奖励的 explorer 策略,过滤轨迹后蒸馏进独立的 student 策略,student 训练时不带新颖性奖励,并多轮交替进行。在七个数学推理基准和两个模型家族上,ExpDis 在相同 wall-clock 预算下超过 DAPO,且 pass@$k$ 扩展更佳,表明生成的正确解更多样。代码与 checkpoints 已开放。

推荐理由

论文提出把探索与优化解耦的 ExpDis 框架,在七个数学推理基准和两个模型家族上与 DAPO 对比,方法描述完整可复现。

来源:arXiv · cs.CL · arxiv.org