arXiv · cs.AI· Hanane Nour Moussa·· 12 天前AI 评分37
EliteReplay:用质量多样性搜索在 LLM 强化学习后训练中保留多样化解法
EliteReplay: Preserving Diverse Solutions in RL Post-Training via Quality-Diversity Search
来源与原文
arXiv · cs.AI
作者:Hanane Nour Moussa
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.22290v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
EliteReplay 是一种将 GRPO 与质量多样性搜索构建的"精英"档案回放损失相结合的后训练方法,可在提升 LLM 可验证任务准确率的同时保留基础模型的解法多样性。在多个 text-to-SQL 任务上,其 pass@128 超过所有基线,比最强基线多产出最多 77% 的不同正确策略;在 AmbiQT 模糊问题上覆盖两种解释的频率接近最强基线的两倍。
来源:arXiv · cs.AI · arxiv.org