arXiv · cs.CL· Qi Liu·· 21 天前AI 评分35
RELER:在嵌入空间中用强化学习训练检索模型
Learning to Retrieve via Reinforcement Learning in Embedding Space
来源与原文
arXiv · cs.CL
作者:Qi Liu
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.07731v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
研究者提出 RELER(REinforcement LEarning for Retrieval),一个让现有嵌入模型直接在嵌入空间中学习检索并对齐任务奖励的强化学习框架。该方法从以编码器输出为中心的 vMF 分布采样嵌入动作,用 REINFORCE 配合 RLOO 更新,并引入条件均值投影(CMP)降低策略梯度噪声。在对推理密集型基准 BRIGHT 的评测中,RELER 后训练 BGE-M3 和 Qwen3-Embedding 时的平均 nDCG@10 一致优于 InfoNCE 和 LambdaLoss;在七个 QA 数据集上仅微调查询编码器的 RAG 场景中,检索与答案联合优化同时提升了检索性能与答案质量。
来源:arXiv · cs.CL · arxiv.org