跳到正文
arXiv · cs.CL· Edan Kinderman·· 20 天前精选AI 评分56

UNREAL 论文提出单一模型统一检索与长上下文证据选择

UNREAL: Unifying Retrieval and Long-Context with a Single Model

来源与原文

arXiv · cs.CL

作者:Edan Kinderman

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.08463v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

arXiv 论文(2610.08463)提出 UNREAL 框架,直接从冻结 LLM 的内部表示生成检索查询和编码文本块,仅新增不到 500K 可训练参数且不改动主干。在 3B token、21M chunk 的 Wikipedia 索引上,四种 dense 和 hybrid 主干均超越现有 retriever-reranker 系统,HotpotQA 召回率从 49.1% 提到 73.2%,2WikiMultiHopQA 从 31.7% 到 60.1%,MuSiQue 从 8.8% 到 14.4%。

推荐理由

论文用不到500K可训练参数统一语料检索与长上下文证据选择,并给出多基准召回率对比数据,方法与结果都可复用参考。

来源:arXiv · cs.CL · arxiv.org