arXiv · cs.CL· Ailiang Lin·· 11 天前AI 评分26
PRSR:通过成对残差子空间移除改进 LLM 多语言免训练文本嵌入
Steering beyond Language: Improving Multilingual Training-Free Text Embeddings via Paired-Residual Subspace Removal
来源与原文
arXiv · cs.CL
作者:Ailiang Lin
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.23807v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
研究者提出 Paired-Residual Subspace Removal(PRSR),一种免训练的推理时干预方法,从多语言平行句构建成对残差、逐层估计低秩子空间并加以抑制,将 LLM 表示导向更语言无关的语义空间。该方法在 MTEB 和 MMTEB 上覆盖 18 种语言的 200 多项单语评测,以及英语与 200 多种语言间的跨语 bitext 挖掘中,均一致优于现有免训练基线。
来源:arXiv · cs.CL · arxiv.org