arXiv · cs.CL· Yiyuan Luo·· 22 天前精选AI 评分58
Attention Relay：无需训练让文本嵌入模型获得指令感知能力
Lend Me Your Eyes: Instruction-Aware Text Embeddings via Attention Relay
来源与原文
arXiv · cs.CL
作者：Yiyuan Luo
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.05564v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
arXiv 论文（arXiv:2610.05564）提出 Attention Relay 方法，将指令微调 LLM 产生的注意力权重传递给 Transformer 嵌入模型自身的注意力，使嵌入模型无需训练即可遵循任务指令。
推荐理由
论文提出无需训练的 Attention Relay，把 LLM 注意力权重传给嵌入模型，并在多个模型族组合上验证了指令感知效果。
来源：arXiv · cs.CL · arxiv.org