arXiv · cs.AI· Jinghan Zheng·· 14 天前AI 评分33
大语言模型上下文夹带机制研究：从关系专属注意力头到共享干预目标
From Relation-Specific Heads to Shared Interventions: Contextual Entrainment in Language Models
来源与原文
arXiv · cs.AI
作者：Jinghan Zheng
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.18674v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
arXiv 一项研究（arXiv:2610.18674，被 AACL-IJCNLP 2026 接收）分析大语言模型的上下文夹带现象，覆盖 19 个词汇-语义子类型的关系补全提示。结果显示，同语义族间的干预迁移效果超过跨族迁移，且不同关系子集会反复发现许多全局共享的注意力头。研究表明，缓解有害的上下文复制不宜依赖孤立的关系专属回路，而应利用异质提示找到可复用的干预目标。
来源：arXiv · cs.AI · arxiv.org