arXiv · cs.CL· Yuchen Guo·· 7 天前精选AI 评分53
arXiv 论文提出扩散语言模型的事实访问状态机制及 Multi-View Edit 知识编辑方法
Factual Access States in Diffusion Language Models: From Mechanism to Knowledge Editing and Retrieval
来源与原文
arXiv · cs.CL
作者：Yuchen Guo
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.27580v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
arXiv 论文提出扩散语言模型（DLM）中的事实访问状态概念，发现其与自回归模型不同，事实查找在第一层注意力与早期前馈层就完成。基于该状态，论文的 Multi-View Edit 知识编辑方法在改写和反向问答上显著优于 AR 编辑器，且各实体位置的状态可免训练地作为关系特定检索向量，在双实体查询中能同时返回两条证据。论文链接 https://arxiv.org/abs/2610.27580v1。
推荐理由
论文指出扩散语言模型的事实访问状态在首层注意力就组装完成，并据此给出知识编辑与免训练检索两种用法，可作理解 DLM 与 AR 机制差异的对照。
来源：arXiv · cs.CL · arxiv.org