arXiv · cs.CL· Jaewon Sok·· 11 天前精选AI 评分54
arXiv 论文提出 First-Token Cueing 探针：许多闭卷错误源于首 token 召回失败
On the Tip of the Tongue: First-Token Cueing as a Behavioral Probe of Recall Failures in LLMs
来源与原文
arXiv · cs.CL
作者：Jaewon Sok
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.23400v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Jaewon Sok 在 arXiv 发表论文，提出许多闭卷事实错误源于模型在首 token 选错，而答案知识已编码在模型中。实验显示在 16 个开源模型上，仅预填正确首 token 就能纠正英文 QA 多 token 答案中五分之一到一半的错误，并在多语言基准的全部 7 种语言中提升准确率；这类可恢复错误集中在首个解码步骤，是推理时方法可能收益最大的位置。论文链接 https://arxiv.org/abs/2610.23400v1
推荐理由
论文给出 First-Token Cueing 探针和 16 个开源模型的实测数据，把一类闭卷错误定位到首个解码 token，可借机了解推理时干预的着力点。
来源：arXiv · cs.CL · arxiv.org