arXiv · cs.CL· Christophe Khalil·· 6 天前精选AI 评分61
arXiv 论文提出指令税：Base 模型事实回忆可胜过指令微调版本
The Instruction Tax on Factual Recall: Base Models Can Beat Their Instruction-Tuned Counterparts
来源与原文
arXiv · cs.CL
作者：Christophe Khalil
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.28407v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
作者公布 AKBC LM-KBC 2026 共享任务方案，在官方榜单取得 0.6836，超过 0.2964 基线一倍以上。方法是在最多 32B 参数、无检索无微调的限制下，用文本补全方式提示 base 模型并生成 64-256 个输出只保留重复项；对比显示指令微调版本仅得 0.5681，作者称指令微调会降低事实回忆，命名为指令税，其成因是权重而非提示方式。
推荐理由
作者在 LM-KBC 2026 任务中实测同一模型 base 与指令微调版本的事实回忆差距，提出指令税概念，方法可直接迁移。
来源：arXiv · cs.CL · arxiv.org