跳到正文
arXiv · cs.CL· Ngoc Trinh Hung Nguyen·· 19 小时前AI 评分49

受约束解码有害还是有益?重新审视其对 LLM 性能的影响

Constrained Decoding: Harmful or Beneficial? Revisiting Its Impact on LLM Performance

来源与原文

arXiv · cs.CL

作者:Ngoc Trinh Hung Nguyen

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.35328v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

一项 arXiv 研究将受约束解码分为格式约束、有效性约束和推理约束三类,理论证明合适约束能通过排除无效路径保持甚至提升性能。在 4 个模型家族、11 个开源模型上的因果消融显示,表面性能下降主要源于提示词与输出格式不等价,而非解码器层面的掩码。有效性约束可提升可靠性与可提取性,推理约束在强制有益轨迹时能提升推理和准确率。

来源:arXiv · cs.CL · arxiv.org