arXiv · cs.CL· Ngoc Trinh Hung Nguyen·· 19 小时前AI 评分49
受约束解码有害还是有益?重新审视其对 LLM 性能的影响
Constrained Decoding: Harmful or Beneficial? Revisiting Its Impact on LLM Performance
来源与原文
arXiv · cs.CL
作者:Ngoc Trinh Hung Nguyen
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.35328v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
一项 arXiv 研究将受约束解码分为格式约束、有效性约束和推理约束三类,理论证明合适约束能通过排除无效路径保持甚至提升性能。在 4 个模型家族、11 个开源模型上的因果消融显示,表面性能下降主要源于提示词与输出格式不等价,而非解码器层面的掩码。有效性约束可提升可靠性与可提取性,推理约束在强制有益轨迹时能提升推理和准确率。
来源:arXiv · cs.CL · arxiv.org