跳到正文
arXiv · cs.AI· Minghao Luo·· 13 天前精选AI 评分63

DoubtLess:免训练对比解码方法将 Qwen3-32B 思维链缩短 31% 且准确率不变

DoubtLess: Training-Free Contrastive Decoding for Efficient Reasoning

来源与原文

arXiv · cs.AI

作者:Minghao Luo

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.18862v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

论文提出 DoubtLess,一种免训练的对比解码方法,用小推理模型分别以简洁和冗长两种提示读取大模型的思维链,将两者 logit 之差按强度缩放后加到大模型每步的 logits 上,引导其生成更短的 CoT。在竞赛数学、研究生级科学和竞赛编程等七个基准上,DoubtLess 将 Qwen3-32B 的 CoT 缩短 31% 而准确率不变,优于五个推理时基线;在自调试编码智能体中每轮思考 token 减少 20%,任务性能不变,还能泛化到另外两个模型家族,并与基于训练的压缩方法叠加使用。行为分析显示其减少重复检查,token 节省大多来自正确答案首次出现在 CoT 之后。代码已开源。

推荐理由

方法无需训练即可压缩推理模型的思维链,并给出七个基准上的量化结果,可与其他推理时压缩手段比较迁移。

来源:arXiv · cs.AI · arxiv.org