arXiv · cs.CL· Amit Ranjan Trivedi·· 11 天前AI 评分45
Trajectory-Triggered Sparse Collaborative Decoding:基于轨迹特征的稀疏协作解码触发方法
Trajectory-Triggered Sparse Collaborative Decoding
来源与原文
arXiv · cs.CL
作者:Amit Ranjan Trivedi
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.23613v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
研究提出稀疏协作解码,由草稿模型生成大部分 token,仅短暂调用目标模型进行纠正,核心是何时调用目标模型。实验显示局部不确定性指标预测失败近乎随机(AUC 0.50-0.53),而基于草稿置信路径的轨迹形状特征配合轻量逻辑回归可达 AUC 0.86。在线使用时,该方法在五个 GSM8K 草稿-目标对上比最佳开环调度提升 +5.3 至 +20.0 个准确率点,在 StrategyQA 上提升 5.0-8.3 个点。
来源:arXiv · cs.CL · arxiv.org