跳到正文
arXiv · cs.CL· Mingyu Zhao·· 12 小时前AI 评分30

元认知解码:面向扩散语言模型智能体的高效推理

Metacognitive Decoding: Efficient Inference for Diffusion Language Agents

来源与原文

arXiv · cs.CL

作者:Mingyu Zhao

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.37642v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

扩散语言模型通过并行 token 生成有望实现高效智能体,该研究提出元认知控制器,学习何时确定 token 以及生成多长文本,以降低响应内计算量。控制器是扩散骨干的轻量级插件,在智能体轨迹上训练以平衡正确性与生成成本。五个 benchmark 实验显示,与最高效基线相比平均减少 20.6% 推理 FLOPs,同时保持有竞争力的任务准确率。

来源:arXiv · cs.CL · arxiv.org