arXiv · cs.AI· Samarth Varshney·· 3 天前精选AI 评分58
StateWise 论文提出让 LLM 追踪多轮对话中演化约束的自我改进方法
StateWise: Teaching Language Models to Track and Obey Evolving Constraints in Multi-Turn Dialogue
来源与原文
arXiv · cs.AI
作者：Samarth Varshney
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.33766v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
arXiv 论文 2610.33766 提出 StateWise，教单个 LLM 维护可修订的约束状态（含已撤销约束的墓碑标记），通过摘要、条件响应和精确回程检查自训练。在两个 backbone 上，StateWise 相比有监督自训练把 relapse 降低 8-22 个百分点，对话成功率较 backbone 提升 8-19 个百分点，且无需推理时脚手架就胜过 oracle 编译账本基线。论文还发现 Llama-3.1-8B 的有监督变体会让 relapse 约翻倍，因而加入偏好阶段，并评估了该方法对通用指令遵循基准的代价与权重插值缓解手段。
推荐理由
论文指出微调后的 7-8B 模型会精确追踪约束状态却不遵守，这一发现和用偏好阶段修复的思路有参考价值。
来源：arXiv · cs.AI · arxiv.org