arXiv · cs.AI· Zhezheng Hao·· 12 天前AI 评分50
LoCD：通过局部上下文蒸馏让 LLM 从交互经验中学习
Learning from Interaction Experience via Localized Context Distillation
来源与原文
arXiv · cs.AI
作者：Zhezheng Hao
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.21427v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
研究者提出局部上下文蒸馏方法 LoCD，让大语言模型从交互经验中持续学习。LoCD 先定位学生模型轨迹中需修正的关键片段，由教师模型基于学生自身前缀重新生成这些片段并用于训练，兼顾信息量与低曝光偏差。在数学推理、代码生成和智能体任务上，LoCD 持续超越强基线，训练更稳定且参数更新更小更稀疏。
来源：arXiv · cs.AI · arxiv.org