arXiv · cs.AI· Juncheng Diao·· 7 天前AI 评分49
SAPD:无需环境交互即可从 Agent 经验中学习
SAPD: Learning from Agent Experience without Environment Interaction
来源与原文
arXiv · cs.AI
作者:Juncheng Diao
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.27847v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
SAPD(Step-Advantage Policy Distillation)是一种从离线轨迹学习训练 LLM 智能体的方法,它将多轮轨迹拆解为单个决策上下文做 on-policy 蒸馏,并引入相对步骤优势信号稳定训练,全程无需新的环境观测或多轮交互。在 ALFWorld、WebShop 和 Search-based QA 上的实验显示,SAPD 在不同教师配置下均提升性能,比 SFT 缓解灾难性遗忘,每个训练步速度比在线 OPD 快至少 4.7×。代码即将开源。
来源:arXiv · cs.AI · arxiv.org