跳到正文
arXiv · cs.AI· Juncheng Diao·· 7 天前AI 评分49

SAPD:无需环境交互即可从 Agent 经验中学习

SAPD: Learning from Agent Experience without Environment Interaction

来源与原文

arXiv · cs.AI

作者:Juncheng Diao

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.27847v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

SAPD(Step-Advantage Policy Distillation)是一种从离线轨迹学习训练 LLM 智能体的方法,它将多轮轨迹拆解为单个决策上下文做 on-policy 蒸馏,并引入相对步骤优势信号稳定训练,全程无需新的环境观测或多轮交互。在 ALFWorld、WebShop 和 Search-based QA 上的实验显示,SAPD 在不同教师配置下均提升性能,比 SFT 缓解灾难性遗忘,每个训练步速度比在线 OPD 快至少 4.7×。代码即将开源。

来源:arXiv · cs.AI · arxiv.org