SAPD:无需环境交互即可从 Agent 经验中学习
SAPD(Step-Advantage Policy Distillation)是一种从离线轨迹学习训练 LLM 智能体的方法,它将多轮轨迹拆解为单个决策上下文做 on-policy 蒸馏,并引入相对步骤优势信号稳定训练,全程无需新的环境观测或多轮交互。在 ALFWorld、WebShop 和 Search-based QA 上的实验显示,SAPD 在不同教师配置下均提升性能,比 SFT 缓解灾难性遗忘,每个训练步速度比在线 OPD 快至少 4.7×。代码即将开源。