arXiv · cs.CL· Alexander Gill·· 13 天前精选AI 评分52
arXiv 论文提出 Precog-RM:预测 LLM Agent 轨迹成败并提前终止训练
Divergent Paths: Learning an Outcome-Predictive Representation of LLM Agent Trajectories
来源与原文
arXiv · cs.CL
作者:Alexander Gill
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.19614v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
arXiv 论文(arXiv:2610.19614)提出将 LLM Agent 轨迹视为动作与环境观测共享嵌入空间中的路径,同一任务的成功与失败 rollout 在该空间中可分离,简单判别器在三个 Agent 基准和三个策略模型上预测 held-out rollout 结果最高达 0.95 AUROC。作者进一步推出基于 transformer 的 Precog-RM,通过元学习使结果预测可在 few-shot 设定下泛化到未见任务和模型,并在轨迹终止前给出置信预测。部署为 GRPO 在 Tau2-Bench 上的早停控制器时,最多削减 47.3% 训练 FLOPs 且性能与基线 GRPO 相当。
推荐理由
论文给出跨三个基准和三个策略模型的 AUROC 数据,并量化了 GRPO 训练最多省 47.3% FLOPs 的收益。
来源:arXiv · cs.CL · arxiv.org