跳到正文
arXiv · cs.CL· Fei Wu·· 12 天前AI 评分43

VASPO:基于特权价值估计的自蒸馏策略优化方法

VASPO: Self-Distillation with Privileged Value Estimation

来源与原文

arXiv · cs.CL

作者:Fei Wu

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.20516v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

VASPO(Value-Augmented Self-Distillation Policy Optimization)在 PPO 框架内整合自蒸馏与特权价值估计:critic 从预测续写回报计算 token 级优势,自教师通过有界概率比调制部分正优势。在六个数学推理 benchmark 上,VASPO 在 Qwen3-4B 和 OLMo3-7B 上分别比 PPO 平均准确率提升 2.59 和 1.81 个百分点,并在 Knights and Knaves 上取得评测方法中的最高平均准确率。代码已开源。

来源:arXiv · cs.CL · arxiv.org