arXiv · cs.AI· Tiejin Chen·· 2 天前AI 评分47
ST-OPSD：用激活导向改进思考模型的 On-Policy Self-Distillation
Steering the Teacher: Improving On-Policy Self-Distillation for Thinking Models
来源与原文
arXiv · cs.AI
作者：Tiejin Chen
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.34005v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一项 arXiv 研究提出 Steered-Teacher OPSD（ST-OPSD），针对 on-policy self-distillation 中教师模型引发的两类失效模式：reference hallucinations 和 reconsideration suppression。该方法从模型生成的推理轨迹中提取两个方向，作用于教师 hidden states，抑制引用参考答案行为并鼓励重新审视。在 AIME 和 HMMT 上，ST-OPSD 准确率超过 vanilla OPSD 等干预方法，并将两类失效率恢复至 base-model 水平。
来源：arXiv · cs.AI · arxiv.org