arXiv · cs.AI· Yafeng Tang·· 19 天前AI 评分43
ReTeach:通过多轮反思与重试构建自教师模型
ReTeach: Building a Self-Teacher through Multi-Round Reflection and Retry
来源与原文
arXiv · cs.AI
作者:Yafeng Tang
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.11529v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
ReTeach 是一种反思式自蒸馏框架,仅用模型自生成的尝试和结果级验证,通过多轮反思与重试构建自教师,无需参考答案、外部诊断反馈或跨样本记忆。其结果感知的选择与加权策略区分初始正确、反思纠正和未解决样本,并通过 on-policy 蒸馏将迭代纠错收益转移给学生模型。在数学推理、科学问答和工具使用的六个 benchmark 上,ReTeach 平均准确率比 GRPO 提升 1.39 个百分点。
来源:arXiv · cs.AI · arxiv.org