arXiv 论文从强化学习视角解析 On-policy 蒸馏的收益与坍缩机制
arXiv 论文 2610.03185 从强化学习视角解释 on-policy 蒸馏(OPD)为何有时提升性能、有时坍缩为过长且重复的生成:教师隐式奖励学生行为,即使教师自身很少表现出这些行为。
推荐理由:论文用强化学习视角解释 on-policy 蒸馏为何有时提升性能、有时坍缩,并给出掩蔽不健康响应和 SFT 初始化两种缓解手段。
内容形态
论文与技术报告:对齐机制、人格可控性、评测方法与能力边界的新发现。
403 条精选近 30 天 403 条共收录 2,996 条
arXiv 论文 2610.03185 从强化学习视角解释 on-policy 蒸馏(OPD)为何有时提升性能、有时坍缩为过长且重复的生成:教师隐式奖励学生行为,即使教师自身很少表现出这些行为。
推荐理由:论文用强化学习视角解释 on-policy 蒸馏为何有时提升性能、有时坍缩,并给出掩蔽不健康响应和 SFT 初始化两种缓解手段。
论文提出 MintEval 基准,通过从可组合模块程序化生成参考策略、转译成交易员口语指令再让被测模型重新实现,在相同市场数据和摩擦下逐 bar 执行并比较行为而非代码相似度。
推荐理由:原文用逐 bar 行为对比衡量代码是否忠实执行交易策略,给出了前沿模型仍存在静默失败的具体比例。
论文提出 HARPO 强化学习框架,用可验证反馈训练的幻觉感知生成奖励模型 HA-GRM 联合优化忠实性与创造力,仅对无幻觉输出激活写作奖励,并通过课程从创作任务渐进过渡到幻觉任务。
推荐理由:论文给出了 HA-GRM 在 RAGTruth 上的 F1 对比和 Qwen3-4B 幻觉率与创作分的前后数据,可评估该框架的实际收益。