arXiv · cs.CL· Zhenhe Wu·· 13 天前AI 评分51
PA1-OPD：一步前缀增强的在线策略蒸馏用于语言模型预训练
PA1-OPD: One-Step Prefix-Augmented On-Policy Distillation for Language Model Pretraining
来源与原文
arXiv · cs.CL
作者：Zhenhe Wu
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.19601v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Zhenhe Wu 在 arXiv 发布 PA1-OPD 方法，在语料前缀的蒸馏基础上加入学生模型采样一步后的教师反馈，扩展被监督的状态同时保留 next-token 预测与语料路径 KD。在两个持续预训练设置中，全覆盖方式在 C4、PG-19 和 Pile 的每个评测检查点上 held-out cross-entropy 均优于 KD；Stage2 中选取学生 surprisal 最高的 10% 根节点，使相对 next-token 训练的 Macro cross-entropy 增益比 KD 提高 48.85%。论文地址 https://arxiv.org/abs/2610.19601v1。
来源：arXiv · cs.CL · arxiv.org