CoRD 耦合 rollout 蒸馏方法发布
热点事件持续更新
CoRD 耦合 rollout 蒸馏方法发布
1 篇报道1 个报道来源19 小时前更新
先了解这件事
AI 综述
Guhan Chen 等作者提出并发布 CoRD（coupled-rollout distillation）蒸馏方法：保留 on-policy 损失，只把训练状态分布推向教师，rollout 通过投机解码的最大耦合对学生与教师分布做几何插值采样。 据论文报告，在 Qwen3 与 Qwen3.5 两个模型家族的六个基座学生（0.6B 到 4B）上，等步数与等数据条件下，五个公开数学基准的 pass@1 平均较 on-policy 蒸馏提升 0.9 到 2.0 分，pass@8 提升 1.2 到 3.4 分；4B 学生在冻结教师可达状态上 16 步即闭合 on-policy 蒸馏 80 步仍未达到的差距。
AI 根据报道生成 · 4 小时前更新
最新进展11月5日 20:55
CoRD：耦合 rollout 填补 on-policy 蒸馏的盲区报道时间线
沿着报道，了解事件的不同侧面。
11月5日
- arXiv · cs.CLCoRD：耦合 rollout 填补 on-policy 蒸馏的盲区
CoRD（coupled-rollout distillation）通过投机解码的最大耦合对学生与教师分布做几何插值采样，保留 on-policy 损失的同时把训练状态分布推向教师。在 Qwen3 与 Qwen3.5 两个模型家族六个基座学生（0.6B 到 4B）上，五个公开数学基准中 pass@1 平均提升 0.9 到 2.0 分、pass@8 提升 1.2 到 3.4 分。4B 学生在冻结的教师可达状态上 16 步即达到 on-policy 蒸馏 80 步仍未达到的差距闭合。
本事件热度走势
- 可比范围当前
- 6
- 可比范围峰值
- 611月6日 13:00
- 近 24 小时变化
- –
02468
13:0014:0015:0016:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。