跳到正文
热点事件持续更新

Turing LLM 后训练论文发布:校准蒸馏与高效动态 MoE 执行

1 篇报道1 个报道来源18 小时前更新

先了解这件事

AI 综述

Yue He 等在 arXiv 发布论文(arXiv:2610.39876),提出面向动态路由 MoE 模型的后训练方法,结合校准多教师 on-policy 蒸馏 C-MOPD 与包含 post-capacity bounded-width dispatch、final-route replay 和异步 rollout-training overlap 的执行路径。 论文报告的实验结果为:Turing-20B-A2B 四域归一化整合得分 0.9988,每个领域保留至少 90.16% 的专家增益;8K 响应上限下四项数学与代码基准均值 85.92,高于 Qwen3-8B 的 80.33 和 SFT 的 74.21;组合执行配置将整合步时间从 398.7 秒降至 139.3 秒,观测到 2.86 倍加速。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月29日
  1. arXiv · cs.AI精选
    Turing LLM 后训练论文:校准蒸馏与高效动态 MoE 执行

    arXiv 论文 arXiv:2610.39876 提出面向动态路由 MoE 模型的后训练方法,结合校准多教师 on-policy 蒸馏 C-MOPD 与含 post-capacity bounded-width dispatch、final-route replay 和异步 rollout-training overlap 的执行路径。Turing-20B-A2B 四域归一化整合得分 0.9988,每个领域保留至少 90.16% 的专家增益;8K 响应上限下四项数学与代码基准均值 85.92,高于 Qwen3-8B 的 80.33 和 SFT 的 74.21;组合执行配置将整合步时间从 398.7 秒降至 139.3 秒,观测到 2.86 倍加速。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。