arXiv · cs.CL· Xiaomi LLM-Core Team·· 18 天前精选AI 评分62
小米 LLM-Core 团队发布 MiMo-V2.6 技术报告,通过扩展强化学习迈向自我改进
MiMo-V2.6: Scaling Reinforcement Learning Towards Self-Improvement
来源与原文
arXiv · cs.CL
作者:Xiaomi LLM-Core Team
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.11959v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
小米 LLM-Core 团队在 arXiv 发布 MiMo-V2.6 系列全模态模型技术报告(arXiv:2610.11959),核心是通过扩展 RL 计算推动模型自我改进。RL 前先在多模态语料上做 mid-training,RL 计算沿三轴扩展:异步训练每步消耗 1,568 个样本、2.7-3.7B tokens,上下文最长 1M;环境覆盖代码、通用、视觉与 cyber 域;采用 groupwise agentic grading 提升长程任务奖励信号精度并引导更短的 token 高效解法。为稳定训练冻结了 MoE router 并建立多层防 reward hacking 机制,同时开源训练动态、RL 环境与 RL 框架。
推荐理由
报告系统拆解了沿数据、环境、评分三轴扩展 RL 计算的工程细节,并开源训练动态与环境框架,可作复现参考。
来源:arXiv · cs.CL · arxiv.org