跳到正文
arXiv · cs.AI· Yuqi Xiong·· 12 天前AI 评分27

SCOPED:面向统一视觉语言模型的技能解耦在线专家蒸馏方法

Skill-Decoupled On-Policy Expert Distillation for Unified Vision-Language Models

来源与原文

arXiv · cs.AI

作者:Yuqi Xiong

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.22217v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

SCOPED(Skill-Decoupled On-Policy Expert Distillation)是一种面向视觉语言模型的训练方法,先分别训练能力专属专家并通过奖励引导反思提取显式技能,再进行在线蒸馏,让统一模型在推理时无需显式技能也能内化程序性知识。在八个多模态 benchmark 上,SCOPED 持续优于骨干模型和混合能力 RL。分析还发现联合优化存在能力间干扰,技能增强有助于专家轨迹更一致、更关注任务相关视觉证据。

来源:arXiv · cs.AI · arxiv.org