arXiv · cs.AI· Jeremy Collins·· 2 天前AI 评分41
FloMo:将 3D 场景流作为世界动作模型中间媒介,从人类视频中学习
FloMo: 3D Scene Flow as a World Action Model Intermediate for Learning from Human Video
来源与原文
arXiv · cs.AI
作者:Jeremy Collins
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2611.05062v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
FloMo 是一个 5B 视频生成模型,经微调后可预测 3D 场景流和动作 token,通过将场景流渲染为 RGB 并编码到与视频相同的 latent 空间来适配预训练视频生成骨干。模型在无动作标注的人类视频和有动作标注的机器人遥操作数据上协同训练,能泛化到未见过的物体、动作基元和任务。实验表明,用视频预测目标替代运动预测会降低分布外泛化能力,动作 token 关注运动远多于视频,说明预测视频浪费模型容量。
来源:arXiv · cs.AI · arxiv.org
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。