跳到正文
GitHub · 去对齐工具与仓库·· 18 天前AI 评分57

百度百舸开源 LoongForge 训练框架,覆盖 LLM、VLM、扩散与具身模型

baidu-baige/LoongForge

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/baidu-baige/LoongForge

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

百度智能云百舸团队在 GitHub 开源了训练框架 LoongForge(Apache 2.0,源自 AIAK-Training-LLM),用于加速 LLM、VLM、扩散和具身模型训练,支持预训练、继续预训练、SFT 和 LoRA。框架采用多后端架构,Megatron Stack 服务于 LLM、VLM 与扩散模型,Torch-Native Stack 服务于 VLA 和 WAM 具身模型;TAOT 方法可将 MoE 专家并行负载不均的开销最高降低 74%,具身模型 DreamZero 实测达 4.38 倍基线吞吐。支持 DeepSeek-V4、Qwen3.8、GLM-5.3-flash、Kimi-K3、GR00T-N1.7 等模型,提供 NVIDIA GPU 和昆仑 XPU 双硬件支持。

来源:GitHub · 去对齐工具与仓库 · github.com