xLLM：面向国产 AI 加速器的高效 LLM 推理框架，已捐赠 OpenAtom 基金会

xLLM 是京东开源的高效 LLM 推理框架，专门针对国产 AI 加速器优化，已在京东核心零售业务规模化应用。该项目已于 2026-07-06 正式捐赠给开放原子（OpenAtom）基金会，并持续 day-0 支持 GLM-5.3-Flash、MiniMax-M3、DeepSeek-V4、GLM-5 等模型。框架采用服务与引擎解耦架构，基于 Mooncake 构建混合 KV cache 管理，支持 Ascend NPU、寒武纪 MLU、摩尔线程 MUSA S5000、海光 DCU 等多种硬件。