DeepSeek 以 Apache-2.0 开源推理框架 DeepInfer，社区衍生讲解与移植项目出现
先了解这件事
DeepSeek 于 2026 年 10 月 20 日宣布将内部推理框架 DeepInfer 以 Apache-2.0 许可开源，仓库地址为 https://github.com/deepseek-ai/DeepInfer，并同步开源生产级 Token 编解码组件 deepseek-recipe。DeepInfer 面向大规模推理，支持优化 kernel、模型与 sampler 运行时，包含 Attention DP、平衡 CP、MoE EP + EPLB 等并行方案，并提供零开销异步批量调度、batch-invariant 推理、确定性采样和结构化输出。 随后社区出现配套项目：一位开发者基于 commit 9bd9cf2 制作了 DeepInfer 逐行代码交互式讲解站点，覆盖 paged KV cache、speculative decoding 和 model workers 的生产实现，作为阅读官方仓库的配套学习指南；另有 GitHub 仓库 DeepInfer-SM86 为 DeepInfer 增加 SM86 原生推理后端，称在 RTX 3050 Laptop 4 GB 上实现 DeepSeek-V2-Lite Q4_K_M 的 MoE 推理，peak 显存约 2.23 GiB、decode 2.64–3.01 tokens/s。
AI 根据报道生成 · 19 小时前更新
事件进展
3 个进展
- 11月1日 12:39 · 1 篇报道DeepInfer-SM86：在 RTX 3050 Laptop 4 GB 上实现 DeepSeek-V2-Lite QGitHub · 灵魂体仓库：DeepInfer-SM86：在 RTX 3050 Laptop 4 GB 上实现 DeepSeek-V2-Lite Q4_K_M 原生 MoE 推理
- 10月21日 22:16 · 1 篇报道作者制作 DeepInfer 交互式代码讲解站Reddit · r/LocalLLaMA：开发者自制 DeepInfer 逐行代码交互式讲解站点，助你读懂 DeepSeek 开源推理引擎
- 10月20日 16:54 · 2 篇报道DeepSeek 开源推理框架 DeepInferAIHOT · 精选：DeepSeek 以 Apache-2.0 开源大规模推理框架 DeepInfer
报道时间线
沿着报道，了解事件的不同侧面。
- GitHub · 灵魂体仓库精选DeepInfer-SM86：在 RTX 3050 Laptop 4 GB 上实现 DeepSeek-V2-Lite Q4_K_M 原生 MoE 推理
GitHub 仓库 umouyoumou-del/DeepInfer-SM86 为 DeepInfer 增加面向 Qwen2.5/Llama/Mistral/Gemma 等 dense decoder 的 SM86 原生推理后端，并新增 DeepSeek-V2-Lite Q4_K_M GGUF 的流式 MoE/MLA 执行层，在 RTX 3050 Laptop 4 GB 上 peak 显存约 2.23 GiB、decode 2.64–3.01 tokens/s。
- Reddit · r/LocalLLaMA开发者自制 DeepInfer 逐行代码交互式讲解站点，助你读懂 DeepSeek 开源推理引擎
一位开发者针对 DeepSeek 开源推理引擎 DeepInfer（基于 commit 9bd9cf2）构建了交互式逐块代码讲解静态站点，用 Python 脚本从官方仓库抽取代码引用并配上简短说明，内容覆盖 paged KV cache、speculative decoding 和 model workers 在生产环境中的实现，可作为阅读官方仓库的配套学习指南。
- AIHOT · 精选精选DeepSeek 以 Apache-2.0 开源大规模推理框架 DeepInfer
DeepSeek 开源高性能大规模推理框架 DeepInfer，采用 Apache-2.0 许可，仓库地址 https://github.com/deepseek-ai/DeepInfer。框架支持优化 kernel、模型与 sampler 运行时，包含 Attention DP、平衡 CP、MoE EP + EPLB 等并行方案，以及零开销异步批量调度、batch-invariant 推理、确定性采样和结构化输出。
- AIHOT · 精选DeepSeek 全面开源内部推理框架 DeepInfer
DeepSeek 宣布将内部推理框架 DeepInfer 全面开源，并同步开源生产级 Token 编解码组件 deepseek-recipe。
本事件热度走势
- 可比范围当前
- 6
- 可比范围峰值
- 1011月1日 13:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。