GitHub · 灵魂体仓库·· 13 天前AI 评分45
AkiYangDev/llm-inference-notes：大模型推理工程文档开源，聚焦 SGLang 与 Ascend NPU
AkiYangDev/llm-inference-notes
来源与原文
GitHub · 灵魂体仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/AkiYangDev/llm-inference-notes
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 仓库 AkiYangDev/llm-inference-notes 收录大模型推理工程文档，覆盖推理基础、SGLang 源码与 PR 精读、Ascend 部署、分布式推理、投机解码与性能分析（TTFT、TPOT）。内容以 DeepSeek-V4 在 Ascend 910C 上的 Prefill/Decode、TP/DP/EP 并行、W8A8 量化及 DSpark 投机解码源码解析为主线。
来源：GitHub · 灵魂体仓库 · github.com