LLM-Serving-System：面向昇腾的 Kubernetes vLLM 推理工程项目

该项目提供基于 Kubernetes 与官方 vLLM Router 的昇腾 NPU 推理服务工程，当前 AWQ 池有四个模型副本（awq-01～awq-04），GPTQ 池一个副本（gptq-01），分布在四个推理节点及 .217 控制节点组成的五机 K3s 实验集群。AWQ/GPTQ 的单节点 TP2、PP2 及 TP2/PP2 组合已实测普通/SSE 推理，生产配置保持 TP1/PP1 基线。扩缩容、双副本发现、Pod 删除恢复等生命周期验收已通过，但实验通过不等同于生产认证。