LlmProxy：面向本地 LLM 的企业级 OpenAI 兼容网关（KeyserDSoze/LlmProxy）

LlmProxy 是一个企业级 OpenAI 兼容网关，可将 GitHub Copilot 等 AI 客户端路由到异构推理硬件上的本地 LLM，充当 AI 客户端与推理集群间的管控边界。它提供 /v1/models、Chat Completions 和 Responses API，支持 SSE 流式传输、逻辑模型别名、多种负载均衡路由及 Redis 租约的分布式容量准入。生产拓扑为 Linux 单主机控制面加私有局域网内的 DGX/vLLM，内置 Entra 认证、请求审计（保留期 10 至 4015 天），并从主分支验证推送自动生成不可变 SemVer 发行版（自 v0.0.1 起）。