mcampa/llm-router：DGX Spark 上的本地 LLM 网关

mcampa 发布的开源项目 llm-router 是面向 DGX Spark 的本地 LLM 网关，在端口 4000 提供 OpenAI 兼容端点，路由到自托管 vLLM 模型与 DeepSeek 云 API，并使用 Postgres 存储模型、Redis 做缓存。自托管侧基于 Eugr 的 B12x vLLM 栈运行 Qwen3.8-Flash-Next，默认启用 qwen38-fast（INT4 量化，125B 总参数，每 token 约 5/10 专家，磁盘占用约 119 GiB，解码比完整模型快约 33%），NVFP4 完整版 qwen38 已在 docker-compose.yml 中注释备用。deepseek 路由在云端 API 失败时可回退到本地 vLLM，失败后冷却 300 秒。