GitHub · 去对齐工具与仓库·· 11 小时前AI 评分42
harinezumigel-llm-stack：用一个 Python CLI 管理 LiteLLM 代理与 vLLM 后端
HarinezumIgel/harinezumigel-llm-stack
来源与原文
GitHub · 去对齐工具与仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/HarinezumIgel/harinezumigel-llm-stack
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
开源项目 harinezumigel-llm-stack 提供一个 Python CLI，在带 NVIDIA GPU 的 Docker 容器中管理 vLLM 后端和宿主机 LiteLLM 代理，客户端通过 OpenAI 兼容 API 访问。CLI 支持 model_groups 按组启停工作负载（如 RAG 三模型与 Qwen3-Coder-Next-AWQ 编码模型），要求 Python 3.10+、NVIDIA Container Toolkit，且模型文件需预先下载到 /opt/models。
来源：GitHub · 去对齐工具与仓库 · github.com