GitHub · 去对齐工具与仓库·· 5 天前AI 评分22
SwissDataScienceCenter 开源 sdsc-vllm：在 Kubernetes 上部署 VLLM 与 Envoy 的 Helm chart
SwissDataScienceCenter/llm-serving
来源与原文
GitHub · 去对齐工具与仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/SwissDataScienceCenter/llm-serving
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
SwissDataScienceCenter 发布 sdsc-vllm Helm chart，用于在 Kubernetes 上部署 VLLM 与 Envoy AI Gateway，并借助 Knative Serving 实现模型服务缩容到零。模型通过 values 文件的 models 段添加，示例支持 Qwen/Qwen2.5-Omni-7B-AWQ，可配置 A100 等 GPU、tool calls 开关与缩容延迟。网关 /v1 兼容 OpenAI API，使用 authentik access token 认证，Web 界面通过 GitLab OAuth 登录。
来源：GitHub · 去对齐工具与仓库 · github.com