跳到正文
GitHub · 灵魂体仓库·· 11 天前AI 评分35

aiplatform:面向容器化 LLM 工作负载的自助式 AI 基础设施平台

johncobio/aiplatform

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/johncobio/aiplatform

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

aiplatform 是一个面向容器化 LLM 工作负载的开源自助式 AI 基础设施平台,开发者只需编写 aiplatform.yaml 即可完成校验、构建、部署和健康检查,支持本地 Docker、kind(Kubernetes + Helm)和 Argo CD GitOps 三种目标。内置 CLI 提供 deploy、rollback、status 等命令,可插拔引擎支持 llamacpp-server 与 vLLM,并基于队列深度通过 HPA 自动扩缩容。项目还集成了 Prometheus + Grafana 可观测性、k6 负载测试、SLO 告警,以及带 Terraform、Checkov、OPA 守护机制和人工审批的 AI 提议变更流程。

来源:GitHub · 灵魂体仓库 · github.com