ribumann/llmserving：快速搭建 Azure 托管 LLM 推理环境的控制平面项目

llmserving 是一个 Azure LLM Serving Demo，为运维者和演示者提供控制平面应用，可快速搭建 Azure 托管的 LLM 推理环境、部署模型、执行提示词并采集质量与性能证据。项目包含 FastAPI 后端、React/Vite 运维 UI、Durable Functions + Container Apps 编排及 Terraform 基础设施，已实现 Azure 和本地 Ollama 适配器，AWS/GCP 仅是实验性设计目标。目前状态为探索性、非生产就绪，GPU 部署仍未通过验证。