Deepthi-0411 开源 self-healing-llm-gateway：自愈式 LLM 网关项目

开发者 Deepthi-0411 在 GitHub 发布 self-healing-llm-gateway，一个提供 OpenAI 兼容 API 的生产级 LLM 网关，支持 Google Gemini、Cloudflare Workers AI、Cohere 多提供商路由，基于 LiteLLM 规范化通信。网关内置 Redis 精确与语义缓存、租户限流与预算控制、熔断器和仅在故障时触发的提供商 failover，并通过 Prometheus 与 Grafana 提供可观测性。故障注入验证中，Gemini 请求失败后网关自动回退到 Cloudflare 的 @cf/meta/llama-3.1-8b-instruct-fp8 并返回 HTTP 200。