GitHub · 去对齐工具与仓库·· 20 天前AI 评分44
MiXaiLL76 开源 LLM API 代理路由器 auto_ai_router
MiXaiLL76/auto_ai_router
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/MiXaiLL76/auto_ai_router
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 上的 auto_ai_router 是一个高性能 LLM API 代理路由器,支持 OpenAI、Vertex AI、Gemini、Anthropic、Comet API 等多家服务商,并提供轮询负载均衡、按凭证和模型的 RPM/TPM 限流、fail2ban 自动封禁、Prometheus 指标、LiteLLM DB 集成和 SSE 流式支持。项目采用 Go 编写,提供 Docker 镜像,以 Apache License 2.0 开源。
来源:GitHub · 去对齐工具与仓库 · github.com