GitHub · 灵魂体仓库·· 12 小时前精选AI 评分59
OBEY-api-gateway:单二进制 OpenAI 兼容 AI 网关开源
fdanobey/OBEY-api-gateway
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/fdanobey/OBEY-api-gateway
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 上的 fdanobey/OBEY-api-gateway 是一个 OpenAI 兼容的 AI 网关,提供多供应商路由、自动故障转移、熔断器与限流冷却,支持 OpenAI、Ollama、AWS Bedrock、Groq、vLLM 等供应商,单个 Rust 二进制、无运行时依赖。特性包括两级响应缓存、prompt-cache 感知路由、Codex OAuth 登录与网页搜索桥接、guardrail 管线、Agent 循环检测、虚拟密钥管理、token 与工具定义压缩,可通过 Windows 安装包、Docker、Railway 或源码构建部署。
推荐理由
单文件 Rust 网关把故障转移、限流冷却、缓存路由和虚拟密钥做进一个仓库,文档细到超时字段,适合自建多供应商路由时参考。
来源:GitHub · 灵魂体仓库 · github.com