GitHub · 去对齐工具与仓库·· 2 小时前精选AI 评分60
wyolet/relay 开源自托管 LLM 网关，统一 OpenAI 与 Anthropic 端点
wyolet/relay
来源与原文
GitHub · 去对齐工具与仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/wyolet/relay
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
wyolet 开源了 Relay，一个自托管 LLM 网关，以单个 Go 二进制提供 OpenAI 和 Anthropic 兼容端点，支持密钥池、策略、限流和逐请求成本核算。应用只需改 base URL 即可继续用现有 SDK，网关在请求格式不一致时做转换，一致时直接透传字节；Apache-2.0 协议，不发送遥测，支持 Docker、Docker Compose 和 Kubernetes Helm 部署，上游目录涵盖 OpenAI、Anthropic、Gemini、Mistral、xAI、MiniMax、Ollama Cloud 等。
推荐理由
原文给出了完整的架构与部署细节，读者可以据此评估这个自托管网关是否适合管理自己的多厂商 LLM 密钥与成本。
来源：GitHub · 去对齐工具与仓库 · github.com