跳到正文
GitHub · 灵魂体仓库·· 10 天前精选AI 评分57

开源自托管 AI 路由网关 rutekit 发布

mrizkihidayat66/rutekit

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/mrizkihidayat66/rutekit

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

rutekit 是一个自托管 AI 路由与网关工具,把多个 provider 账号聚合到一个 OpenAI 兼容端点后面,客户端改个 base URL 即可继续使用。它支持 /v1/chat/completions、/v1/messages、/v1/responses、/v1/completions、/v1/models 五个接口,在方言之间翻译流式输出、tool calls、视觉和推理块;内部含声明式 provider 注册表、账号池配额管理、按请求计量的压缩管道和带保留策略的遥测。项目用 Bun 1.2+ 构建,支持二进制、容器和开发模式部署,MIT 协议开源,代码在 https://github.com/mrizkihidayat66/rutekit 。

推荐理由

README 给出了自建 AI 网关的完整架构、方言转换逻辑和部署方式,想聚合多个 provider 账号的读者可以直接照着部署。

来源:GitHub · 灵魂体仓库 · github.com