GitHub · 灵魂体仓库·· 10 天前精选AI 评分57
开源自托管 AI 路由网关 rutekit 发布
mrizkihidayat66/rutekit
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/mrizkihidayat66/rutekit
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
rutekit 是一个自托管 AI 路由与网关工具,把多个 provider 账号聚合到一个 OpenAI 兼容端点后面,客户端改个 base URL 即可继续使用。它支持 /v1/chat/completions、/v1/messages、/v1/responses、/v1/completions、/v1/models 五个接口,在方言之间翻译流式输出、tool calls、视觉和推理块;内部含声明式 provider 注册表、账号池配额管理、按请求计量的压缩管道和带保留策略的遥测。项目用 Bun 1.2+ 构建,支持二进制、容器和开发模式部署,MIT 协议开源,代码在 https://github.com/mrizkihidayat66/rutekit 。
推荐理由
README 给出了自建 AI 网关的完整架构、方言转换逻辑和部署方式,想聚合多个 provider 账号的读者可以直接照着部署。
来源:GitHub · 灵魂体仓库 · github.com