跳到正文
GitHub · 去对齐工具与仓库·· 7 天前AI 评分18

SabiRoute:开源自托管 AI 网关,提供健康感知的确定性多供应商路由

yourfavCHEFP/SabiRoute

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/yourfavCHEFP/SabiRoute

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

SabiRoute 是一个开源、自托管、本地优先的 AI 网关(版本 0.1.0,MIT 协议,alpha 阶段),为应用提供跨多个模型供应商的单一 OpenAI 兼容端点。它基于 LiteLLM 作为执行引擎,实现按请求类型(如 inline_completion、coding_agent)筛选候选、健康感知回退与冷却恢复、虚拟路由策略(ultimate、coding、research 等),并计划加入 API-key 生命周期、限流与预算治理。ML 辅助路由是未来规划,尚未实现。

来源:GitHub · 去对齐工具与仓库 · github.com