GitHub · 灵魂体仓库·· 1 小时前AI 评分36
airouter:兼容 OpenAI 的四逻辑模型多上游故障转移网关
competitiveNN/airouter
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/competitiveNN/airouter
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
airouter 是一个兼容 OpenAI 的网关,对外暴露 smart、work、fast、large 四个逻辑模型,每个逻辑模型是一条按顺序尝试的上游 provider/model 端点故障转移链,同时支持 Chat Completions 与 Responses API。会话保持粘性路由,429、5xx 或流中途失败会被吸收并切换到链上下一个端点,客户端只看到轻微延迟而非错误;冷却时长按错误类型分级,尝试次数上限为 chainLen*3+1,并受 12s/20s 等墙钟预算约束。全部端点冷却时网关等待最短剩余冷却(上限 30s)后从头重启链路,仅在无任何冷却待处理时才立即返回 503 all_models_unavailable。
来源:GitHub · 灵魂体仓库 · github.com
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。