airouter 开源 OpenAI 兼容多模型故障转移网关

competitiveNN 开源了 airouter，这是一个兼容 OpenAI 的网关，对外暴露 smart、work、fast、large 四个逻辑模型，同时支持 Chat Completions 与 Responses API。每个逻辑模型是一条按顺序尝试的上游 provider/model 端点故障转移链，会话保持粘性路由；遇到 429、5xx 或流中途失败时，网关会吸收错误并切换到链上下一个端点，客户端只看到轻微延迟而非错误。 冷却时长按错误类型分级，尝试次数上限为 chainLen*3+1，并受 12s/20s 等墙钟预算约束。全部端点冷却时，网关等待最短剩余冷却（上限 30s）后从头重启链路，仅在无任何冷却待处理时才立即返回 503 all_models_unavailable。 配置方面，Provider 凭据从环境变量读取（由配置中的 api_key_env 指定），不写入配置文件；配置支持热重载，文件变更会在 3s 内生效。默认要求认证，可用 -allow-no-auth 关闭，但关闭后所有端点（含管理端点）均无认证。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。