GitHub · 灵魂体仓库·· 3 天前精选AI 评分59
Okapi 开源 Rust 单二进制 AI API 中转网关
qiaojinxia/okapi
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/qiaojinxia/okapi
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 项目 qiaojinxia/okapi 发布 ok-api v2 重构版,用 Rust 单二进制三角色(gateway/console/worker)把多家上游 LLM 供应商收敛成 OpenAI / Anthropic / Gemini 兼容入口,按倍率精确计费。金额全程 i64 micro-USD 定点并禁浮点,支持 Redis Lua 原子预扣、三方对账与负毛利自动熔断;Claude Pro / Max、ChatGPT Codex 订阅凭证可经 OAuth 接入(实验性),console 内置 22 个工具的 MCP 服务,8 vCPU 容器压测 json 10874 / stream 10402 RPS 全 0 错误,以 AGPL-3.0-only 开源。
推荐理由
原文给出计费、协议互转与压测数据的完整实现细节,想自建 LLM 中转网关的读者可以直接评估是否可用。
来源:GitHub · 灵魂体仓库 · github.com