GitHub · 去对齐工具与仓库·· 18 天前精选AI 评分68
LeenHawk 开源自托管 LLM API 网关 GPROXY v4
LeenHawk/gproxy
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/LeenHawk/gproxy
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
LeenHawk 发布了 Rust 编写的自托管 LLM API 网关 GPROXY v4,统一管理上游凭据、模型路由和用量成本,支持 OpenAI Chat Completions、Responses、Claude Messages 和 Gemini GenerateContent 协议转换。v4 可作为桌面/移动应用、CLI、容器部署,或托管到 Cloudflare、Netlify、Vercel 和 Deno,内置 OpenAI、Claude、Gemini、DeepSeek、GLM、Kimi、OpenRouter 等渠道;本地 SQLite 实测 1 连接下网关增加约 0.30 ms 中位延迟,64 连接时 p99 升至约 42 ms。
推荐理由
原文给出完整部署方式与实测延迟数据,读者可以据此评估这个自托管网关是否适合统一管理多家模型凭据。
来源:GitHub · 去对齐工具与仓库 · github.com