跳到正文
GitHub · 去对齐工具与仓库·· 18 天前精选AI 评分68

LeenHawk 开源自托管 LLM API 网关 GPROXY v4

LeenHawk/gproxy

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/LeenHawk/gproxy

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

LeenHawk 发布了 Rust 编写的自托管 LLM API 网关 GPROXY v4,统一管理上游凭据、模型路由和用量成本,支持 OpenAI Chat Completions、Responses、Claude Messages 和 Gemini GenerateContent 协议转换。v4 可作为桌面/移动应用、CLI、容器部署,或托管到 Cloudflare、Netlify、Vercel 和 Deno,内置 OpenAI、Claude、Gemini、DeepSeek、GLM、Kimi、OpenRouter 等渠道;本地 SQLite 实测 1 连接下网关增加约 0.30 ms 中位延迟,64 连接时 p99 升至约 42 ms。

推荐理由

原文给出完整部署方式与实测延迟数据,读者可以据此评估这个自托管网关是否适合统一管理多家模型凭据。

来源:GitHub · 去对齐工具与仓库 · github.com