GitHub · 灵魂体仓库·· 2 天前AI 评分27
llm-gateway:基于 FastAPI 的 Google Gemini 网关开源项目
ppadmapadaa/llm-gateway
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/ppadmapadaa/llm-gateway
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
开源项目 llm-gateway 是一个位于客户端应用与 Google Gemini 之间的 FastAPI 网关,负责客户端认证、请求校验、按 key 限流、缓存与 SQLite 用量记录。客户端 API key 以 SHA-256 哈希存储,缓存 TTL 为 5 分钟,Gemini 请求设置 15 秒超时,对 408、429、500、502、503、504 等临时失败最多重试一次。项目还提供 Streamlit 仪表盘和 Docker 支持,作者定位为单机测试原型。
来源:GitHub · 灵魂体仓库 · github.com