跳到正文
GitHub · 灵魂体仓库·· 2 天前AI 评分27

llm-gateway:基于 FastAPI 的 Google Gemini 网关开源项目

ppadmapadaa/llm-gateway

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/ppadmapadaa/llm-gateway

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

开源项目 llm-gateway 是一个位于客户端应用与 Google Gemini 之间的 FastAPI 网关,负责客户端认证、请求校验、按 key 限流、缓存与 SQLite 用量记录。客户端 API key 以 SHA-256 哈希存储,缓存 TTL 为 5 分钟,Gemini 请求设置 15 秒超时,对 408、429、500、502、503、504 等临时失败最多重试一次。项目还提供 Streamlit 仪表盘和 Docker 支持,作者定位为单机测试原型。

来源:GitHub · 灵魂体仓库 · github.com