GitHub · 去对齐工具与仓库·· 6 天前AI 评分23
yuhuih-ray/llm-gateway:基于 FastAPI 的学习型 LLM 网关项目
yuhuih-ray/llm-gateway
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/yuhuih-ray/llm-gateway
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 上的 llm-gateway 是一个学习导向的 FastAPI 项目,提供健康检查端点与非流式 chat completion API,本地 FakeProvider 不发起外部调用。项目用 uv 管理并固定 Python 3.12,集成测试使用一次性 PostgreSQL 18 容器并应用 Alembic 迁移。网关支持 gemini-3.1-flash-lite、gemini-3.8-flash、gemini-3.1-pro-preview 等 Gemini 模型,Flash 与 Flash-Lite 超时 60 秒、Pro 120 秒,失败最多重试两次;API key 仅存前缀与 SHA-256 哈希,可通过 CLI 创建与吊销。
来源:GitHub · 去对齐工具与仓库 · github.com