跳到正文
GitHub · 去对齐工具与仓库·· 6 天前AI 评分23

yuhuih-ray/llm-gateway:基于 FastAPI 的学习型 LLM 网关项目

yuhuih-ray/llm-gateway

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/yuhuih-ray/llm-gateway

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

GitHub 上的 llm-gateway 是一个学习导向的 FastAPI 项目,提供健康检查端点与非流式 chat completion API,本地 FakeProvider 不发起外部调用。项目用 uv 管理并固定 Python 3.12,集成测试使用一次性 PostgreSQL 18 容器并应用 Alembic 迁移。网关支持 gemini-3.1-flash-lite、gemini-3.8-flash、gemini-3.1-pro-preview 等 Gemini 模型,Flash 与 Flash-Lite 超时 60 秒、Pro 120 秒,失败最多重试两次;API key 仅存前缀与 SHA-256 哈希,可通过 CLI 创建与吊销。

来源:GitHub · 去对齐工具与仓库 · github.com