跳到正文
#工程/部署
10月26日周一
  2. GitHub · 灵魂体仓库49

    开源项目 deskyard-ecommerce-agent：带 AI 客服智能体的电商入门模板

    GitHub 上的 deskyard-ecommerce-agent 是一个带完整商店功能（商品、购物车、结账、账户）的电商入门项目，每页内置可回答“我的订单在哪”的 AI 客服智能体。智能体从知识库、实时商品目录和登录用户的真实订单构建提示词，无法解决时通过邮件或 Slack 升级通知。语音模式使用浏览器 Web Speech API 识别输入、OpenAI TTS（默认 "nova"）合成回复，需配置 OPENAI_API_KEY 并按用量计费。

  3. GitHub · 灵魂体仓库62

    keyless-llm：把免鉴权免费模型聚合成一个本地网关

    saya-ch 在 GitHub 开源 keyless-llm，把 4 个免鉴权来源共 29 个免费模型聚合成一个本地网关，改一个 base_url 就能让 OpenAI / Anthropic / Responses 兼容客户端使用。网关提供 auto 伪模型做跨来源失败转移与评分调度，提供按来源隔离的冷却状态机，实测 8 次连续 auto 请求全部成功。来源清单维护跑在 GitHub Actions 上，agent 只负责搜索候选，是否免鉴权由无鉴权头实测脚本判定，429 记为 limited 收录、401/403 拒绝。

    推荐理由：把免鉴权免费模型聚合成一个本地网关，还把来源清单维护拆成 agent 发现加脚本实测两层，方法可直接迁移。

  4. GitHub · 灵魂体仓库40

    llm-style：本地优先的 LLM 穿搭推荐应用

    开源项目 llm-style 是一个本地优先的个人穿搭应用：通过 Ollama 运行的小模型（dolphin-mistral:7b）担任造型师，先由确定性引擎从 SQLite 衣橱中按天气和场合筛出约 20 个候选，再由 LLM 做最终选择；gemm3:4b 视觉模型可通过照片分类衣物。衣橱数据和推理全部保留在本机，支持多人衣橱、情侣搭配模式，并可作为 PWA 安装到手机。

  5. GitHub · 灵魂体仓库42

    LocalCoder RTX：完全本地运行的 AI 编程智能体，基于 Ollama 开源

    GitHub 仓库 LocalCoder RTX 发布，这是一个完全在开发者本机运行的 AI 编程智能体，结合本地 LLM、工作区感知的工具循环和浏览器/CLI 界面，无需将代码发送到云端。它通过 Ollama 托管模型（推荐 qwen2.5-coder:3b 或 7b，上下文 4096），提供文件读写编辑、shell 命令审批、自动备份和工作区隔离等安全机制。该项目还可用于微调数据集构建、智能体轨迹收集和本地 LLM 评测。

  6. GitHub · 灵魂体仓库19

    dan-petty/devops-cli：一套 GitHub 仓库与 Kubernetes 集群管理命令行工具

    devops-cli 是一个命令行工具，提供 GitHub 仓库克隆、SSH 密钥轮换（默认 90 天）、devcontainer 管理和 Kubernetes 集群操作等子命令。其 k8s 模块支持用 Minikube 引导集群，并可部署含 Ollama、WebUI、Qdrant、Valkey 的 LLM 基础设施栈，还能在 OS keyring 与集群 Secrets 间同步凭证。

  7. GitHub · 灵魂体仓库47

    AccessCast：基于 Gemma 4 on AMD 的多版本无障碍视频生成项目

    AccessCast 是为 AMD Developer Hackathon ACT III 打造的无障碍视频项目，用 Gemma 4 31B 为盲人、听障、阅读困难及印地语、意大利语、西班牙语、法语、葡萄牙语用户生成八种版本。系统处理 28 个视频、3,825 次请求共 3.6 million tokens，114 条 easy-read 字幕全部保留否定词，8 例攻击中到达观众 0 例，模型成本约 $0.0053 每分钟。

  8. GitHub · 灵魂体仓库20

    Rubens Gomes 开源 ai-utils-lib：面向 Microsoft Foundry AI 应用的 Python 工具库

    Rubens Gomes 在 GitHub 开源了 Python 工具库 ai-utils-lib，供其 AI agentic 开发项目复用，聚焦 Microsoft Foundry AI 客户端应用。该库支持 YAML 配置加载到 Pydantic 模型、Azure App Configuration、Key Vault 密钥读取、Entra ID 自动续期 bearer token 及 Foundry 项目与 OpenAI 客户端创建，需 Python 3.14+，可通过 pip install ai-utils-lib 安装，采用 MIT 许可证，项目仍在开发中、API 可能变更。

  10. GitHub · 灵魂体仓库60

    understudy-lm 发布仅用目标模型文本训练的推测解码草稿模型，针对 Qwen3.5-4B 投影加速 1.43x

    understudy-lm 项目发布了仅从目标 LLM 的文本输出训练的推测解码草稿模型，无需 logits、隐藏状态或更小的同族模型，草稿一次猜测 4 个 token，由目标模型一步验证，输出不变。发布的草稿针对 Qwen3.5-4B 训练，实测每步接受 1.58 个 token，投影加速 1.43x；在 llama.cpp 下因需逐 token 起草并恢复状态反而更慢（27 到 36 tok/s 对 69 tok/s），需支持 lookahead heads 的运行时才能兑现。

    推荐理由：只靠目标模型的文本训练推测解码草稿模型，不用 logits 和隐藏状态，并给出接受的实测与局限说明。

10月25日周日
  1. GitHub · 3D 生成新仓库14

    Nextended：一套包含 19 个库的 .NET 工具套件开源仓库

    fgilde 在 GitHub 开源 Nextended，一套包含 19 个 .NET 库的工具套件，前身为 nExt，现已支持 .NET 8、9 和 10。套件涵盖扩展方法、自定义类型（Money、Date、BaseId）、缓存、EF Core 扩展、ASP.NET Core 响应过滤、Roslyn 源生成等。还提供多个 .NET Aspire 托管集成，包括 Supabase、n8n、Grafana、LocalAI 及带 MCP 端点的 WebDataStudio 数据库工具。

  2. GitHub · 3D 生成新仓库34

    Goal：开源发布自动化 CLI 工具发布 v2.2.3 版本

    Goal 是一个发布自动化 CLI，可自动运行测试、生成 conventional commits、更新 changelog、升级版本号并发布软件包，支持 Python、Node.js、Rust、Go、Java 等 9 种语言环境，可通过 goal 交互运行或 goal --all 在 CI 中无人值守执行。v2.2.3 引入自治发布完成与 goal.yaml 冻结保护，v2.2.2 新增 goal all 命令，可一条命令清理文件夹下所有有未提交更改的 git 仓库。

  3. GitHub · 3D 生成新仓库22

    Fomi AI 内容生成工作区开源项目（AwaisAmin/ai-content-generation）

    一个基于 Next.js 16 的 Fomi 图像与视频生成工作区项目，包含按 mockup 实现的响应式 Workspace 和重新设计的 Studio 两部分。Studio 将生成过程做成版本控制：每个结果都是有父版本和可见 diff 的版本，支持 Vary、Refine、Remix 三种分支方式、并排或滑块对比，以及 J/K、V/R/X、C 等键盘快捷键。Workspace 支持最多 3 个生成并行、复用历史提示词、无限滚动 feed，并适配明暗主题与移动端，项目部署在 Vercel 上。

  5. GitHub · 3D 生成新仓库45

    Exponential：面向团队的一体化开发平台，集成 Issues、用户反馈与编码智能体

    开发者平台 Exponential 在 GitHub 开源，将 Issues、用户反馈和编码智能体整合到一个实时追踪器中，支持 Claude Code、Codex 等智能体在用户自己的机器和订阅上运行。平台提供 Web、macOS、Linux、Windows、iOS、Android 客户端，基于 ElectricSQL 实现实时同步，可从 Linear 导入数据；与 GitHub 仓库绑定的看板会跟踪 session 的分支与 PR，PR 打开时 Issue 进入 In Review，合并后标记 Done。云版 3 人以内免费，自托管通过一个 docker compose 部署、无席位限制，采用 Apache-2.0 许可证，并在 /api/mcp 提供 16 个工具的 MCP server。

  6. GitHub · 3D 生成新仓库7

    JeetDas5 开源 AI 协作笔记应用 notes-app

    GitHub 用户 JeetDas5 开源了一款实时协作 AI 笔记应用 notes-app，基于 Next.js 16.2.6、React 19.2.4、Socket.io、Drizzle ORM 和 Neon PostgreSQL 构建。应用支持多用户实时协作（live cursor tracking、Editor/Viewer 角色权限），并集成 OpenAI API 实现文本摘要、标题建议和行动项提取，认证采用 Argon2 哈希与 JWT 无状态会话。

  7. Reddit · r/LocalLLaMA24

    开发者打造本地 AI 一体化应用 Hutash，却陷入是否值得继续的困惑

    一位开发者在 r/LocalLLaMA 分享了自研本地 AI 一体化应用 Hutash：它类似 ComfyUI 但无需复杂节点，内置自研引擎，提供 Openart AI 风格的免费工作室体验、Pinokio 式应用商店，并自定义 .hutash 模型包格式，字幕、播客等垂直应用可共享模型资源，还支持 CLI 和 MCP 以实现自动化与智能体调用。团队仅两三人且缺乏反馈回路，现已发布数个版本但不知该往哪个方向聚焦，怀疑自己是否过度工程化。

  8. GitHub · 去对齐工具与仓库53

    HiveMind 开源自托管多模型协作 Web 应用

    turkushan490 在 GitHub 开源了 HiveMind，一个自托管的 Web 应用，让多个 AI 模型回答同一问题、匿名互评，再由 judge 模型合并出最终答案并标注分歧点。目前处于早期 milestone 1，已支持 Ollama 本地模型、OpenAI 兼容 API 与 Anthropic（Claude），并内置 OpenRouter（:free 免费）、Groq 和 Google Gemini 免费档预设；每个步骤通过 SSE 流式输出 token 数、速度、耗时和成本，运行记录可回放，API key 以 AES-256-GCM 加密存储，提供 Docker 与 Unraid 部署方式。

  9. GitHub · 去对齐工具与仓库54

    giovi321 开源自托管医疗记录工具 Asclepius

    giovi321 在 GitHub 发布个人自托管医疗记录工具 Asclepius，用 OCR 加 LLM 把 PDF、扫描件、DICOM 影像整理成可搜索的病历，支持化验指标跨语言归一化、时间线视图和 RAG 问答。可对接 Ollama、vLLM、Claude 或 OpenAI，单 Docker 容器部署，另提供仅暴露医生分享面的 sibling 容器，分享采用一次性链接加 6 位 OTP、带水印防下载查看器，并记录完整审计日志。项目采用 MIT 许可，作者提醒个人使用场景下登录无速率限制、聊天功能存在 prompt injection 风险，公网暴露需加 OIDC 或 VPN。

  10. GitHub · 去对齐工具与仓库67

    Regression Firewall 开源：为 AI 编程智能体捕获未请求行为回归的守护层

    Tong-bit-art 在 GitHub 开源了 Regression Firewall，一个面向 AI 编程智能体的行为回归安全层，在智能体改代码前后捕获 HTTP 状态、CLI 输出、退出码和公共 API 等可观测行为，对照声明的意图做结构化 diff，输出 EXPECTED/UNEXPECTED/UNCERTAIN 分类、0-100 风险分和 PASS/REVIEW/BLOCK 判定，全程无 LLM 参与、结果确定性可复现。工具要求 Python 3.9+，尚未上架 PyPI，需克隆仓库安装，唯一运行时依赖是 PyYAML。

    推荐理由：工具在 AI 编程智能体改代码前后捕获可观测行为并给出确定性判定，附真实仓库与留出集评测数据，可评估其检出能力。

  11. GitHub · 去对齐工具与仓库30

    TLV Apartment Hunter：用 LLM 抓取并分类特拉维夫 Facebook 租房帖的公寓搜寻工具

    开源项目 TLV Apartment Hunter 自动抓取特拉维夫公开 Facebook 小组中的租房帖，每帖经一次 OpenAI 模型结构化提取价格、房间、楼层、面积、入住日期等字段，并按用户档案个性化排序。系统支持同一房源去重合并、Telegram 新房源提醒、卡片颜色分级和用户纠错报告，仅面向受邀的私有用户群，数据保留 25 天归档、40 天删除。

  12. GitHub · 去对齐工具与仓库36

    eddietex/logos：由 Claude Code 智能体构建与维护的圣经 wiki 仓库

    GitHub 仓库 eddietex/logos 是一个由 Claude Code 智能体构建和维护的圣经 wiki，遵循 llm-wiki.md 模式，约定写在 AGENTS.md 中。用户在 Obsidian 中打开仓库并指挥智能体执行 /ingest，每次调用处理一个 pericope，可自动划分新书的段落清单；目前 Genesis 58 个 pericope 已完成 1 个（Genesis 1:1–2:3）。

  13. GitHub · 去对齐工具与仓库51

    Edict：面向 AI Agent 的 JSON AST 编程语言在 GitHub 开源

    Sowiedu 在 GitHub 开源了 Edict，一种专为 AI Agent 设计的静态类型、效果追踪编程语言，程序以 JSON AST 表示，无解析器和文本语法。Agent 通过 MCP 工具调用提交 AST，经 Schema 校验、名称解析、类型检查、效果检查和 Z3 合约验证五阶段管线，错误以结构化 JSON 返回供 Agent 自修复，验证后的程序编译为 WASM 在沙箱 VM 中执行，支持 Node.js、Docker、浏览器（318 KB / 约 14 MB 两种 bundle）和 QuickJS 环境，含 2675 个测试、41 个示例程序，MIT 协议。

  14. GitHub · 去对齐工具与仓库62

    letspurify-ux/llm_agent：基于 Rust 的企业知识问答 LLM Agent 仓库

    GitHub 仓库 letspurify-ux/llm_agent 发布了一个企业内部知识问答 LLM Agent，后端用 Rust（axum）实现，基于 MnemoArc 问答模式运行时，支持语义搜索、知识文档读取、Oracle 查询、项目源码检索和 MCP 工具扩展。一个服务器对应一个角色，名称、角色指令和工具在设置页配置；管理库为 MariaDB，查询目标为 Oracle，LLM 兼容 OpenRouter / vLLM / Ollama 等 OpenAI 接口。对话上下文按 bundle 单位管理，超过 high_water（90%）从最旧 bundle 清理至 low_water（50%），查询结果按 step 编号保存，模型仅输出引用由前端填充表格与图表。

    推荐理由：仓库 README 详细交代了上下文清理水位、工具结果限额和 Oracle 例程绑定等实现细节，可按需查阅自建知识问答 Agent 的工程做法。

  15. GitHub · 去对齐工具与仓库64

    hongxin 开源 tim-harness：装进浏览器页面的随身大模型编程 Harness

    hongxin 在 GitHub 发布 tim-harness v0.4，一个纯浏览器端的大模型编程助手 Harness，打开页面填一次 OpenAI 兼容 API Key（DeepSeek / OpenAI / 本地 Ollama）即可使用，零后端零安装，密钥只存本机 IndexedDB。核心特性包括五层 Token 成本防线（前缀缓存实测省 84-90% 输入费用，DeepSeek 命中价 1/50）、目标驱动自动推进、18 个工具（文件读写、JS 沙箱、子代理派发、技能系统等）、四种可视化视图，以及平台无关 core 架构，已在纯 Node 通过 157 项冒烟断言并验证微信小程序 PoC。

    推荐理由：作者给出五层 Token 成本防线和实测省 84-90% 输入费用的数据，浏览器零后端架构对想本地跑编程智能体的人有参考价值。

  16. GitHub · 去对齐工具与仓库51

    ModelPlan 开源：按推荐推理档位比较 AI 编码模型并给出配额建议

    ModelPlan 在 GitHub 开源，基于可核查的公开数据回答该用哪个编码模型、哪个推理档位，并量化每升一档的收益与代价，如 Fable 5.1 切到 Opus 5.5 加 2.5 分、成本 ×0.52。它提供网页、Skill、Claude Code 与 Codex 插件和单文件 CLI，只读本地 Claude Code、Codex 等工具的 5 小时与每周配额窗口，数据不上传，每几小时重建一次经校验的发布数据，代码 MIT 许可。

  17. GitHub · 去对齐工具与仓库64

    kwant 开源：单二进制自托管多 AI bot 协作平台

    alexsergivan 在 GitHub 发布 kwant，一个用 Rust 编写、内嵌 React 前端的自托管二进制，可运行一支互相 @mention 分工协作的 AI bot 团队。每个 bot 有独立角色、人格和模型，支持 Claude、Codex 或 Grok CLI 登录及 Anthropic、OpenAI、xAI API key 多账户轮换；提供工作/家庭分离的 spaces、定时 routines、风险步骤审批卡、只读 IMAP 和 GitHub 集成、Laya 路由器（首次启动下载约 420 MB 模型，--no-laya 可关闭）、MCP 工具服务器和 Docker Compose VPS 部署方案，无遥测，采用 Apache-2.0 / MIT 双许可。

    推荐理由：README 详细列出了多 bot 协作、审批规则和 VPS 部署的具体做法，想自托管一套 AI bot 团队时可以照着复现。

  18. GitHub · 灵魂体仓库45

    fold：一个面向隔离编码 Agent 集群的控制平面

    开源项目 fold（pre-alpha 状态）为隔离编码 agent 提供控制平面：将任务派发到持久化的 incus 实例，工作经由 Forgejo PR 审查流转， reviewer agent bellwether 以新上下文 LLM 给出 approve / request changes / escalate 结论。系统由 incus、git、ntfy 和数百行无依赖 Python 构建，人类通过 board 看板保持监督；安全上采用能力限界，token 用量按任务统计展示在面板上。

  19. GitHub · 灵魂体仓库37

    MLOps_A2：基于 Gemini 的 LLM 智能体，自动审查 GitHub 仓库的 DevOps 规范违规

    开源项目 MLOps_A2 提供一个基于 LLM 的智能体，可自动检查公开 GitHub 仓库并生成基于证据的 DevOps 规范违规 JSON 报告。它不依赖 agent 框架，仅用 google-genai SDK，默认模型为 gemini-3.1-flash-lite，通过 Observe-Reason-Select-Execute 循环自主选择工具调用，并提供 list_files、read_file、search_code、git_log 等工具。报告会验证引用文件存在、逐行核对证据摘录并自动掩码密钥；项目需 Python 3.10+、Git 与 Gemini API key。

  20. GitHub · 灵魂体仓库36

    eridon-pro/dofbot-llm-physical-ai：LLM + ROS 2 + 计算机视觉驱动 Yahboom DOFBOT-Pi 实机机械臂的 Physical AI 项目

    开发者在 GitHub 上的 dofbot-llm-physical-ai 项目中，用 Yahboom DOFBOT-Pi（Raspberry Pi 5、6DoF）机械臂结合 OpenAI LLM、ROS 2 Humble 与计算机视觉，实现从自然语言指令到实机抓取动作。LLM 只输出如 {"action":"sort","color":"red"} 的结构化 JSON，不生成控制代码，由预设 ROS 2 节点经 HSV 颜色识别、位置估计与逆运动学完成抓取，以提升安全性和可复现性。目前支持 red、green、blue、yellow 四色指令，但图像坐标到机器人坐标的转换精度仍存在偏差导致偶尔抓取失败。

  21. GitHub · 灵魂体仓库14

    catalog-import-watchtower：CSV 商品目录导入 + LLM 值班 Agent 项目

    elugardo/catalog-import-watchtower 是一个从 CSV 导入厂商商品目录的全栈应用，先逐行校验再单事务写入并保留导入历史，导入失败会触发影响告警。内置的 LLM 值班 Agent 带六工具白名单，对瞬时故障重试一次、其余升级处理并记录操作。该项目为 AI Dev Tools Zoomcamp 2026 毕业项目，规格已于 2026-10-24 签核，backlog 正以 GitHub issues 发布。

  22. GitHub · 灵魂体仓库57

    开源项目 gemini-rag-doc-processing：Gemini + pgvector 混合检索 RAG 全栈方案

    Eric-Souza 在 GitHub 开源 gemini-rag-doc-processing，一个基于 Google Gemini、LangChain/LangGraph、Postgres + pgvector 的全栈 RAG 文档处理项目，支持文档上传、混合检索（向量 + 全文检索，RRF 融合、本地 cross-encoder 重排）、SSE 流式输出和 Langfuse 追踪。在 22 个案例的 golden set 上，混合检索加重排把 hit@1 从纯向量的 73% 提到 91%；7 案例 CI 子集上 RAGAS 评出 faithfulness 1.00、answer relevancy 0.90。

    推荐理由：给出了完整可部署的 RAG 技术栈和实测检索指标，其中混合检索加 rerank 将 hit@1 从 73% 提升到 91%，也保留了 reranker 变差的分析。

  23. GitHub · 灵魂体仓库44

    route-gen-ai：用自然语言生成 Garmin 可用骑行路线 GPX 的开源项目

    GitHub 开源项目 route-gen-ai 可用自然语言描述生成 Garmin 可导入的骑行路线 GPX。默认用 claude-haiku-4-5 解析意图（约 $0.002/request），几何搜索与评分由确定性代码完成，支持 BRouter 自托管路由和直接 CLI 调用。项目含 62 条评测请求（三分之一留出）和 39 个阶段的开发日志，Web 应用按浏览器隔离会话并支持速率限制。

  24. GitHub · 灵魂体仓库41

    hurui200320/llm-ops：本地 LLM 部署管理仓库

    hurui200320 在 GitHub 公开的 llm-ops 仓库用于管理 NAS 上的本地 LLM 部署，模型按模型族与变体目录存放 GGUF 文件和 sha256 校验文件。维护脚本以公共容器镜像 ghcr.io/hurui200320/llm-ops-toolbox:latest 发布，内置 check_updates、verify_checksums 和 download_hf 命令。另有 fetch-templates.sh 脚本可单独同步聊天模板，避免为更新模板重新下载 30GB 模型；访问 gated 仓库需设置 HF_TOKEN。

  25. GitHub · 灵魂体仓库41

    AxisVela 开源 MIT 许可的 Go 智能体框架 praxo-core

    GitHub 上的 axisvela/praxo-core 是 AxisVela 生态的 MIT 许可开源智能体框架，提供模型、工具、记忆、事件、策略、沙箱、checkpoint 和 agent loop 等可复用原语，是其上 AGPL 产品 PRAXOVELA 的框架层。Go 为参考实现，Python 和 TypeScript SDK 通过全部十一组一致性测试并含流式与 OpenAI 兼容适配器。项目另提供 MCP、OpenTelemetry、Anthropic、Gemini、A2A 等可选适配器，模块路径为 github.com/axisvela/praxo-core/v2。

  26. GitHub · 灵魂体仓库53

    ShipGuard 2.18.0 发布：面向 Claude Code 与 Codex 的 AI 测试与代码审计插件

    bacoco 在 GitHub 发布 ShipGuard 2.18.0，一套基于 Claude Code / Codex 的 AI 测试与审计插件，包含 Visual E2E Debugger、Code Audit、Logic Audit、Macro Recorder、Process Check 和 Self-Improving Engine 六个模块。核心机制是范围保护，用户请求即允许的修改范围，改动须用户确认；代码审计默认 report-only，用 Opus 4.7 派发、Sonnet 验证发现，称可削减约 15-30% 误报。审计 token 开销高，standard 模式约 2M token，paranoid 模式可超 10M。

  27. GitHub · 灵魂体仓库22

    fora：运行你自己的 Agent 组织

    fora 是一个用于运行自有 Agent 组织的工具，其 fora-web 支持 non-loopback 监听直接接受域名访问，例如 `fora-web --host 0.0.0.0 --port 2461`。通过反向代理转发 HTTPS 时，可用 `--public-host` 或环境变量 FORA_PUBLIC_HOSTS 配置公开域名，前导点表示允许该域名及其全部子域名；代理需转发 HTTP 与 WebSocket 请求，loopback 监听则仍拒绝未列入的域名。

  28. GitHub · 灵魂体仓库50

    开源工具 Upkeep 用 Nemotron 模型自动保持 GitHub PR 可合并

    开源项目 Upkeep 自动找出阻塞每个开放 PR 的原因，在策略允许范围内修复，并用编译和测试验证每个修复，无法处理的则退回诊断和回执。它由单个 Go 二进制实现，运行在 Nebius Token Factory 托管的 NVIDIA Nemotron 模型上，按 Ultra、Super、Nano 三个角色分工处理诊断、修复和摘要，并支持 record/replay 模式以零 token 复放调用。策略规定 Upkeep 永不 force-push、永不合并人开的 PR、也不允许修复改动或跳过测试，构建和测试在无网络的 Docker 容器中运行。项目为 MIT 协议，代码不含注释。

  29. GitHub · 灵魂体仓库27

    llm-gateway：基于 FastAPI 的 Google Gemini 网关开源项目

    开源项目 llm-gateway 是一个位于客户端应用与 Google Gemini 之间的 FastAPI 网关，负责客户端认证、请求校验、按 key 限流、缓存与 SQLite 用量记录。客户端 API key 以 SHA-256 哈希存储，缓存 TTL 为 5 分钟，Gemini 请求设置 15 秒超时，对 408、429、500、502、503、504 等临时失败最多重试一次。项目还提供 Streamlit 仪表盘和 Docker 支持，作者定位为单机测试原型。