跳到正文
GitHub · 去对齐工具与仓库·· 15 天前AI 评分52

llm-gateway 0.2.1 发布:一个地址一个 Key 聚合 DeepSeek、GLM、Kimi、OpenRouter 等端点的本地 LLM 网关

liushikuan63/llm-gateway

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/liushikuan63/llm-gateway

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

liushikuan63 在 GitHub 发布 Rust/Tauri 本地 LLM 网关 llm-gateway 0.2.1,将 DeepSeek、GLM、Kimi、通义、OpenRouter、Gemini 及本地 Ollama/vLLM 等端点聚合为一个网址加一个 Key。核心功能包括流式首字节前自动降级、上下文落 SQLite 支持重启与降级后续接、按模型分档与 UTC 峰谷价计费、多模态能力硬约束路由,以及接入内置 Mihomo 内核的 VPN 代理。项目自有代码采用 MIT 许可证,Windows 安装包与完整文档见 https://github.com/liushikuan63/llm-gateway。

来源:GitHub · 去对齐工具与仓库 · github.com