GitHub · 灵魂体仓库·· 18 天前AI 评分50
Ubastic 开源 llm-relay:零依赖本地 LLM API 中转代理
Ubastic/llm-relay
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/Ubastic/llm-relay
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Ubastic 发布 llm-relay,一个仅需 Node ≥ 18、零依赖的本地 LLM API 中转代理,默认监听 http://localhost:8788。它把多个平台的 key 池化,无余额、无效、封禁的 key 自动剔除,限流 key 冷却 60 秒并带 ±25% 抖动,并发按 LRU 分摊;同时打通 OpenAI 与 Anthropic 两种协议(含 reasoning_content 与 thinking 互转、工具调用),支持 http/https/socks5 出站代理、配置导入导出与管理页密码保护,并提供 mock 上游等多套自测脚本。项目地址 https://github.com/Ubastic/llm-relay
来源:GitHub · 灵魂体仓库 · github.com