GitHub · 去对齐工具与仓库·· 15 天前AI 评分48
relay:本地自托管的 LLM 请求路由网关
recorded-phrygian494/relay
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/recorded-phrygian494/relay
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
开源工具 relay 可在本机将面向 OpenAI 或 Anthropic 格式的请求转发到 Gemini、Ollama 等所选模型服务商。它以单个 .exe 文件运行于 Windows 10/11(需 4 GB 内存、100 MB 磁盘空间),采用零遥测设计,不记录提示词和凭据,默认本地地址为 8080 端口,可通过 config.yaml 自定义路由规则,连接 Ollama 时可完全离线使用。
来源:GitHub · 去对齐工具与仓库 · github.com