跳到正文
GitHub · 灵魂体仓库·· 4 天前精选AI 评分62

rosetta-gateway:单二进制局域网 LLM 网关开源

cn-maul/rosetta-gateway

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/cn-maul/rosetta-gateway

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

cn-maul 开源了 rosetta-gateway,一个把多个 AI 服务商统一到单一接入点的局域网 LLM 网关,交付形态为单个二进制加一个 SQLite 文件。它支持 OpenAI Chat、OpenAI Responses、Anthropic Messages 三协议下游入口,客户端零改造接入 Cherry Studio、OpenWebUI、Claude Code、Codex CLI 等,并提供链式故障转移、多用户权限、token 配额与 RPM/TPM 限速、人民币余额闸门、逐请求用量记账与 Vue 3 Web 管理界面。

推荐理由

README 把配额、故障转移、记账和回环默认绑定的安全考量写得很细,想自建局域网 LLM 网关的读者可以直接对照部署。

来源:GitHub · 灵魂体仓库 · github.com