跳到正文
GitHub · 去对齐工具与仓库·· 8 天前精选AI 评分60

llm-gateway 开源:本地网关双向转换 Anthropic 与 OpenAI 协议

banchen21/llm-gateway

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/banchen21/llm-gateway

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

banchen21 在 GitHub 发布 llm-gateway,一个本地网关,对客户端说 Anthropic Messages API,对上游说 Anthropic 或 OpenAI Chat Completions API,双向转换且支持 SSE 流式。它归一化 thinking、output_config 等易被第三方实现拒绝的字段,支持模型别名映射、按客户端签发和吊销入站密钥、可读请求日志(不含消息正文),提供桌面窗口和浏览器两种 GUI,监听 127.0.0.1:8787。未实现 Responses API,count_tokens 为字符估算而非真实 tokenizer;预编译二进制覆盖 Windows、Linux 和 macOS,macOS 仅含 headless 服务端,MIT 许可。

推荐理由

本地网关在 Anthropic 与 OpenAI 两种协议间双向转换请求和流式响应,并给出模型别名、密钥管理和请求日志等落地细节。

来源:GitHub · 去对齐工具与仓库 · github.com