GitHub · 去对齐工具与仓库·· 19 天前AI 评分48
zhfeng 开源 llm-gateway:Go 编写的 LLM 网关,兼容 Anthropic 与 OpenAI 端点
zhfeng/llm-gateway
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/zhfeng/llm-gateway
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 上的 zhfeng/llm-gateway 是一个单二进制 Go LLM 网关,提供 Anthropic 兼容与 OpenAI 兼容端点(/v1/messages、/v1/chat/completions 等),可通过统一模型注册表路由到 anthropic_compatible 或 openai_compatible 后端。它支持 Claude Code 与 Codex 风格客户端,通过 ANTHROPIC_BASE_URL 或 OPENAI_BASE_URL 接入,可配置 code-main、code-fast、code-large 等模型别名。网关默认启用 API key 认证,支持 SSE 流式转发与客户端断开时取消上游调用,且默认不记录提示词内容。
来源:GitHub · 去对齐工具与仓库 · github.com