wOvAN 开源 Go 语言 LLM API 路由反向代理 llm-api-router

wOvAN 在 GitHub 发布 llm-api-router，一个基于 Go 的反向代理，可在多个推理后端之间路由 LLM API 请求，同时支持 OpenAI 和 Anthropic 两种 API 协议，零外部依赖。功能包括多后端路由、模型名重映射（如 opus → haiku）、主服务器不可用时自动故障转移、内嵌 Web GUI 运行时配置、SSE 流式响应无缓冲转发，以及基于环形缓冲区（最近 100 条请求）的指标统计（TTFB、解码时间、token 吞吐量）。支持 Docker Compose 部署，最终镜像约 15MB。项目地址：https://github.com/wOvAN/llm-api-router