Relay 开源：Rust 单二进制自托管 LLM API 网关

stoneaigc 在 GitHub 开源 Relay，一个 Rust 单二进制自托管 LLM API 网关，把多家供应商收敛成一个 OpenAI / Anthropic 兼容入口。支持双协议互转、六种负载策略、故障转移与熔断、语义缓存、token 计费与请求链路追踪，内置用户门户与运营后台。提供在线脚本、离线包、Docker Compose 等安装方式，自测基准显示 chat 全链路重路径约 720 RPS、P50 4.4ms，持续 4 万+ 请求后进程内存约 29MB。