rolter 发布：Rust 编写的开源 LiteLLM 替代 AI 网关与负载均衡器

rolter 在 GitHub 发布，一款用 Rust 编写的高性能开源 LiteLLM 代理替代品，兼容 OpenAI/Anthropic API，可对自托管 vLLM 集群（如 20–30 个实例）做缓存感知负载均衡。项目仍处活跃开发中，已实现网关、Postgres 控制面、免重载配置、虚拟密钥、预算与费率限制、RBAC 和成本追踪；架构采用 Axum/Hyper/Tower on Tokio 数据面，加 Redis 热更新快照与 ClickHouse 请求日志，单镜像 docker run 可在分钟内启动，内置 fake-llm 模型无需 provider key 即可发起首个请求，许可证为 Apache-2.0。