Muvon 开源 Rust 编写的 LLM 代理 OctoHub 0.7.8

Muvon Un Limited 发布 OctoHub，一个用 Rust 编写的高性能 LLM 代理，对外提供统一的 OpenAI 风格 API，后端可路由到 OpenAI、Anthropic、Google、DeepSeek、Ollama、OpenRouter、Modal 托管的 vLLM 等 20 多个上游。支持多租户 API key、完整请求响应日志（SQLite/MySQL/PostgreSQL）、按 key 和时间桶的用量统计、模型映射与随机负载均衡、缓冲式 chat SSE、媒体生成端点、per-provider 并发限制、Prometheus 指标和 SIGHUP 配置热重载；提供 6 个平台的静态二进制，Apache-2.0 许可。