跳到正文
GitHub · 去对齐工具与仓库·· 20 天前AI 评分41

ezRouter:Rust 编写的高性能 LLM 代理与智能路由器

namhv94/ezRouter

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/namhv94/ezRouter

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

ezRouter 是一款 100% Rust 编写的内存安全 LLM 代理与智能路由器,提供 OpenAI 兼容网关,本地路由延迟低于 1 毫秒,空闲内存占用小于 25MB。其 Token Saver 引擎通过提示词压缩节省 30% 至 60% 的 token 用量,支持 Google Antigravity、OpenAI Codex 多账号配额池轮换,以及 DeepSeek、Groq、Ollama、vLLM 等自定义提供商的透传,并内置暗色模式 Web 管理控制台。

来源:GitHub · 去对齐工具与仓库 · github.com