GitHub · 去对齐工具与仓库·· 18 天前AI 评分44
Hoosh：Cyrius 编写的开源 AI 推理网关
MacCracken/hoosh
来源与原文
GitHub · 去对齐工具与仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/MacCracken/hoosh
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Hoosh 是一个用 Cyrius 语言编写、从 Rust v1.3.0 移植而来的 AI 推理网关，属于 AGNOS 生态，源码约 15,600 行、二进制约 2.9 MB、零第三方依赖。它支持 17 个 LLM provider（9 个本地、8 个远程，如 Ollama、vLLM、OpenAI、Anthropic、DeepSeek），提供 OpenAI 兼容 API、批量推理、MCP 工具服务器、token 预算、响应缓存、DLP 隐私路由和成本跟踪，并优先本地推理。测试包含 1205 条断言、181 组、0 失败。
来源：GitHub · 去对齐工具与仓库 · github.com