GitHub · 灵魂体仓库·· 18 天前AI 评分44
Hanzo 开源 ai:Hanzo 云的 AI 推理子系统
hanzoai/ai
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/hanzoai/ai
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
hanzoai/ai 是 Hanzo 云的 AI 子系统,用纯 Go 编写,提供 /v1 推理接口、按请求路由与计费,并承载 RAG 与模型中心。它托管 zen、enso、enso-ultra 和 zen5 等模型,支持 sk-* API key、hanzo.id OAuth JWT 或自有 provider key 三种鉴权方式。"model":"auto"(别名 zen-router)可将请求按代码、推理、数学等任务类别路由,账单按实际服务的模型计算,可通过 ROUTER_ENABLED=true 或 conf/models.yaml 启用。项目采用 Apache-2.0 许可,可用 docker run ghcr.io/hanzoai/ai:vX.Y.Z 自行部署,托管实例为 api.hanzo.ai。
来源:GitHub · 灵魂体仓库 · github.com