GitHub · 灵魂体仓库·· 3 天前AI 评分62
Skirnir:面向 Ollama 的自托管 LLM 路由与 AI 网关开源
psewar/skirnir
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/psewar/skirnir
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
psewar 在 GitHub 开源了 Skirnir,一个自托管的 LLM 路由器和 AI 网关,部署在多台 GPU 机器的 Ollama 之前,对外同时提供 Ollama API、OpenAI 兼容接口和 Anthropic Messages API(可接 Claude Code)。客户端按角色而非模型名请求,路由器根据 VRAM 占用、游戏检测、速度和错误率选择节点与上下文档位,支持 Wake-on-LAN、熔断、云兜底层级和共享 agent 记忆;auto 角色由本地决策链自动选角色,链路路由准确率 0.947。当前版本 router 0.1.6、agent 0.8.4,自 2026 年 9 月起在一个 homelab 持续运行,作者强调无稳定性保证。
来源:GitHub · 灵魂体仓库 · github.com