GitHub · 灵魂体仓库·· 9 天前精选AI 评分62
BlockRunAI 开源 router-core 本地 LLM 路由引擎
BlockRunAI/router-core
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/BlockRunAI/router-core
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
BlockRunAI 开源了其六款产品共用的智能 LLM 路由引擎 router-core。它用 15 维本地特征对请求分类,先硬过滤不满足能力契约的模型,再按任务质量、成本、速度、可靠性打分排序,决策约 0.05 ms、无推理调用、无网络访问,并返回可审计的理由和有序回退链。V3.4 基准显示任务成功率从 49% 升至 57%,单任务成本降 6.4%,但质量增益的 95% 置信区间为 −1.9 到 +15.5 点、跨零,官方明确声明未统计显著优于原规则路由。MIT 许可、零运行时依赖,需 Node ≥ 20.19,仅以 commit tarball 安装而不发布 npm。
推荐理由
原文给出了完整的分级过滤与打分机制、实测延迟和带失败区间的基准数据,读者可以据此评估这套本地路由引擎是否值得复用。
来源:GitHub · 灵魂体仓库 · github.com