GitHub · 灵魂体仓库·· 21 天前精选AI 评分63
Ink 开源:把生产级 AI 重复决策编译为本地 Fast Path
Devaretanmay/ink
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/Devaretanmay/ink
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Devaretanmay 发布开源工具 Ink(Apache-2.0),用于识别生产 AI 智能体中重复且可独立验证的有界决策,如路由、工具选择和分类,经 shadow 对比和统计资格认证后在本地提供 Fast Path 服务,精确匹配延迟 0.18–0.19 ms,本地模型约 48 ms。基准显示 DecisionSite 内模型调用减少 19.9–40.4%,全应用调用减少 3.99–10.10%,检测到策略漂移时自动撤销 Fast Path,注入漂移下撤销前发生 7–8 次错误服务,低于静态缓存的 12.0–18.0% 错误率。
推荐理由
仓库用 18000 次决策的基准数据说明调用减少和延迟收益,也如实列出漂移前误判次数等局限,便于读者自行评估适用性。
来源:GitHub · 灵魂体仓库 · github.com