跳到正文
GitHub · 灵魂体仓库·· 21 天前精选AI 评分63

Ink 开源:把生产级 AI 重复决策编译为本地 Fast Path

Devaretanmay/ink

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/Devaretanmay/ink

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Devaretanmay 发布开源工具 Ink(Apache-2.0),用于识别生产 AI 智能体中重复且可独立验证的有界决策,如路由、工具选择和分类,经 shadow 对比和统计资格认证后在本地提供 Fast Path 服务,精确匹配延迟 0.18–0.19 ms,本地模型约 48 ms。基准显示 DecisionSite 内模型调用减少 19.9–40.4%,全应用调用减少 3.99–10.10%,检测到策略漂移时自动撤销 Fast Path,注入漂移下撤销前发生 7–8 次错误服务,低于静态缓存的 12.0–18.0% 错误率。

推荐理由

仓库用 18000 次决策的基准数据说明调用减少和延迟收益,也如实列出漂移前误判次数等局限,便于读者自行评估适用性。

来源:GitHub · 灵魂体仓库 · github.com