Ink 开源:把生产级 AI 重复决策编译为本地 Fast Path
Devaretanmay 发布开源工具 Ink(Apache-2.0),用于识别生产 AI 智能体中重复且可独立验证的有界决策,如路由、工具选择和分类,经 shadow 对比和统计资格认证后在本地提供 Fast Path 服务,精确匹配延迟 0.18–0.19 ms,本地模型约 48 ms。基准显示 DecisionSite 内模型调用减少 19.9–40.4%,全应用调用减少 3.99–10.10%,检测到策略漂移时自动撤销 Fast Path,注入漂移下撤销前发生 7–8 次错误服务,低于静态缓存的 12.0–18.0% 错误率。
推荐理由:仓库用 18000 次决策的基准数据说明调用减少和延迟收益,也如实列出漂移前误判次数等局限,便于读者自行评估适用性。