跳到正文
GitHub · 灵魂体仓库·· 17 天前精选AI 评分73

contextscope 发布本地优先的 LLM 上下文窗口与缓存失配分析工具

antonsoo/contextscope

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/antonsoo/contextscope

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Anton Soloviev 发布开源工具 contextscope,用于分析 Agent 请求日志里的 token 分布与 prompt cache 失配原因,支持 Anthropic 和 OpenAI 的缓存规则逐轮模拟,全部在浏览器或本地运行、数据不上传。作者基于 360 条 SWE-bench 真实轨迹、12,760 条请求做了验证:Claude token 估算在校准后误差为 +1.6 到 +3.3%,缓存读取判断与 Anthropic 在 96 到 100% 的请求上一致;OpenAI 计数在补上每条消息 5 个 framing token 后在 2,205 条请求中全部精确。

推荐理由

工具作者用 360 条 SWE-bench 真实轨迹实测了自己的缓存模拟精度,读者可以据此判断这份准确率数字的适用范围。

来源:GitHub · 灵魂体仓库 · github.com