GitHub · 灵魂体仓库·· 17 天前精选AI 评分73
contextscope 发布本地优先的 LLM 上下文窗口与缓存失配分析工具
antonsoo/contextscope
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/antonsoo/contextscope
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Anton Soloviev 发布开源工具 contextscope,用于分析 Agent 请求日志里的 token 分布与 prompt cache 失配原因,支持 Anthropic 和 OpenAI 的缓存规则逐轮模拟,全部在浏览器或本地运行、数据不上传。作者基于 360 条 SWE-bench 真实轨迹、12,760 条请求做了验证:Claude token 估算在校准后误差为 +1.6 到 +3.3%,缓存读取判断与 Anthropic 在 96 到 100% 的请求上一致;OpenAI 计数在补上每条消息 5 个 framing token 后在 2,205 条请求中全部精确。
推荐理由
工具作者用 360 条 SWE-bench 真实轨迹实测了自己的缓存模拟精度,读者可以据此判断这份准确率数字的适用范围。
来源:GitHub · 灵魂体仓库 · github.com