GitHub · 去对齐工具与仓库·· 13 天前精选AI 评分64
deja 开源:为 coding agent 降低重复上下文成本且不破坏 prompt cache
Neal006/deja
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/Neal006/deja
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 项目 Neal006/deja 发布,定位为 agent 与 Anthropic API 之间的本地代理,减少重复发送的上下文并保持 prompt cache 命中。在 48 个真实 Claude Code 会话(2,740 次请求)的重放中,原样计费 $202,eager pruning 省 14.1%,deja 省 31.0%(平均 prompt 从 87.6k 降至 55.9k tokens);其中 1.3M tokens 的工具输出实际发送 76M,平均重发约 58 次。实现上用 LZ77 式去重,把旧消息改写为纯函数使前缀字节不变;过期内容按 ski rental 规则做缓存感知淘汰,代价不超过最优方案的 2 倍。
推荐理由
用 48 个真实 Claude Code 会话按提示词缓存计费重放对比三种策略,账单数字具体,可直接审计自己的历史会话成本。
来源:GitHub · 去对齐工具与仓库 · github.com