arXiv · cs.CL· Johannes Wesch·· 25 天前精选AI 评分55
KV$^2$：一种自精炼 KV cache 压缩方法发布于 arXiv
KV$^2$: A Self-Refining KV Cache
来源与原文
arXiv · cs.CL
作者：Johannes Wesch
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.03198v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
论文提出 KV$^2$，一种基于选择性重构的 query 无关 KV cache 压缩方法，先用轻量代理评分器筛选上下文中的有效 token，再仅对该子集重新计算最终淘汰分数。
推荐理由
论文给出 KV$^2$ 在 RULER 和 LongBench 上随预算收紧而扩大的对比数据，可复用的 KV cache 压缩不必重处理全上下文。
来源：arXiv · cs.CL · arxiv.org