跳到正文
GitHub · 去对齐工具与仓库·· 20 天前精选AI 评分70

RestoreKV 开源:在激进 KV 缓存驱逐下恢复全缓存行为,登顶 KVPress 榜单

cvsp-lab/RestoreKV

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/cvsp-lab/RestoreKV

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

釜山大学等机构开源 RestoreKV,在 query-agnostic KV 缓存驱逐后用少量 restore tokens 经一次 LoRA 适配生成恢复缓存,仅训练 0.4% 参数,无需任务特定微调。

推荐理由

原文给出 RestoreKV 的训练细节与多组预算匹配评测数字,读者可据此判断该方法在激进 KV 缓存压缩下的实际收益。

来源:GitHub · 去对齐工具与仓库 · github.com