arXiv · cs.AI· Egor Maximov·· 18 小时前AI 评分42
DCKV：混合语言模型中提示词 KV cache 的可学习变换编码
DCKV: Learned Transform Coding of the Prompt KV Cache in Hybrid Language Models
来源与原文
arXiv · cs.AI
作者：Egor Maximov
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.36950v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
DCKV 是首个端到端训练的 KV cache 可微编解码器，针对混合语言模型中仅存于少数全注意力层的 KV cache 进行压缩，其变换、量化器和熵模型与冻结语言模型联合优化。在 Qwen3.5-2B 上，压缩后每 token 存储比 bf16 少 55 倍以上时，三个长上下文 benchmark 最多损失 1.8 分；少 100 倍以上时最多损失 3.6 分。
来源：arXiv · cs.AI · arxiv.org