提出dLLM-KVQ扩散语言模型KV缓存量化方法
热点事件持续更新
提出dLLM-KVQ扩散语言模型KV缓存量化方法
1 篇报道1 个报道来源19 小时前更新
先了解这件事
AI 综述
arXiv 论文 2610.39853 针对扩散语言模型（dLLM）在缓存复用误差下的 KV cache 量化问题，将 KIVI 与 KVQuant 适配到 Fast-dLLM 式前缀与双缓存复用，并提出 TRACE 与 dLLM-KVQ 两种方法。TRACE 从 prompt-answer 对重建可行的掩码揭示轨迹作为校准状态；dLLM-KVQ 据此选出需保持高精度的逐层 K 缓存条目，对其余条目做低位量化。
AI 根据报道生成 · 45 分钟前更新
最新进展10月29日 19:31
扩散语言模型的 KV Cache 量化研究：提出 TRACE 与 dLLM-KVQ 方法报道时间线
沿着报道，了解事件的不同侧面。
10月29日
- arXiv · cs.CL扩散语言模型的 KV Cache 量化研究：提出 TRACE 与 dLLM-KVQ 方法
arXiv 论文 2610.39853 研究扩散语言模型（dLLM）在缓存复用误差下的 KV cache 量化问题，将 KIVI 与 KVQuant 适配到 Fast-dLLM 式前缀与双缓存复用，并提出 TRACE 与 dLLM-KVQ。TRACE 从 prompt-answer 对重建可行的掩码揭示轨迹作为校准状态，dLLM-KVQ 据此选出需保持高精度的逐层 K 缓存条目并对其余做低位量化。在 LLaDA 和 Dream 上评测 GSM8K、HumanEval、MATH、MBPP，dLLM-KVQ 在报告的 4-bit 与 2-bit 前缀/双缓存设置中取得量化方法中的最高平均分。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。