arXiv · cs.AI· Ofek Avivi·· 5 天前AI 评分45
T2Quant:面向扩散语言模型的任务与时间步感知量化框架
Different Tasks, Different Timesteps: Temporal Task-Aware Quantization for Diffusion Language Models
来源与原文
arXiv · cs.AI
作者:Ofek Avivi
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.31198v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
一项 arXiv 预印本研究发现,扩散语言模型(DLM)的量化敏感性随任务和去噪时间步而变化,且这种模式无需真实标签或任务专属评测指标即可预测。作者据此提出 T²Quant,一种任务与时间感知的混合精度量化框架,在固定位宽预算下用无标签敏感性信号优化各去噪步骤的激活精度。在 3 个 DLM 和 6 个 benchmark 上的实验显示,同预算下平均准确率最高提升 6.7 个百分点。
来源:arXiv · cs.AI · arxiv.org