arXiv · cs.AI· Reem Abdel-Salam·· 17 天前AI 评分34
VLCQ:基于变长编码的深度神经网络训练后量化方法
VLCQ: Post-training quantization for deep neural networks using variable length coding
来源与原文
arXiv · cs.AI
作者:Reem Abdel-Salam
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.15092v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
研究者提出 VLCQ,一种无需访问训练数据或微调模型的训练后量化方法,通过变长编码突破定点编码限制,在更低位宽下保持性能。per-channel 量化下相比 FP32 最高压缩 6x(比 PWLQ 高 1.7x),优先压缩时可达 12.25x 压缩且性能损失低于 4%;per-tensor 量化下与 DFQ 相当且更灵活。论文发表于 Future Generation Computer Systems。
来源:arXiv · cs.AI · arxiv.org