arXiv · cs.AI· Mads Toftrup·· 17 小时前AI 评分39
统一的 Hessian 引导低比特后训练量化框架
A Unified Hessian-Guided Framework for Post-Training Quantization
来源与原文
arXiv · cs.AI
作者：Mads Toftrup
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.40345v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
研究者提出一种基于 Hessian 引导近似的统一后训练量化框架，利用可求解的 Fisher 近似，在统一的输出敏感度目标下联合优化量化范围、线性变换和权重取整。该方法在现代大语言模型上保持实用性，在 channel-wise 和 block-wise 量化设置下均一致优于现有 SOTA 变换与取整方法。
来源：arXiv · cs.AI · arxiv.org