arXiv · cs.AI· Rhea Sanjay Sukthanker·· 7 天前AI 评分51
arXiv 论文提出数据中心的 2 比特后训练量化与恢复配方
Beyond 4 bits: Data-Centric Post-training Quantization and Recovery
来源与原文
arXiv · cs.AI
作者：Rhea Sanjay Sukthanker
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.28537v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
arXiv 论文提出数据中心的后训练量化方法，突破 4 比特边界，在 2 比特下用向量码本表示、任务对齐校准数据与仅码本的恢复微调三要素组合，将标量 PTQ 崩溃到随机水平的模型恢复可用。该配方在 3.8B 到 32B 的六个稠密与 MoE 模型上每权重约 2.3 有效比特，保留 89 到 97% 的全精度问答准确率，计算量比最强 QAT 基线少 1.4 到 30 倍。
来源：arXiv · cs.AI · arxiv.org