arXiv · cs.CL· Seobin Song·· 21 天前精选AI 评分53
arXiv 论文提出免训练两阶段低秩补偿方法，改进大语言模型极端量化精度
Align, Then Correct: Training-Free Two-Stage Low-Rank Compensation for Extremely Quantized Large Language Models
来源与原文
arXiv · cs.CL
作者：Seobin Song
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.08164v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
arXiv 论文（https://arxiv.org/abs/2610.08164）提出免训练的两阶段闭式低秩量化误差补偿框架：Stage 1 以 Fisher 加权非对称目标将各层输出对齐全精度模型，Stage 2 在补偿后模型上做秩约束自然梯度步吸收剩余一阶信号，每个 adapter 只需一次截断 SVD。在 2 bit QuIP# 下，Qwen3-8B 的 WikiText-2 困惑度从 12.43 降至 10.26，Qwen3-4B 从 21.11 降至 13.22；在 C4 上相对最强基线（31%/63%）分别恢复 51% 和 84% 的到 FP16 的差距，并在更高位宽和另一量化器下保持增益。
推荐理由
论文指出既有低秩量化误差补偿的两个共同简化，并用两阶段闭式框架在 2 bit 极端量化下给出可复现的困惑度改进。
来源：arXiv · cs.CL · arxiv.org