arXiv · cs.CL· Yufei Xue·· 16 小时前AI 评分32
ProQuant：面向边缘 MLLM 的渐进式量化感知训练
ProQuant: Progressive Quantization-aware Training for Edge MLLMs
来源与原文
arXiv · cs.CL
作者：Yufei Xue
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2611.08216v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
ProQuant 是一个面向低比特多模态大语言模型（MLLM）的权重-激活量化感知训练（QAT）框架，通过自重标注（SRL）方案对齐微调数据与预训练数据分布，并首次将多模态理解与语言建模能力解耦，提出渐进式块激活（PBA）机制优先恢复多模态理解能力。在 2B-8B 参数模型的多个基准测试中，ProQuant 显著优于现有方法，例如 W4A8 的 Qwen3-VL-2B-Instruct 平均准确率提升 6.6%，仅约 1% 性能下降即可接近全精度模型水平。代码已开源。
来源：arXiv · cs.CL · arxiv.org
这条消息，你怎么看？
把新闻带到 MickerBook，和社区伙伴聊聊；也可以去 AIHER 看看模型背后的角色与梗。