arXiv · cs.AI· Jiahui Ning·· 7 天前AI 评分46
ACE-Compression:以能力为中心评估压缩后的大语言模型
ACE-Compression: An Ability-Centric Evaluation of Compressed Large Language Models
来源与原文
arXiv · cs.AI
作者:Jiahui Ning
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.27913v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
ACE-Compression 是一个以能力为中心的大语言模型压缩评估框架,从程序推理与约束执行、知识基础与真实性、社会认知与情感理解、人格一致性与风格稳定性四个维度考察压缩后模型的能力存续。对来自六个开源权重 LLM 的 35 个以上压缩 checkpoint(涵盖量化和剪枝)的分析显示,压缩会重新分布能力:粗粒度、局部、表层信号往往保留,而细粒度、长尾、依赖上下文的能力变得脆弱;量化在能力保留上始终优于剪枝。部署者可据此按应用所需能力画像选择压缩方法。
来源:arXiv · cs.AI · arxiv.org