arXiv · cs.AI· Xinrui Zhong·· 15 小时前精选AI 评分52
CompressionBench 研究编码智能体能否自主压缩 LLM
CompressionBench: How can your coding agents compress LLMs?
来源与原文
arXiv · cs.AI
作者:Xinrui Zhong
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2611.06858v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
arXiv 论文 CompressionBench 将 LLM 压缩设为智能体的终端任务:给定源 checkpoint、存储上限、推理环境和时间预算,由智能体自主构建压缩权重和可执行推理代码,perplexity 反馈引导搜索,独立验证检查最终模型。在 6 个智能体与 6 组模型规模设置中,36 次提交有 29 次通过验证;每个任务选最低 perplexity 的智能体设计,平均 perplexity 较 BF16 增加 3.4%,下游准确率 77.33%(BF16 为 79.56%)。记录的实验显示智能体在 24 次修订中 21 次降低 PPL 且存储几乎不变,完整模型反馈推翻了 79 个局部排名中的 17 个,生成与推理测试暴露了仅靠似然指标遗漏的失败。
推荐理由
论文把 LLM 压缩交给编码智能体自主完成,并用独立验证衡量结果,给出可复用的任务框架和失败点分析。
来源:arXiv · cs.AI · arxiv.org
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。