跳到正文
我的
arXiv · cs.AI· Xinrui Zhong·· 15 小时前精选AI 评分52

CompressionBench 研究编码智能体能否自主压缩 LLM

CompressionBench: How can your coding agents compress LLMs?

来源与原文

arXiv · cs.AI

作者:Xinrui Zhong

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2611.06858v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

arXiv 论文 CompressionBench 将 LLM 压缩设为智能体的终端任务:给定源 checkpoint、存储上限、推理环境和时间预算,由智能体自主构建压缩权重和可执行推理代码,perplexity 反馈引导搜索,独立验证检查最终模型。在 6 个智能体与 6 组模型规模设置中,36 次提交有 29 次通过验证;每个任务选最低 perplexity 的智能体设计,平均 perplexity 较 BF16 增加 3.4%,下游准确率 77.33%(BF16 为 79.56%)。记录的实验显示智能体在 24 次修订中 21 次降低 PPL 且存储几乎不变,完整模型反馈推翻了 79 个局部排名中的 17 个,生成与推理测试暴露了仅靠似然指标遗漏的失败。

推荐理由

论文把 LLM 压缩交给编码智能体自主完成,并用独立验证衡量结果,给出可复用的任务框架和失败点分析。

来源:arXiv · cs.AI · arxiv.org

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。