AutoCompress硬件引导压缩框架发布
热点事件持续更新
AutoCompress硬件引导压缩框架发布
1 篇报道1 个报道来源15 小时前更新
先了解这件事
AI 综述
Sheldon Liang等作者发布AutoCompress，一个硬件引导的模型压缩框架：它把延迟、吞吐和显存约束直接纳入可微分架构搜索，联合优化全局与逐层结构以生成异构架构。 据论文报告，相比Minitron，AutoCompress在RTX 5070、RTX 5080和H100上八项基准的平均准确率分别提升6.57、2.35和0.57个百分点。该框架还把Nemotron 3.5 Super从120B压缩至74B，用于单张B200的BF16 128K上下文服务，保留95%的平均基准分数。
AI 根据报道生成 · 2 小时前更新
最新进展11月6日 00:53
AutoCompress：硬件引导的自动化模型压缩框架报道时间线
沿着报道，了解事件的不同侧面。
11月6日
- arXiv · cs.AIAutoCompress：硬件引导的自动化模型压缩框架
AutoCompress 是一个硬件引导的压缩框架，将延迟、吞吐和显存约束直接纳入可微分架构搜索，联合优化全局与逐层结构以生成异构架构。相比 Minitron，其在 RTX 5070、RTX 5080 和 H100 上八项基准的平均准确率分别提升 6.57、2.35 和 0.57 个百分点。该框架还将 Nemotron 3.5 Super 从 120B 压缩至 74B，用于单 B200 BF16 的 128K 上下文服务，保留 95% 的平均基准分数。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。