BtsPruner 视觉 token 剪枝论文发布:免训练剪枝保留 91.6% 性能
热点事件观察中
BtsPruner 视觉 token 剪枝论文发布:免训练剪枝保留 91.6% 性能
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
研究者 Zihao Qi 在 arXiv 提交论文(arXiv:2611.04537),提出 BtsPruner——一种免训练的角色感知视觉 token 剪枝框架。其思路基于一个观察:视觉 token 在编码过程中会从局部细节载体逐步演变为全局参照代表,据此在固定预算下保留互补的 token 角色。 论文报告的效果均有条件限定:在 LLaVA-1.5-7B 上仅保留 576 个视觉 token 中的 32 个(5.6%)即保留 91.6% 性能;在 LLaVA-NeXT-7B 高分辨率设置下实现最高 5.95 倍 CUDA 推理加速。作者称该方法在 LLaVA-1.5、LLaVA-NeXT、Qwen-VL、InternVL 和 CogVLM 上验证有效。
AI 根据报道生成 · 11 小时前更新
最新进展11月3日 17:07
BtsPruner:面向大型视觉-语言模型的角色感知视觉 token 剪枝方法报道时间线
沿着报道,了解事件的不同侧面。
11月3日
- arXiv · cs.AIBtsPruner:面向大型视觉-语言模型的角色感知视觉 token 剪枝方法
研究者提出 BtsPruner,一种免训练的角色感知视觉 token 剪枝框架,根据视觉 token 从局部细节载体向全局参照代表的演变规律进行剪枝。在 LLaVA-1.5-7B 上仅保留 576 个视觉 token 中的 32 个(5.6%)即保留 91.6% 性能;在 LLaVA-NeXT-7B 高分辨率设置下实现最高 5.95x CUDA 推理加速,并在 LLaVA-1.5、LLaVA-NeXT、Qwen-VL、InternVL 和 CogVLM 上验证有效。
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 411月5日 03:00
- 近 24 小时变化
- –
01234
04:0006:0008:0010:0012:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。