arXiv · cs.AI· Zihao Qi·· 2 天前AI 评分48
BtsPruner:面向大型视觉-语言模型的角色感知视觉 token 剪枝方法
BtsPruner: Role-Aware Visual Token Pruning for Large Vision-Language Models
来源与原文
arXiv · cs.AI
作者:Zihao Qi
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2611.04537v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
研究者提出 BtsPruner,一种免训练的角色感知视觉 token 剪枝框架,根据视觉 token 从局部细节载体向全局参照代表的演变规律进行剪枝。在 LLaVA-1.5-7B 上仅保留 576 个视觉 token 中的 32 个(5.6%)即保留 91.6% 性能;在 LLaVA-NeXT-7B 高分辨率设置下实现最高 5.95x CUDA 推理加速,并在 LLaVA-1.5、LLaVA-NeXT、Qwen-VL、InternVL 和 CogVLM 上验证有效。
来源:arXiv · cs.AI · arxiv.org
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。