跳到正文
我的
arXiv · cs.AI· Zihao Qi·· 2 天前AI 评分48

BtsPruner:面向大型视觉-语言模型的角色感知视觉 token 剪枝方法

BtsPruner: Role-Aware Visual Token Pruning for Large Vision-Language Models

来源与原文

arXiv · cs.AI

作者:Zihao Qi

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2611.04537v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

研究者提出 BtsPruner,一种免训练的角色感知视觉 token 剪枝框架,根据视觉 token 从局部细节载体向全局参照代表的演变规律进行剪枝。在 LLaVA-1.5-7B 上仅保留 576 个视觉 token 中的 32 个(5.6%)即保留 91.6% 性能;在 LLaVA-NeXT-7B 高分辨率设置下实现最高 5.95x CUDA 推理加速,并在 LLaVA-1.5、LLaVA-NeXT、Qwen-VL、InternVL 和 CogVLM 上验证有效。

来源:arXiv · cs.AI · arxiv.org

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。