arXiv · cs.AI· Tianhao Fu·· 14 天前AI 评分42
Varest：通过 Pre-LLM 语义变分辨率 tokenization 与 In-LLM 相关性剪枝实现图像 token 压缩
Just Respect the Semantics: Image-Token Compression via Pre-LLM Semantic Variable-Resolution Tokenization and In-LLM Relevance Pruning
来源与原文
arXiv · cs.AI
作者：Tianhao Fu
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.18690v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Varest 提出基于语义可替换性的图像 token 压缩方法：对象与文本定位器引导变分辨率合并以保留边界和文字细节，学习型 [REL] 寄存器在解码器早期处理后剪枝视觉 token。该方法在每个预算下的平均性能保留率均超过 15 个基线，在 3 个 backbone 和 13 个 benchmark 上仅用 5.56% 的原始图像 token 即保留 86.10-92.33% 的全 token 性能。
来源：arXiv · cs.AI · arxiv.org