arXiv · cs.AI· Nikos Giakoumoglou·· 20 天前AI 评分36
SNAP：让合成困难负样本在视觉-语言预训练中生效的几何分析方法
What Makes Synthetic Hard Negatives Work in Vision-Language Pretraining?
来源与原文
arXiv · cs.AI
作者：Nikos Giakoumoglou
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.09700v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一项 arXiv 研究分析了六种表示空间合成困难负样本策略迁移到视觉-语言预训练时的两种失败模式，并发现固定温度可提升下游性能。据此提出的 SNAP 只生成不涉及任一模态匹配正样本的模态内困难负样本，无需外部生成模型，训练时间开销低于 10%。在 CLIP 和 FLIP 上，SNAP 在 zero-shot 检索、zero-shot 分类和 linear probe 评测中均带来一致提升。
来源：arXiv · cs.AI · arxiv.org