研究:VLM 探针测试结果与检索正确性无关联
热点事件持续更新
研究:VLM 探针测试结果与检索正确性无关联
1 篇报道1 个报道来源18 小时前更新
先了解这件事
AI 综述
Ivana Beňová 等在 arXiv 论文(arXiv:2610.40124)中用 SVO 和 SugarCrepe 两个探针基准测试六个视觉-语言模型(VLM)的检索能力,对 100 条图像与文本查询的 top-10 检索结果进行人工与 LLM 评估。结果显示通过探针测试与检索找到正确项之间并无关联。 具体数据:SVO 上模型对手工负例的准确率(85%)显著高于检索负例(77%),而 SugarCrepe 上顺序相反;人工标注下 top-1 正确率为 54–90%,远高于基准标签的 6–21%。评估器 o3 与标注者一致性 κ 为 0.57–0.61。
AI 根据报道生成 · 1 小时前更新
最新进展10月29日 22:20
视觉-语言探针评测经得起检索测试吗?在 SVO 与 SugarCrepe 上的对比分析报道时间线
沿着报道,了解事件的不同侧面。
10月29日
- arXiv · cs.CL视觉-语言探针评测经得起检索测试吗?在 SVO 与 SugarCrepe 上的对比分析
一项 arXiv 研究用 SVO 和 SugarCrepe 两个探针基准测试六个视觉-语言模型(VLM)的检索能力,对 100 条图像与文本查询的 top-10 检索结果进行人工与 LLM 评估。结果显示 SVO 上模型对手工负例的准确率(85%)显著高于检索负例(77%),而 SugarCrepe 上顺序相反;人工标注下 top-1 正确率为 54–90%,远高于基准标签的 6–21%。研究发现通过探针测试与检索正确项之间并无关联,评估器 o3 与标注者一致性 κ 为 0.57–0.61。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。