RVL-CDIP 数据质量系统性审计:约 10.5% 文档标签错误
研究者对文档分类标准 benchmark RVL-CDIP 进行系统审计,发现其 400,000 份文档中约 10.5% 标签错误,35.2% 的测试集在训练集中存在重复或近似重复。移除页面识别码后 SOTA 模型损失 11 个百分点,图像模型在分布外文档上损失 16 至 28 个百分点。团队重训 25 个模型并发布去标识化修正语料,重训的 13 个模型准确率提升 0.9 至 2.9 个百分点,最高的 LayoutLMv3 达 96.5%。