研究者提出多标签标注一致性评测框架 MLA

Tim Menzner 等研究者在 arXiv 发表论文，提出 Multi-Label Agreement（MLA），一个面向多标签标注任务的标注者间信度评估框架，并提供 Python 实现。 该框架保留完整的二值标签向量，采用平均成对 Hamming 一致度，同时考虑共同选择与共同遗漏，支持 pooled-marginal、Gwet AC1 和固定基线三种归一化，可输出条目级、标签级和语料级结果。论文通过算例与 Monte Carlo 模拟展示结果对标签流行度等因素的依赖。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。