arXiv · cs.CL· Tim Menzner·· 15 小时前AI 评分26
Multi-Label Agreement:一种灵活的标注者间信度评估框架
Multi-Label Agreement: A Flexible Framework for Inter-Annotator Reliability
来源与原文
arXiv · cs.CL
作者:Tim Menzner
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.37292v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
研究者提出 Multi-Label Agreement(MLA),一个用于多标签标注任务中标注者间信度评估的灵活框架。MLA 保留完整的二值标签向量,采用平均成对 Hamming 一致度,同时考虑共同选择与共同遗漏,支持 pooled-marginal、Gwet AC1 和固定基线三种归一化,可输出条目级、标签级和语料级结果。论文通过算例与 Monte Carlo 模拟展示结果对标签流行度等因素的依赖,并提供 Python 实现。
来源:arXiv · cs.CL · arxiv.org