跳到正文
arXiv · cs.CL· Nataliya Stepanova·· 21 天前AI 评分23

LLM 刻板印象评测的缺失环节:双重最小对方法

The Missing Minimal Pair: Stereotype Evaluation in LLMs

来源与原文

arXiv · cs.CL

作者:Nataliya Stepanova

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.08747v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

一项 arXiv 研究指出,用单对对比句的 log-likelihood 差评测大语言模型偏见往往不可靠,改写属性可能导致逻辑不一致的偏好。作者提出双重最小对设置与数据增强框架,为英语、俄语、西班牙语和中文刻板印象数据集生成改写和替代属性,并引入基于互信息(MI)的新指标,支持跨语言、跨模型更稳健的刻板印象强度比较。代码已开源。

来源:arXiv · cs.CL · arxiv.org