arXiv · cs.CL· Christian Arnold·· 5 天前精选AI 评分53
arXiv 论文揭示大语言模型以隐匿化方式产生概率偏见
Invisibilization as a Source of Probability Bias in Language Models
来源与原文
arXiv · cs.CL
作者：Christian Arnold
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.30785v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Christian Arnold 等在 arXiv 发布论文，用有精确贝叶斯答案的双瓮博弈测量大语言模型拒收信息的代价，覆盖 OpenAI 和 Anthropic 两家模型、10 种描述配置共 6,600 次会话。研究发现模型常以与证据无关、而与报告者描述挂钩的比率拒绝评估信息，Black 描述的报告者被拒率最高达 46%，white 描述为 9%；该偏见在只比较平均信任度或仅看已评估案例的审计中不可见，且随推理力度增加而加重。作者还提出按多轮真实结果评分的方案，五组配置中有四组的种族信任差距在最后一轮降至 0.02 以下。
推荐理由
研究指出了常规偏见审计容易漏掉的一种机制，模型靠拒绝评估而非降低信任来隐藏偏见，并给出了可用的评分修正方案。
来源：arXiv · cs.CL · arxiv.org