arXiv · cs.CL· Nouar AlDahoul·· 2 天前精选AI 评分52
研究揭示 Tülu-3 后训练配方会让 LLM 事实核查更怀疑低职业地位发帖者
From Leniency to Suspicion: How an Open Post-Training Recipe Changes Whom LLM Fact-Checkers Believe
来源与原文
arXiv · cs.CL
作者：Nouar AlDahoul
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.38532v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一项 arXiv 研究测试六个模型家族的 base 与 post-trained 检查点，发现只有开放的 Tülu-3 配方（OLMo-2 32B、Tülu-3 70B）会让模型对低职业地位发帖者的声明更多判为假，效应小于一个百分点但在独立声明集上可复现。在 OLMo-2 32B 中，低地位职业使 base 模型倾向判真、post-trained 模型倾向判假，这一翻转由单一残差流方向承载并发生在监督微调阶段，机制在 400 条新声明上经预注册预测确认；七个部署中的商业模型均未表现出该偏见。
推荐理由
论文把职业偏见归因到具体训练配方和单一残差流方向，提供了可复现的说话人偏见审计思路。
来源：arXiv · cs.CL · arxiv.org