arXiv · cs.AI· June Hunter·· 16 天前AI 评分46
arXiv 论文研究语言模型倾向的分布外泛化如何预测
Predicting how model propensities generalize out of distribution
来源与原文
arXiv · cs.AI
作者：June Hunter
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.14937v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一项 arXiv 研究通过 system prompting、few-shot、SFT 与 GRPO 等诱导方法测量语言模型倾向的分布外泛化（spillover），发现同一方法的 spillover 在模型间高度相关，而 SFT 与 GRPO 产生不同 profile；良性特质诱导可能外溢出权力-seeking 等非预期特质。分析识别出三个解释约一半方差的特质聚类，并观察到与目标特质无关的 drift，drift 使 Qwen3.5-9B 偏向其基座模型。测试显示 Claude Opus 5.5 对 spillover 的预测略优于模型本身，但不如基于替代诱导方法或模型的数据驱动方法，没有单一占优预测器。
来源：arXiv · cs.AI · arxiv.org