arXiv · cs.AI· Aishik Nagar·· 1 天前AI 评分43
RL 训练的大语言模型是真推理还是模式利用？来自井字棋可解释性研究的机制洞察
Reasoning or Pattern Exploitation? Mechanistic Insights from RL-Trained Language Models
来源与原文
arXiv · cs.AI
作者：Aishik Nagar
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.39182v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一项 arXiv 研究在井字棋这一有限可穷举的逻辑领域，用 GRPO 强化学习训练 LLM 并追踪其内部表示变化。结果显示 RL 后模型准确率和鲁棒性都很高，但 SAE 特征分析发现模型主要更依赖提示词中已显式给出的信息，棋盘对称性、战略双活等高层概念表示仍很弱。研究首次证明 RL 后训练不增减概念信息，只是重组主导特征，提示推理基准可能高估模型能力。
来源：arXiv · cs.AI · arxiv.org