arXiv · cs.CL· Shubham Subhnil·· 12 天前AI 评分47
隐状态探针定位推理失败的有效性研究
Effectiveness of Hidden-State Probes for Localizing Reasoning Failures
来源与原文
arXiv · cs.CL
作者：Shubham Subhnil
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.22046v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一项 arXiv 研究测试了 4B 和 8B 推理模型的隐状态探针能否区分三类推理失败并定位失败步骤。在 8B 的错误轨迹上，置信度探针漏检 81% 的单步不可恢复案例和 47% 的重试可成功案例；探针的失败类型排序取决于训练设计。两个规模下，没有任何探针定位失败步骤的准确率超过仅基于轨迹长度的规则。
来源：arXiv · cs.CL · arxiv.org