arXiv · cs.CL· Ali Ansari·· 10 天前AI 评分37
验证人类书写的推理参考链
Verifying Human-Written Reasoning References
来源与原文
arXiv · cs.CL
作者:Ali Ansari
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.24690v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
一项研究提出以参考为中心的评估方法,用 LLM 将人类推理链步骤结论转译为一阶逻辑(FOL),并用 Z3 SMT 求解器检查蕴含。在 P-FOLIO 的 386 条推导中,202 条(52.3%)通过全部检查;230 条未被引用前提集蕴含的步骤中有 191 条在完整前提下可被蕴含,其余归因于 21 处人类推理错误、11 处 FOL 转译错误和 7 处数据集标注错误。结果表明与人类推理参考的不一致可能源自参考本身。
来源:arXiv · cs.CL · arxiv.org