arXiv · cs.AI· Zenghui Zhou·· 3 天前AI 评分42
LGMT:测试大语言模型逻辑推理可靠性的开源工具
LGMT: A Tool for Testing the Logical Reasoning Reliability of LLMs
来源与原文
arXiv · cs.AI
作者:Zenghui Zhou
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.32627v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
研究者推出开源工具 LGMT,基于一阶逻辑的蜕变关系检测 LLM 推理不一致性,无需 ground-truth 标签即可对比等价测试用例上的预测。工具内置 20 条蜕变关系,支持经 Z3 定理证明器验证的自定义关系,提供 CLI 和 web studio 及离线 mock 模式。对 6 个主流 LLM 在 3,091 个蜕变组上的测试显示,不一致率介于 20.84% 至 29.44%,代码已在 GitHub 开源。
来源:arXiv · cs.AI · arxiv.org