GitHub · 去对齐工具与仓库·· 20 天前AI 评分34
PLSemanticsBench:首个用于评估 LLM 规则条件推理的反事实编程语言语义数据集
EngineeringSoftware/PLSemanticsBench
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/EngineeringSoftware/PLSemanticsBench
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
PLSemanticsBench 是首个反事实编程语言语义数据集,用于评估 LLM 的规则条件推理能力,包含轻量级 C 语言 C* 的小步操作语义和 K-framework 两种形式化。数据集通过 PredState、PredRule、PredTrace 三个任务及 NL2Rule、Rule2NL 辅助任务进行评测,支持通过 OpenAI API 或 Ollama 运行 DeepSeek-R1 1.5B 等模型,数据可用 datasets 库加载。
来源:GitHub · 去对齐工具与仓库 · github.com