跳到正文
GitHub · 去对齐工具与仓库·· 20 天前AI 评分34

PLSemanticsBench:首个用于评估 LLM 规则条件推理的反事实编程语言语义数据集

EngineeringSoftware/PLSemanticsBench

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/EngineeringSoftware/PLSemanticsBench

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

PLSemanticsBench 是首个反事实编程语言语义数据集,用于评估 LLM 的规则条件推理能力,包含轻量级 C 语言 C* 的小步操作语义和 K-framework 两种形式化。数据集通过 PredState、PredRule、PredTrace 三个任务及 NL2Rule、Rule2NL 辅助任务进行评测,支持通过 OpenAI API 或 Ollama 运行 DeepSeek-R1 1.5B 等模型,数据可用 datasets 库加载。

来源:GitHub · 去对齐工具与仓库 · github.com