跳到正文
arXiv · cs.AI· Le Qiu·· 15 天前AI 评分14

面向香港 AEC 行业消防安全规范解读的 LLM 评测基准研究

Towards a Benchmark for Fire Safety Code Interpretation in the Hong Kong AEC Industry

来源与原文

arXiv · cs.AI

作者:Le Qiu

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.16127v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

研究者与领域专家合作构建了一个针对香港消防安全规范的 LLM 评测数据集,含选择题(MCQ)与开放式题(OEQ),评估 12 个专有和开源模型。表现最好的专有模型在 MCQ 上准确率达 80-90%,开源模型普遍落后;而专家人工评估的开放式题准确率仅 50-70%,表明 LLM 在专业合规任务上仍有较大提升空间。

来源:arXiv · cs.AI · arxiv.org