跳到正文
GitHub · 去对齐工具与仓库·· 19 天前AI 评分42

llm-compliance-bench:用 Benchmark 评测 LLM 与 RAG 能否可靠执行航空行李合规政策

ClaudiaAgromayor/llm-compliance-bench

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/ClaudiaAgromayor/llm-compliance-bench

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

CentraleSupelec(2024-25)与 IBM France Lab 合作开源 llm-compliance-bench,评测 LLM 在航空行李政策合规判断上的表现,要求模型输出合规结果、费用、需托运物品和解释。项目对比了 Batch、Iterative simple、few-shot、Iterative questions 和 RAG(all-MiniLM-L6-v2 + TF-IDF)五种策略,单乘客单提示词最稳健,多步拆分会累积错误,检索相似已解决案例最有效,并用准确率、F1、MAE 及 LLM-as-a-judge 评估各项输出。

来源:GitHub · 去对齐工具与仓库 · github.com