跳到正文
GitHub · 去对齐工具与仓库·· 20 天前AI 评分53

hongkongee 开源系统无关的 NL-to-SQL 评测工具 sql-eval-harness

hongkongee/sql-eval-harness

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/hongkongee/sql-eval-harness

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

hongkongee 在 GitHub 发布 sql-eval-harness,用 SQL Validity、EM、EX 三项指标对 NL-to-SQL 系统评分,只要提交 predictions.jsonl 即可打分,不关心 SQL 由 zero-shot、RAG 还是 LoRA 微调模型生成。工具自带 10 题 OMOP CDM v5.3 测试集与沙箱 PostgreSQL 评分逻辑,并提供 infer_lora.py 推理脚本和基于 sqlglot 静态分析的 API 评测脚本(Syntactic Validity、Format 偏离率、schema 幻觉、响应速度)。已知局限包括 6 个题目因沙箱库无对应 concept_id 数据导致 EX 区分度低,且目前仅支持单一 db_id。

来源:GitHub · 去对齐工具与仓库 · github.com