跳到正文
GitHub · 去对齐工具与仓库·· 9 天前AI 评分26

Jagadish-dataset-engineering:把 SFT 与评测的数据层做成可测试的代码

jagadishmazure-jpg/Jagadish-dataset-engineering

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/jagadishmazure-jpg/Jagadish-dataset-engineering

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

一个个人学习/作品集项目,将 SFT 与评测的数据层实现为可测试代码,涵盖启发式过滤、MinHash/LSH 去重、带仲裁与标注者偏斜检测的标注、评测去污染、QC 门控合成数据及 dataset card。全部离线运行于合成数据,无需 API key;真实运行结果为 8 条日志保留 5 条、1 个重复组,并检出 always-positive 标注者(chi-square 28.5)。

来源:GitHub · 去对齐工具与仓库 · github.com