GitHub · 灵魂体仓库·· 20 天前AI 评分44
Data-Crawler:一个配置驱动、可断点续跑的 GitHub Python 代码爬取工具
Harsh-Prajapati54/Data-Crawler
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/Harsh-Prajapati54/Data-Crawler
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 开源项目 Data-Crawler 是一个配置驱动的 Python 源码爬取器,可发现 GitHub 仓库、按查询组权重和 star 分层抽样、清洗校验代码、扫描密钥并去重,最终产出适合代码 LLM 训练的 JSONL 数据集。它通过 SQLite 持久化状态支持断点恢复与 append 模式多轮扩展语料,并按仓库级划分 train/validation 以减少数据泄漏,输出保持模型无关。
来源:GitHub · 灵魂体仓库 · github.com