跳到正文
GitHub · 灵魂体仓库·· 22 天前精选AI 评分72

ventz/scrape-website 开源:整站爬取并转为 LLM 可用 Markdown 知识库

ventz/scrape-website

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/ventz/scrape-website

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

GitHub 开源项目 ventz/scrape-website 可爬取整个域名并输出干净、LLM-ready 的知识库:原始 HTML、带 front matter 的 Markdown,以及 PDF 和 Office 文档转换成的 Markdown。

推荐理由

开源的整站爬取工具,逐层说明静态抓取、无头浏览器、WAF 指纹与 Cloudflare cookie 桥的升级逻辑,可直接复用于搭建 RAG 语料。

来源:GitHub · 灵魂体仓库 · github.com