跳到正文
10月8日周四
  1. GitHub · prompt 工程新仓库32

    saricmilos/Prompt_Engineering:7 天掌握 prompt 工程的实战教程仓库

    GitHub 新仓库 Prompt_Engineering 提供一套为期 7 天的 prompt 工程实战课程,分 5 个阶段,从指令结构、zero-shot 与 few-shot、Chain-of-Thought,到提示词链式编排、Jinja2 模板,再到评测、prompt 注入防护与伦理安全。课程以 17 个 Jupyter Notebook 呈现,需 Python 3.8+ 和 LLM API key,采用 MIT 许可证开源。

  2. GitHub · 去对齐工具与仓库14

    ai-engineer-vault:AI 工程实战手册,覆盖 RAG、Agent、MCP 与评测

    GitHub 仓库 ai-engineer-vault 是一份面向 AI 工程师的实战手册,内容涵盖 RAG、Agent 设计、MCP 连接、evals 测试、token 成本控制和向量数据库等主题。手册共 12 章、50+ 实战模式,适用于 Windows 10/11(8 GB 内存、2 GB 磁盘空间),适合 AI 创始人、产品团队和工程师作为中立的设计参考。

  3. GitHub · 灵魂体仓库46

    natonet-labs/local-llm-rag-qdrant-macos:在 Mac 上用 Ollama + Qdrant 搭建本地 RAG 教程

    这是一个 macOS 本地 RAG 管线教程:Ollama 运行预训练 Mistral 模型,Qdrant 存储 PDF 的嵌入向量,模型本身保持冻结,仅基于检索到的文档片段回答问题。教程要求 32 GB 内存的 Mac,涵盖安装 Ollama、用 Rust 从源码构建 Qdrant(默认监听端口 6333)、创建 Python 虚拟环境,并通过 API 把 RAG 服务暴露给局域网内的 Windows、iPad 或 iPhone 设备。

  4. GitHub · 去对齐工具与仓库43

    aihpi/workshop-rag-basics:动手搭建带引用和置信评分的文档问答 RAG 系统

    这是一个动手 RAG 工作坊仓库,通过 5 个 notebook 逐步搭建一个能回答三篇科学论文及自己 PDF 问题的聊天机器人,每个答案附带出处页码和支撑评分。课程涵盖用 Docling 读取 PDF、Embeddings 与 Qdrant 检索、带引用的回答等环节,面向能读写简短 Python 函数的研究者和从业者,无需 RAG 或 embeddings 基础。

  5. GitHub · 灵魂体仓库32

    Glazounov-AI 开源 ab-prompt-test:用 n8n 和 GPT-4o mini A/B 测试系统提示词对幻觉的影响

    Glazounov AI Lab 发布 ab-prompt-test 项目,用 n8n、OpenAI GPT-4o mini 和 Google Sheets 对比两个系统提示词方案。在 25 条测试请求上,带“仅用请求内信息、不足时追问”约束的 Prompt B 平均相关性达 4.68/5(Prompt A 为 3.08/5),幻觉回答比例从 48% 降至 4%。作者指出样本较小、仅测一款模型,结果需在更大规模数据上进一步验证。

  6. GitHub · 去对齐工具与仓库14

    tbilgin/Genomik_LLMs:基于基因组学 LLM 的生物医学机器学习教学项目

    ZHAW 人员在 tbilgin/Genomik_LLMs 项目中指导职业高中学生完成毕业论文,学习机器学习在生物医学中的应用,内容涵盖聚类、神经网络、深度学习与基因组学 LLM。项目提供多个 Google Colab Notebook,包括 Introduction to Huggingface for genomic LLMs 和 DNABert foundation model,并用机器学习算法识别癌症基因、对结直肠癌突变进行分类。

  7. GitHub · 去对齐工具与仓库11

    v1-multiagent-articles:从零构建多智能体系统的开源教程仓库

    v1-multiagent-articles 是一个面向零编程基础读者的多智能体系统教程仓库,通过分步指南讲解 agent 框架、workflow、DAG、LLM 等概念,并给出基于 OpenAI、LangChain、AutoGPT 的 Python 示例代码。仓库要求 Python 3.8+、Windows 10 及至少 4 GB 内存,用 `pip install -r requirements.txt` 安装依赖后即可运行示例脚本。

  8. GitHub · prompt 工程新仓库33

    ai-engineering-with-gemini:基于 Gemini API 重写的 22 课生成式 AI 入门课程

    开发者将 Microsoft 生成式 AI 入门课程改写为基于 Google Gemini API 的 22 课教程,每课附测验和练习,可全程在免费层运行,无需信用卡或云账号。课程覆盖聊天应用、语义搜索、RAG、function calling 和 agent,共约 30 小时。作者实测发现:SDK 已改用 client.interactions.create(),Gemini API 自 Gemini 1.5 Flash-001 弃用后不再支持 fine-tune,thinking tokens 会额外消耗(8 token 提示实际花费 351 token),免费层 Google Search grounding 有速率限制。

  9. GitHub · 去对齐工具与仓库51

    mac-llm-finetuning-lab 教程:在 Apple Silicon Mac 上用 LoRA 微调 Qwen2.5-0.5B-Instruct

    ssganiger 在 GitHub 发布 mac-llm-finetuning-lab 动手实验仓库,用 Hugging Face Transformers + TRL + PEFT/LoRA 在 M3 Pro Mac 上微调 Qwen2.5-0.5B-Instruct 做笔记分类。实测用 18 条训练数据、3 条保留测试,格式完全匹配从基座模型的 0/3 提升到挂载 LoRA 适配器后的 3/3,训练仅更新 0.1093% 的参数。仓库涵盖下载模型、查看 token 化、记录基线、SFTTrainer 训练与前后对比全流程,并计划后续加入基于 MLX 的 gpt-oss-20b 练习,目前尚未包含。

  10. GitHub · 灵魂体仓库37

    llm-parameters-lab:用 Python 实验理解 LLM token、上下文窗口与 temperature

    GitHub 仓库 vicky123444/llm-parameters-lab 提供一组 Python 实验,帮助理解 LLM 的 token、上下文窗口、temperature 及生成参数,配套博客文章《Tokens, Context Windows & Temperature Explained》。包含 tiktoken 分词、上下文预算计算、temperature 输出变化模拟(本地模拟,非真实采样)、可选 API 示例(temperature、max_tokens、top_p)及 pytest 测试和 CI workflow;API 示例需 OPENAI_API_KEY。

  11. GitHub · 灵魂体仓库8

    leeks2026 发布 llm-data-analysis-study:LLM 数据分析课程作业提交仓库

    GitHub 上线的 llm-data-analysis-study 仓库用于累积提交基于 LLM 的数据分析实践作业,涵盖 Chapter 01~15。Chapter 01~02 以 Markdown 作答,Chapter 03~15 为含运行结果的 Jupyter Notebook,各章 images/ 目录仅保存核心运行证据。作为公开仓库,其不上传 API Key、Token、密码、个人信息及真实 .env 文件。

  12. GitHub · 灵魂体仓库8

    rl-explainer:面向零基础用户的强化学习入门 Windows 应用

    rl-explainer 是一款 Windows 强化学习入门应用,无需编程或机器学习基础即可使用。它将核心概念拆解为简单步骤,提供交互式示例、图表和术语表,下载后可离线使用。应用要求 Windows 10 或以上、最低 4 GB 内存(推荐 8 GB)、500 MB 磁盘空间,最新版本可在 GitHub releases 页面下载。

  13. GitHub · 去对齐工具与仓库24

    Anthropic 官方《Claude Skill 构建完整指南》繁体中文翻译版

    该仓库发布了 Anthropic 官方文档《The Complete Guide to Building Skills for Claude》的繁体中文翻译版,系统讲解如何为 Claude 构建 Skill——以文件夹形式打包的指令,用于教会 Claude 处理特定任务或工作流程。内容涵盖 Skill 基础知识与设计原则、MCP 整合、YAML frontmatter、使用 skill-creator 测试迭代、发布与分享模式,以及五大设计模式与疑难排解。专有名词如 Skill、MCP、YAML、token 及产品名 Claude Code 等均保留英文。

  14. GitHub · 灵魂体仓库34

    agent-learning:30 天从会写代码到独立交付 Agent 应用的学习仓库

    GitHub 仓库 agent-learning 提供 30 天 Agent 开发学习路径,从原生 LLM 调用、Function Calling 到 ReAct、工具注册表,最终目标是交付基于国产模型私有化部署的企业知识库智能客服 Agent。已完成的 day01 至 day03 采用“核心模块先手写、再用框架对照”原则,统一走 OpenAI 兼容接口,可切换 GLM、通义千问、DeepSeek、Moonshot 等模型。

  15. GitHub · 灵魂体仓库34

    gperdrizet/llms-demo:本地 LLM 开发 hands-on 示例与学习资源仓库

    GitHub 上的 llms-demo 仓库提供在本地开发环境使用大语言模型的实操示例与学习资源,涵盖 Ollama、llama.cpp 本地推理、HuggingFace Transformers 直接加载、LangChain 的提示词模板与 agent、基于 pgvector 的 RAG、Gradio 界面及 zero-shot、few-shot、chain-of-thought、ReAct 提示技术。资源包括 9 个 demo、8 套幻灯片和 7 个练习,并支持 VS Code dev container 或 GitHub Codespaces 两种运行方式;GPU 依赖 demo 在 Codespaces 中不可用,需本地 NVIDIA GPU 或远程 OpenAI 兼容端点替代。

  16. GitHub · 去对齐工具与仓库25

    mad-forg 开源 AI / LLM 学习路线与资源整理仓库 AI-LLM-Learning-Roadmap

    mad-forg 在 GitHub 开源 AI-LLM-Learning-Roadmap 仓库,整理面向 AI / LLM 学习者的学习路线与资源,按科普、入门、论文、实战、工具/Skills 五个阶段组织。内容涵盖 Stanford CS25、吴恩达、李宏毅等课程,以及 LLMs-from-scratch、MiniMind、MicroGPT、7.39B 参数的 ZGCM-1 等实战项目,并收录 Archify、Superpowers 等 AI Coding 工具。仓库将持续更新并接受社区贡献。

  17. GitHub · 去对齐工具与仓库15

    Jackrong-llm-finetuning-guide:Windows 端 LLM 微调入门指南

    Jackrong-llm-finetuning-guide 是一份面向新手的端到端 LLM 微调指南,覆盖 Windows 本机和 Google Colab 两种运行方式,适合内存有限的机器。它以 Llama 3、Qwen 2.5、DeepSeek 蒸馏模型等 Hugging Face 开源模型为例,讲解数据集准备、LoRA/PEFT 训练、导出与上传全流程,并使用 PyTorch 和 Unsloth 降低内存占用。

  18. GitHub · 去对齐工具与仓库60

    carl90s/agent-teardown 将《深入理解 AI Agent》拆成 12 关卡与 6 个离线实验

    GitHub 仓库 carl90s/agent-teardown 把李博杰《深入理解 AI Agent:设计原理与工程实践》306 页内容拆成 12 个关卡、44 张概念卡、12 个模拟器和 6 个离线 Python 实验。全部离线运行,不需要联网、API key 或安装依赖(实验只需 Python 3.10 与 numpy),实验用 mockllm.py 假 LLM 并以 assert 自检结论;代码与文字讲解以 MIT 发布,不含原书 PDF 或原文抽取文本。

    推荐理由:把一本书的 Agent 概念拆成可离线运行的模拟器和带 assert 自检的实验,学习路径可直接迁移到其他主题的自学设计。

  19. Reddit · r/LocalLLaMA67

    双 CMP 170HX 64GB 本地跑 GLM-5.3-Flash 384K 上下文约 90 tok/s,并对比 Qwen3.8

    /u/Prudent_Appearance71 在 2 张 64GB CMP 170HX 上用 EXL3 3.05bpw 让 GLM-5.3-Flash 目标权重完全驻留 HBM,配合 6bpw DFlash2 草稿模型和环形缓存跑通 384K 上下文,解码约 90 tok/s,配置和脚本已开源在 https://github.com/Flun/glm53-flash-cmp170hx-exl3。

    推荐理由:作者在同一台机器上实测两套本地部署方案,把原始推理速度和真实智能体任务完成时间分开对比,思路对搭建类似配置有参考。

  20. GitHub · 去对齐工具与仓库19

    customer-support-ai-agent:从零搭建本地客服 AI Agent 的分步教程

    GitHub 开源项目 customer-support-ai-agent 提供一套可本地运行的客服 AI Agent 教程,支持订单查询、政策检索、退货提议与确认、人工转接及会话持久化,基于 Python 3.12 和 SQLite,demo 模式使用规则路由而非 LLM。项目通过 Docker、Redis 和 Celery 实现每 5 秒处理一次的持久化任务队列,并附小型评测套件;所有客户数据为合成数据,退货仅模拟执行。

  21. GitHub · 灵魂体仓库12

    The AI Forge Workshop Hub v1.0:面向塔罗师与教练的免安装浏览器 AI 工具集

    GitHub 仓库 the-ai-forge-workshop-hub 发布 v1.0,提供一套可直接在浏览器中打开的独立 HTML 工具,面向塔罗师、教练和心灵创业者,无需安装或写代码。工具包括 tarot-spread-generator.html、client-journal.html、workshop-planner.html、affirmation-builder.html,并附 guide.pdf 和 Claude Code 提示词文本文件。运行要求 Windows 10/11、4 GB 内存、500 MB 空闲存储,仅初始下载需联网,可从 Releases 页面免费获取 ZIP 文件。

  22. GitHub · 去对齐工具与仓库11

    claude-code-book:讲解 Claude Code 与 Agent 系统的中文开源书籍

    GitHub 开源中文书籍 claude-code-book 上线,聚焦 Claude Code 与 AI 智能体系统,剖析 Agent Harness、消息循环、工具调用、状态管理与 MCP 等内部机制。全书共 15 章,从基础概念讲到如何从零构建自己的 Agent Harness,支持 PDF、EPUB、Markdown 和 HTML 等格式在线阅读或下载。

  23. GitHub · 灵魂体仓库59

    hardfest-gpu-workshop:Gemma 与 Qwen 的 GPU 推理优化实战教程

    Flant 的 Александр Подмосковный 发布 hardfest-gpu-workshop 实战教程,从手动运行 Gemma 开始,测算 KV cache 内存、启用 prefix cache 与 CPU offload、chunked prefill 和 speculative decoding(MTP),再通过 AI Inference 平台复现同一配置作对比。

    推荐理由:作者以自己的实验台手把手推导 KV cache 计算并逐项验证各优化机制,方法论清晰,可迁移到自己的推理部署调优。

  24. GitHub · 去对齐工具与仓库26

    UbiComp/ISWC 2026 半天实操教程:从多模态感知数据构建个人 LLM 健康智能体

    UbiComp/ISWC 2026 将于 2026 年 10 月 12 日 14:00–17:30 在中国上海举办半天实操教程,指导参与者从最小脚手架构建可运行的 LLM 健康智能体,主要练习使用 GLOBEM 官方公开样本及合成数据。教程覆盖注册健康工具的 agent loop、忠实性与混杂因素评估、拒绝医疗建议与安全压力测试, prerequisites 为 Python 3.10–3.12 和 Jupyter,推荐本地 Ollama 模型或 OpenAI / Gemini API。材料以 MIT License 发布,GLOBEM 样本保留 Apache-2.0 声明。

10月7日周三
  1. GitHub · 灵魂体仓库23

    BuildLLM:从零亲手训练三代语言模型的开源学习项目

    GitHub 开源项目 BuildLLM 提供动手学习语言模型原理的引导式实验,用户可亲手训练三代模型,学习 tokenization、Transformer 架构和模型训练,多数人 10-15 小时即可完成。项目基于 Python 3.10 和 PyTorch,要求 Windows 系统、16GB 内存和至少 8GB 显存的 NVIDIA GPU,包含示例数据集,也可用自定义文本训练。

  2. GitHub · 灵魂体仓库16

    SEUOldCptn 的 AI-Roadmap:一年 LLM 系统工程学习路线

    GitHub 用户 SEUOldCptn 开源 AI-Roadmap 仓库,记录一年内通往 LLM 系统工程的学习计划,路线覆盖 PyTorch、Transformer、vLLM / SGLang 推理、Megatron 分布式训练及 Triton / CUDA Kernel 优化五大阶段,并包括从零实现 Transformer、MiniGPT、LoRA / SFT 等内容。该计划于 2026 年 9 月启动,当前处于 Git 与 Python 基础阶段。

  3. Reddit · r/LocalLLaMA10

    LocalLLaMA 求助:预算 $1700-1800 如何升级 GPU 跑本地 LLM

    一位 Reddit r/LocalLLaMA 用户在预算 $1700-1800 内纠结 GPU 升级方案:加一块二手 5060Ti 16GB(约 $500)、买二手 7900 XTX(24GB VRAM,$850),或直接上 R9700。其现有配置为 Ryzen 9 9950X、96GB 内存、5060Ti 16GB 和仅一条 PCIe 5.0 x16 的 ASRock X870 Pro,正在考虑是否换 X870E Taichi 主板以获得双 PCIe 通道,主要用途是写代码和 analyse 文档、地图与图像。

  4. GitHub · 去对齐工具与仓库34

    GitHub 开源 MSc 课程仓库 teaching_llm_applications:大语言模型内部原理与应用

    neelsoumya 在 GitHub 开源了一个 MSc 层次的大语言模型课程仓库 teaching_llm_applications,共 18 周内容。前半部分覆盖 tokenisation、embedding、attention、Transformer 架构、预训练与微调等内部原理,后半部分讲授 RAG、Agent 与工具使用、评估、安全、医疗 AI 及多模态应用。课程包含每周 Markdown 讲义和 Python 实践脚本,最终以小组项目结课,材料参考了 Stanford CS336、nanoGPT 及 Illustrated Transformer 等资源,部分内容由生成式 AI 辅助生成。

  5. GitHub · 去对齐工具与仓库20

    ATML PA2 LLM 后训练课程作业学生入门仓库发布

    ATML PA2(LLM Post-Training)课程作业的学生 starter 仓库上线,涵盖 DPO、PPO、GRPO、安全校准与 RLVR vs RLAIF 五个任务。课程资产(固定数据集、诊断缓存和续训 checkpoint)通过 GitHub Release 以 pinned revision 0b350481fb03f5525a35bcdec4131bd4fe487f98 分发;环境固定 Transformers 4.57.1、TRL 0.27.2、PEFT 0.17.1。Tasks 1-3 各含一个刻意算法缺陷待学生修正,PPO/GRPO 从提供的 midpoint checkpoint 续训,RLVR 和 RLAIF 使用冻结策略仅做评估,续训生成上限默认 512 tokens。

  6. GitHub · 去对齐工具与仓库21

    Genial Labs 开源 NLP 到 LLM 五天工作坊 nlp-llms

    Genial Labs 发布从传统 NLP 到现代 LLM 的五天工作坊仓库,覆盖 n-grams、词向量、Transformer、RLHF、RLCD 和 agents,14 个模块各配一节 Google Colab 实验,第 15 模块为结业实操。截至 2026-10-06,15 个实验中 0 个能在目标 Colab 环境端到端跑通,仓库标注尚未达到可授课状态;GitHub CPU runner 上 16 个 notebook 全部通过,其中 9 个使用了 test doubles。教学文本采用 CC BY 4.0,代码采用 MIT 许可,所有用商业 API 的实验也可改用免费开源模型运行。

  7. GitHub · 灵魂体仓库8

    LLM-Learning:从 Tokenization 到 LoRA/QLoRA 微调的实践学习路线图

    一份从 LLM 和 Transformer 理论转向动手实践的学习路线图,目标在 9 月底前掌握微调与训练。内容按 8 个阶段推进,覆盖 Tokenization、Embeddings、向量数据库(ChromaDB、FAISS、Qdrant)、RAG、Hugging Face 数据管道,以及 LoRA / QLoRA / PEFT 实操微调。硬件策略建议本地用 0.5B–1B 小模型起步,7B 用 QLoRA,算力不足时改用 Google Colab 或 Kaggle GPU。

  8. GitHub · 灵魂体仓库27

    AlexanderKuzikov/AI-Architect-Course:58 模块的 AI 架构师课程

    GitHub 上开源的 AI 架构师课程 AI-Architect-Course 共 58 个模块,覆盖 RAG、MCP、A2A、agent memory、API design、成本工程与容错等主题。示例代码支持 JS、TS、PHP、Python、Go 多语言,并提供 docs/CONTEXT.md、QUICKREF.md、GLOSSARY.md 等文档与 Node build scripts。项目仍在开发中,采用 Apache-2.0 许可证。

  9. GitHub · 灵魂体仓库24

    Highthroughput_LLM_calls_tutorial:面向生物物理学生的 OpenAI/OpenRouter 高吞吐 LLM 调用入门教程

    GitHub 开源教程 SparkyDaBear/Highthroughput_LLM_calls_tutorial 讲解如何用 OpenAI Python 模块高吞吐调用 LLM,支持 OpenAI 与 OpenRouter 两种 API。教程面向生物物理学生,用 GPT-4 mini(约 $0.15/1M tokens)和 OpenRouter 的 Gemma(约 $0.10/1M tokens)分析论文,提取动机、假设、实验与结果,并涵盖环境变量管理 API key 及提示词工程技巧。

  10. Reddit · r/LocalLLaMA54

    Reddit 用户用 logprob 门控改进本地实时诊疗转写流程

    /u/r-chop14 在 r/LocalLLaMA 分享了一个受 Jev 启发的本地实时转写工作流:用 TEN-VAD 分段、Whisper 兼容后端(parakeet.cpp 加载 Parakeet 0.6B 医疗微调模型)转写,CAM++ 声纹做说话人分离,再用小型 LLM 对每句话分类为 NOTE、ACT 或 SKIP,其中 SKIP 缓存延迟送入主模型(主模型为 Qwen3.8-Flash-Next,副模型为 Qwen3.5 4B,经 llama.cpp server)。作者发现仅靠单步解码的概率质量分类约 81% 准确率且 Qwen3.5-4B 几乎不判 SKIP,加入 P(SKIP)≥0.05 且短句改判 SKIP 的启发式后,0 漏判,SKIP 召回率从 0-50% 提升到 75-100%。

  11. GitHub · 去对齐工具与仓库27

    STEAM-DROPS 开源 fine-tune-lab-notes:预训练 Transformer 微调动手实验室

    GitHub 上的 STEAM-DROPS/finetune-lab-notes 是一个面向学习者和工程师的开源微调实验仓库,涵盖全量微调、LoRA 式参数高效微调、instruction tuning 等多种范式。仓库提供自包含注释式 notebook、多语言数据集实验、可复现配置,兼容 Hugging Face 生态中 encoder-only、decoder-only 与 encoder-decoder 架构,并附偏差与数据来源等安全伦理笔记。

  12. GitHub · 去对齐工具与仓库57

    tmall-genie-llm 开源:把天猫精灵语音问答代理到 OpenAI 兼容大模型 API

    believening 开源 tmall-genie-llm 项目,将天猫精灵的语音问答代理到 OpenAI 兼容的大模型 API,默认使用 OpenCode Zen 免费模型(如 deepseek-v4-flash-free)。部署在 Claw Cloud Run 日本区节点,同时解决 Zen 免费模型不对大陆 IP 开放和阿里技能云需公网 HTTPS 回调两个问题;联网搜索采用三段式设计,搜过的问题总延迟约 3-6 秒,月成本约 $2-3 在免费额度内。

    推荐理由:原文给出了从镜像构建到天猫精灵技能配置的完整部署步骤和免费额度成本,方法可直接照做复现。

  13. GitHub · 灵魂体仓库13

    GitHub 仓库 ruthlennonatu/Adder:用 ChatGPT 提示词构建 Java 21 + Spring Boot 加法 Web 应用教程

    GitHub 仓库 ruthlennonatu/Adder 提供一份教程式提示词,指导用 ChatGPT 生成一个极简 Java Web 加法应用,技术栈为 Java 21、Spring Boot、Maven 和 Thymeleaf,仅通过标准 HTML form POST 提交,不使用 JavaScript、AJAX 或 CSS。应用复用已有 Adder.add() 方法完成加法,并包含 mvn test 单元测试、git 初始化与推送到 GitHub 的步骤。