LangChain AI 工程实战仓库:LLM 应用管线与智能体工作流实操
新开源仓库 AI-Engineering-with-Langchain 提供 LangChain AI 工程概念的实操实现,涵盖 LLM 应用管线和 agentic 工作流。仓库包含动手脚本、提示词编排模式、RAG 检索增强生成配置,以及面向可扩展 AI 方案的结构化 chains。
新闻、仓库与研究,按时间排列。
新开源仓库 AI-Engineering-with-Langchain 提供 LangChain AI 工程概念的实操实现,涵盖 LLM 应用管线和 agentic 工作流。仓库包含动手脚本、提示词编排模式、RAG 检索增强生成配置,以及面向可扩展 AI 方案的结构化 chains。
开发者 AssemDeghady 开源了 AI Batch Studio,一个 Manifest V3 客户端 Chrome 扩展,用于在 ChatGPT 和 Google Flow 网页内批量执行提示词、管理参考图并自动下载媒体。项目无需 API key,直接复用登录会话以规避反爬验证;采用 4 级渐进输入提交验证与确定性状态机,未确认提交时标记 needs_attention 以避免重复生成;支持 Veo 2/3、Imagen 3 等模型,遵循 MIT 协议。
prompts.chat 完成一项 SEO 优化提交:修复全站首页 canonical 标签,并为首页、提示词库、发现页、分类、标签、skills、workflows、开发者工具、API 文档等页面新增逐页 metadata。同时提供真实的 404 和 308 状态码,并添加完整的 sitemap,改进阿塞拜疆语等语言的页面标题与描述配置。
TrustRAG 是一个开源 RAG 项目,针对"chat with your PDF"工具的幻觉、不可验证答案和文档内隐藏提示词注入问题,答案全部来自检索段落并逐条标注页码引用,用第二个模型对每条陈述做事实核查,并给出 🟢🟠🔴 信任分。在其自建的 5 份政策文档、71 个问题的评测中,检索 recall@4 达 100%、MRR 0.97,幻觉率 0%,30 个注入攻击 100% 被移除且无误删,每题平均耗时 6.6 s。技术栈采用 Claude Sonnet 5.5(回答)与 Claude Haiku 5.5(核查/OCR/扫描)、ChromaDB 与 all-MiniLM-L6-v2 本地嵌入,支持 Claude 订阅或 Anthropic API,并提供 Docker 部署。
UniStudy AI 是一个离线、隐私优先的大学学习助手,通过 Ollama 运行本地 llama3.2:3b 模型,支持对讲义、教材和幻灯片进行文档问答、结构化摘要、选择题测验生成和答案批改,不依赖付费第三方 API。系统不使用 LangChain 或 CrewAI 等包装框架,全部用标准 Python 实现,采用 300 词分块、50 词重叠的词频检索(RAG),并在 UI 中展示 Agent 的工具调用轨迹和引用段落。项目支持 .pdf、.txt、.md 文件,用 Streamlit 构建,带 pytest 测试,扫描版 PDF 需外部 OCR 且词频检索对同义改写查询效果较弱。
工程师 Soma Shekar Keesari 独立开发并运营面向工程师的 AI 求职平台 Jobhuntz(代码库名为 cv-tailor),可根据职位定制 CV 和求职信且不编造内容,已上线 jobhuntz.app。平台以"AI 写作、代码校验"为原则,通过 Claude Sonnet 事实验证、关键词匹配打分等机制,将无法溯源到用户 master CV 的句子比例从 28% 降至 6%。技术栈为 Next.js 16、React 19、Supabase 与 Anthropic Claude API,默认用 Claude、可切换 OpenRouter,配有约 400 个单元测试。
GitHub 开源项目 RAICA(RAG AI Context Agency)v1.0.0.348 发布,这是一个基于 Agentic-RAG-System 分支的多 LLM 编排 AI 服务器。新版本加入 Deep Research Mode(多轮检索、来源可信度评分与声明核验)、可开关的数据图表功能(从 World Bank、FBI Crime Data Explorer 等权威来源取数)、POST-LLM Workflow Engine 和 2 个文件(YAML + Python)即可创建工具的插件系统。内置 10+ 生产级 agent、OpenAI 兼容 API、基于 FAISS 的文档智能与 Qwen2.5vl 视觉处理,邮件管理可将上下文压缩 84%。
GitHub 上的 the-biergarten-app 是一个全栈精酿啤酒厂目录与发现平台,后端采用 .NET 10(垂直切片架构 + MediatR)与 SQL Server 2022,前端为 React 19(React Router 8 + Vite 7)。认证使用 JWT 与 Argon2id 密码哈希,并提供基于 C++20 与 llama.cpp、结合 Wikipedia 的离线种子数据生成流水线,开发环境通过 Docker Compose 集成 Mailpit 与 SeaweedFS。
GitHub 开源项目 ai-skill-gap 面向非科班转行求职者,采集清洗后 4582 条 JD(78 家公司),抽取技能实体并与简历做语义匹配,输出匹配度打分、差距报告与学习优先级。技术上采用 SiameseUIE 零样本与微调 BERT-NER(F1 0.636 exact)抽取,BGE 语义匹配 Recall@5 达 0.975,知识库含 161 项技能与 106 项学习资源,简历解析结合 DeepSeek LLM。项目通过 201 个 pytest 用例,已免费部署上线 Streamlit Community Cloud,支持 Markdown/Word 报告导出与多岗位对比。
GitHub 开源项目将工地照片中的混凝土缺陷(裂缝、剥落、露筋、腐蚀、泛碱)自动检测与 LLM 报告生成结合。系统采用 ResNet18/50、EfficientNet-B0 多标签分类,在 256×256 图块上推理并融合为缺陷区域,基于 CODEBRIM 与 SDNET2018 数据集训练,按 70/15/15 分组划分。检测 JSON 结合 Qdrant 检索的检查指南交给 Claude 生成经 Pydantic 校验的报告,服务器端重算严重度,要求人工复核,LLM 不可用时回退到确定性报告。
Nexus Terminal AI v2.0 是一款在终端运行的智能 AI 助手,由 BrutalTools 开发,采用 MIT 许可证开源。它内置 8 种 GLM-4 系列模型可选(含 GLM-4 Flash、Air、Long、Plus、4V 等),提供方向键交互式模型选择器和 15+ 命令,支持对话保存与 JSON/Markdown 导出、会话统计和配置持久化。
nicobailon 发布 pi-mcp-adapter,让 Pi 通过一个约 200 token 的 mcp 代理工具按需使用 MCP 服务器,避免工具定义占用上下文窗口。与 Pi 0.99 内置 MCP 对比:内置在每个会话启动所有已启用服务器(100 个小服务器约 7.0 GB 内存),适配器只在首次调用时启动、闲置 10 分钟后停止;实测 95 个工具 12 条日常请求中语义搜索 11 次将正确工具排第一(词搜索仅 5 次)。还支持 MCP prompts、elicitation、Tasks 后台任务、OAuth 存入系统钥匙串、用 /mcp-adapter setup 导入 Cursor、Claude Code、Codex、VS Code 配置。
推荐理由:给出了与 Pi 内置 MCP 的逐项实测对比,包括常驻服务器数量和内存占用,读者可以据此判断值不值得换。
/u/MrFelliks 开源了浏览器节奏跑酷游戏 Struna,用四个小神经网络在浏览器标签页内本地听歌生成关卡,无需上传音频。四个模型共约 22 MB,经 onnxruntime-web(WASM、各占一个 web worker)运行:BeatNet(约 1.6 MB)做节拍与强拍追踪并作为关卡网格,Spotify 的 Basic Pitch(约 0.2 MB)做音符转录,Spleeter 人声分离网络(约 20 MB)分离人声,SwiftF0(约 0.1 MB)做 16 ms 精度的音高追踪;首次加载后缓存,设备跑不动时回退到常规 DSP。
Reddit 用户 /u/TheSpicyBoi123 发布改进 llama.cpp 对 Kepler 等 Ampere 之前 NVIDIA GPU 支持的高性能分支,目标是让旧 CUDA 硬件继续可用。在 4x Tesla K40c 上以 Q8_0 量化运行 MTP Qwen3.6-35B-A3B,从原先无法启动提升到 35 tps,修复主线上 cc35-50 的 cuBLAS 计算类型选择问题;启用 CUDA graphs 后达约 55 tps,Windows NCCL 集成带来约 5–10% 端到端提升,吞吐超 60 tps,P.P. 速度在 70-100 tps 之间波动。作者声明这是其个人系统的初步结果,并征集 Kepler、Maxwell、Pascal、Volta 等旧卡用户对比测试。
推荐理由:作者用 4 张 Tesla K40c 实测给出量化前后与启用 CUDA graphs 的速度对比,老卡复用方案可自行复现验证。
开发者 Marcel 发布个人离线本地 AI 助手 Poldi,以语音为交互界面,支持唤醒词免提客户端与浏览器客户端,采用 GPLv3 开源。技术栈为 Whisper.cpp 做 STT、llama.cpp 做 LLM 推理、Piper 做 TTS,支持英德双语、记忆注入、联网与 Wikipedia 搜索等功能,可在 16GB VRAM 的 Nvidia 5060 Ti 上运行,8GB VRAM 甚至 CPU 也可用。
开源实验项目 ArchitectFlow 0.1.0 将软件系统设计(架构、数据、API、UI)保存为可版本化的结构化数据,用 94 条确定性规则验证,并从确切保存的修订版本生成带 [CONFIRMED]/[ASSUMPTION] 等标签的实现提示词。项目完全离线运行于示例模式,支持真实 LLM 提供商但仅测试过本地 mock 服务器。AI 提案以变更集形式呈现,经 diff 与验证结果展示后由用户确认才应用。
一个面向生产环境的企业级 RAG(检索增强生成)问答平台,用 Sentence Transformers 生成语义嵌入,结合 FAISS 与 BM25 通过 RRF 混合检索,调用本地 Ollama 运行的 llama3.2:3b 模型生成有据可依的答案,并通过 FastAPI 提供服务,无需付费 LLM API key。早期在 6 个问题上评测,Recall@1 达 83.33%,Recall@3 与 Recall@5 均为 100%。
CourseForge 是一个开源项目,用户上传一次大学教学大纲,即可按学年学期组织科目并生成含 Markdown 课程、模块测验和进度跟踪的结构化课程,支持通过自有 AI 提供商或外部 AI 生成的 JSON 导入两条生成路径。项目基于 Next.js 15、TypeScript、Tailwind CSS 4、PostgreSQL(Drizzle ORM)和 Auth.js v5,里程碑 1–7 已完成并验证,包括 PDF 上传提取、服务端权威评分测验(Anthropic API 真实调用)与跨用户数据隔离;课程管理、搜索和分享功能尚未实现。
GitHub 新仓库 tigress-thread-gallery 提供同一图库的两个版本:外部 GitHub Pages 版仅含图库、不含密钥和 MiniMax 指南,本地版则显示 Wan 密钥、MiniMax 指南及完整 manifest.json(外部版用 manifest-public.json)。仓库通过 publish-add.py 脚本添加图片,支持 sheet、scene、identity、bunny、video、story 分类,story 分类经 story.html 阅读器单独展示,标注 18+ only、noindex。
开源项目 Veri-Player 发布 1.3.0.0 版本,这是一款 Windows 音乐播放器,通过 Suno API 提供 AI 音乐生成,内置 8 种动画背景(雪、雨、落叶、星空等)。支持从 Spotify 和 Yandex Music 导入、QR 码分享曲目、Discord Rich Presence,并采用 MIT 许可证开源。
GitHub 上的 rag-document-qa 项目实现了一个研究论文问答应用,用 RAG 流水线结合检索与语言模型生成答案。检索层提供 Dense、BM25 及 Reciprocal Rank Fusion 融合的混合检索,并实验了 cross-encoder 重排;在 15 个问题的评测集上,混合检索 Success@3 为 86.67%、Success@5 为 93.33%,优于单一方法。项目嵌入采用 sentence-transformers/all-MiniLM-L6-v2,界面用 Streamlit,本地推理用 Ollama,并计划接入 Groq API 部署。
EasyComfyUI 发布 V5 版本,新增 Kaggle 笔记本(T4 ×2 免费 GPU)与更可靠的下载逻辑,原有 Google Colab 版同步保留。该笔记本无需编程经验即可运行 ComfyUI,支持 Stable Diffusion 与 FLUX 图像生成;推荐 FLUX.2 [klein] 9B,可在免费 T4 约 15GB VRAM 内运行(官方规格约 29GB)。生成图片自动保存至 Google Drive,还支持从 Civitai 和 Hugging Face 下载模型。
GitHub 新仓库 Local-RAG-Assistant(DocuMind)开源,用户可上传 PDF 并用自然语言提问,通过 ChromaDB 向量检索与本地 Ollama 模型生成基于文档内容的答案。项目前端用 React、后端用 FastAPI,配合 PyMuPDF 和 Sentence Transformers 实现文本提取与嵌入,默认模型为 dolphin-mistral,全程无需云端 LLM API,并返回来源文件名与 chunk 索引。
ThinkingBells 在 GitHub 上开源 comfyui_venice_api_v3,这是一个基于 ComfyUI v3 节点 schema、调用 Venice.ai API 的 LLM Venice chat V.3 文本生成自定义节点。它支持通过 Venice TEE 实现端到端加密,采用 ECDH secp256k1 + HKDF-SHA256 + AES-256-GCM 并按 chunk 派生临时密钥,e2ee-* 模型自动启用,也可用 use_e2ee 强制开启。节点还支持 reasoning_effort 与 strip_thinking、视觉输入、每 15 分钟刷新的模型列表缓存,错误以文本输出而不中断 workflow。
GitHub 新开源项目 AI-Coding-and-Data-Analysis-Assistant 将 RAG 编程助手与语音数据分析整合为一个 FastAPI 应用。用户可上传 CSV 或 SQLite 数据集,用英语或阿拉伯语通过 Faster-Whisper 语音提问,系统基于 schema 生成并校验 SQL 后返回结果与解释;编程助手则通过 ChromaDB 检索示例并生成、解释 Python 代码,支持用户反馈学习。
Reddit 用户更新了 ik_llama.cpp fork,并寻求社区反馈。该实现在 6GB 显存的 RTX 2060 上运行 Qwen3.6-35B-A3B-UD-Q4_K_M,短提示词生成约 45–48 t/s,28K 上下文约 37 t/s,prefill 约 430–700 t/s。由于反馈太少且代码需拆分清理,作者暂不合并到主线。
MicheleCampi 发布 gke-llm-inference-platform,一个基于 Terraform 与 ArgoCD app-of-apps 的 GKE LLM 推理平台,通过 scale-to-zero 的 L4 GPU 节点池运行 vllm-coldstart-operator v0.6.0,部署 Qwen2.5-7B-Instruct。实测中 6 个 ArgoCD Applications 全部 Healthy 且 Synced,vLLM Pod 0 重启并成功完成一次 chat completion(39 prompt + 33 completion tokens),随后 terraform destroy 清空全部 7 个资源实例。
GitHub 开源项目 AI-Wireless Copilot 旨在将自然语言无线通信需求转化为可执行仿真与验证结果,结合 RAG、自动代码执行与约束优化。规划能力包括 AWGN、Rayleigh、Rician 信道仿真、BER-SNR 分析与星座图可视化,可选 QLoRA 微调。技术栈为 Python、FastAPI、Streamlit 及 open-weight LLM,目前处于 Phase 0 架构搭建阶段。
insciqq 在 GitHub 发布 AIQSA,一个自托管 AI 工作区,可在私有工作区中统一使用 GPT、Claude、Gemini、DeepSeek、OpenRouter 或自有模型,使用自己的 API key。每个聊天可配独立 KVM 虚拟机运行代码和处理文件,记忆系统只从用户话语学习并记录事实主体与时间,可经 OAuth 接入 Claude Code 和 Codex;需 64 位 Linux、Docker 25.0+、2 核 8GB 内存和 50GB SSD,采用 AGPLv3 许可。
推荐理由:README 给出了硬件要求、安装命令和记忆机制细节,团队可据此评估自托管多模型工作区的落地成本。
Thecimal 在 GitHub 发布开源的 quantified-self-mcp,一个本地优先的 MCP 服务器,让 AI 智能体通过 MCP 访问本地 SQLite 中的个人健康数据,支持趋势、基线、异常、相关性等纵向分析。每个分析结果附带 claim 证据结构,标注数据覆盖率与可声明的强度等级(如 suggestive),避免把低覆盖数据当成确定结论;支持 CSV、Apple Health、WHOOP API 等导入,共暴露 20 个工具,MIT 协议开源。
推荐理由:原文给出了证据分级机制的具体设计,分析结果附带可机器校验的claim强度与数据覆盖缺口,而非只报数字。
carstenlucke 在 GitHub 开源 schnupper Monorepo,包含面向学生的 KI 与 KI-Agent 演示项目。其中 ship-it 让五个 KI-Agent 完成从目标群体分析到 Landingpage 的产品发布;the-counting-agents 是基于文件型 Append-only Event Logs 的多智能体终端演示,运行在 pi CLI 上;agent-party 则由参与者自己撰写 Markdown 角色档案作为 Systemprompt 生成智能体讨论,配套 Slidev 演示文稿「Vom Chatbot zum KI-Agenten」。
Anonyfox 在 GitHub 发布 lfm v0.0.2,一个 agent 优先的落地页编译器,通过一条安装命令和 SKILL.md 让 Claude Code、Codex、Cursor 等 Agent 走研究、设计、实现三阶段流程生成静态落地页。lfm compile 会检查正确性、速度、可访问性、SEO、AI 设计默认痕迹和 Stripe 支付链接,全部通过才写出 output/,无框架无运行时,支持 macOS 和 Linux,MIT 许可。
推荐理由:原文给出了编译器各阶段检查项和三阶段工作流细节,读者可以据此评估这个 agent 优先的落地页工具是否适合自己复用。
GitHub 用户 Leaveing00001 发布 AstrBot 插件 astrbot_plugin_context_recall,提供两条共用聊天流水的链路:发送前用约 0.6~1.3 秒的 OK/BAD 短裁决拦截不合逻辑回复并打回重写,发送后按现场反应裁决是否撤回 100 秒内自己说的消息。插件带重写上限、超时放行、每小时 200 条熔断、撤回配额等安全阀,支持 /air 指令查状态,无第三方依赖,MIT 协议。
推荐理由:原文给出裁决耗时、重写上限、撤回配额等具体参数与已知取舍,读者可以直接评估这套审查撤回机制是否适合接入。
Anton Sannikov 在 GitHub 发布 Mnema,一个把用户记忆存为本地纯 Markdown 文件的工具,供 Claude、ChatGPT、Gemini、DeepSeek 或本地模型共享上下文,无云端、无账号,支持 Windows、macOS 和 Linux。记忆包含画像、记忆地图和带日期的事实,过期事实会被重写或归档;支持多模型协作模式(Council、Debate、Red team 等),可通过 MCP 接入 Claude Code、Claude Desktop 和 Cursor,内置 13 个本地模型选项并支持 Ollama。
推荐理由:本地 Markdown 文件记忆可同时供云端与本地模型读取,原文还给出 153,000 字符合同问答中 token 消耗的实测数据。
GitHub 上的 xdog 是一套本地优先的模型与 Agent SDK、终端应用、类型化工作流和 JSON 观察工具,不依赖托管控制面或外部数据库,持久化使用本地 JSON、JSONL、Markdown 和 SQLite。项目含九个 xdog.* 命名空间的包,其中八个发布到 PyPI,涵盖 xdog-coding 编码助手、xdog-claw 持久多渠道助手(支持 TUI 与 Weixin)、xdog-flow 类型化工作流和 xdog-eyes 观察守护进程。真实模型调用需自行配置 provider 与凭据,支持 Copilot 和 Antigravity 等认证路由。
SergeyGer 开源了 InSilicoTrial MAS,一个多智能体临床试验模拟平台,可生成数字孪生虚拟患者队列并按方案执行试验,输出可审计的 go/no-go 读数。一次演示运行包含 400 名合成患者、6 个 epochs,结果以交互式仪表盘、报告和导出数据呈现。平台支持 Spark 集群分布式运行且结果逐位一致,容器化部署离线可复现,含 231 个自动化测试。
Compute Screener 在 GitHub 开源每日 GPU 租赁与 AI token 价格指数,覆盖 H100、H200、A100、B200、B300、RTX PRO 6000 的美元/GPU·小时报价,数据来自 20 个来源,每 2 到 3 小时更新。token 指数按每 1M tokens(3 输入:1 输出)统计 Anthropic、OpenAI、Google、xAI、Meta、Moonshot AI、Alibaba、DeepSeek、Z.ai、Xiaomi 的定价。数据以每日 CSV 和 JSON 提供,采用 CC BY 4.0 许可,连接器已列入 Claude 连接器目录与官方 MCP Registry。
GitHub 开源项目 FinSight 是一个约 250 KB、零依赖的本地投资终端,提供实时行情、FX 风险面板和经济日历,无需账号或 API keys,数据完全留在本机。其内置 AI 研究智能体 Kestrel 默认使用 DeepSeek,也支持 Claude Haiku 等 OpenAI 兼容模型,配备 35 个只读工具、策略扫描和 SEC EDGAR 文件研究,只读设计不可交易。支持从 Interactive Brokers / moomoo / Tiger 导入持仓,所有调用记录本地可追溯。
ID-VerNe 开源 IdleJot 项目,把 AI Agent 常驻一个 QQ 群,被 @、引用或叫到名字才回复,其余时间潜水看聊。Agent 读上下文现场写回复而非关键词固定话术,人格来自可热切换的 Markdown 人格卡(自带 little_whale、dragon_girl 模板),群友画像与记忆存本地 SQLite,闲时自动提炼。项目经 MCP 接入 Agent,靠 NapCat(OneBot 11)收发消息,默认 mention_only 触发,支持原生引用、按花名 @ 人、追问窗口和守护保活,目前仅支持 Windows、只发文字。
推荐理由:作者详细公开了常驻栈、群友记忆沉淀和人格卡模板的构造方式,想做群聊 Agent 的人可以照着整套架构自己搭。
WeeLLM 开源了针对大型扩散模型的分层流式推理工具,通过把文本编码器和 transformer 层按显存预算动态流式加载到 GPU,在不量化的 bfloat16 精度下让 4GB 显存运行 FLUX.1-dev、SDXL、Qwen-Image 等模型,并给出 RTX 3050 上的显存峰值与生成耗时基准表。现已提供 ComfyUI 官方扩展,支持文生图、图生图和文生视频,但作者说明自回归文生图模型因需上千次前向传播而流式耗时数小时,不实用。