跳到正文
#Ollama
10月7日周三
  1. GitHub · 去对齐工具与仓库38

    Turing：基于 Python 与 Ollama 的本地 AI 智能体开源项目

    开源项目 Turing 是一个用 Python 和 Ollama 构建的本地 AI 智能体，使用 Qwen 2.5 作为本地语言模型。它支持计算器、天气、时区、基于 Tavily 的联网搜索、SQLite 持久记忆、多格式文档处理（.txt/.md/.json/.csv/.pdf/.docx）及轻量级 RAG 检索，并采用动态工具注册表架构，附带 pytest 自动化测试和运行日志。

  2. GitHub · 灵魂体仓库19

    bist-news-analyzer：用本地 LLM 分析伊斯坦布尔证券交易所新闻的开源项目

    GitHub 开源项目 bist-news-analyzer 收集 Borsa Istanbul 新闻和 KAP 披露，通过 Ollama 本地 LLM（候选模型为 qwen3.5:4b-q4_K_M 与 gemma4:e4b-it-q4_K_M）分析后提供给 Expo 移动应用。分析仅为描述性，不产生买卖信号。技术栈为 Python 3.12、FastAPI、SQLAlchemy 2、PostgreSQL 18，项目仍在开发中，完整架构说明与模型对比将在 Phase 7 发布。

  4. GitHub · 去对齐工具与仓库17

    TerminalAI：一个 Python 命令行聊天机器人，支持 OpenAI、Gemini 和 Ollama

    TerminalAI 是一个开源 Python 命令行聊天机器人，通过 LLM_PROVIDER 环境变量在 OpenAI、Gemini 和 Ollama 三种模型间切换，经 config.py 配置系统提示词和模型名。Gemini 和 Ollama 支持流式输出，Ollama 可连接本地或配置 URL 的服务器，默认模型为 qwen3:0.6b，使用 Ollama 时无需 API key。

  5. GitHub · 灵魂体仓库33

    commit-sage-cli v2.0.0 发布：终端内 AI 生成 git commit 消息，支持离线静态分析

    commit-sage v2.0.0 发布，这是一款跨平台 CLI，可将 git diff 转为 commit 消息，提供 generate、commit、config 三个子命令。AI 路径支持 OpenAI、Gemini、Ollama 等 11 个 provider，输出 conventional/angular/emoji/semantic/freeform 格式；--offline 路径无需 API 即可生成确定性 conventional 消息。v2 的破坏性变更是：直接运行 commit-sage 现在打印帮助而非静默生成。

  6. GitHub · 去对齐工具与仓库48

    auto-pause-mac-apps：一键暂停 Mac 应用释放内存的开源工具

    开源工具 auto-pause-mac-apps v1.0.0 上线，可从 Mac 菜单栏一键暂停闲置应用并释放 RAM，还能清理 swap，暂停的应用可原样恢复。它主打为本地 LLM 腾出内存，适配 Ollama、LM Studio 等工具，需 macOS 12.0 及以上，针对 M1/M2/M3 芯片优化，采用 MIT License，完全离线运行。

  7. GitHub · 去对齐工具与仓库52

    开源桌面工具 PromptDeck 发布：本地离线横向对比多个 LLM 的速度与输出

    Cadman021 在 GitHub 发布开源工具 PromptDeck，基于 Tauri 构建的本地桌面应用，可完全离线运行、数据不出本机。它支持通过 Ollama、LM Studio 或 llama.cpp 服务器同时对比 2 至 4 个模型，并接入 OpenRouter、DeepSeek、Groq 等 19 家云端供应商，实时对比 TPS、TTFT 和总耗时，结果存入 SQLite，支持批量测试计分板、并排 diff、胜率排行和 PDF/CSV 导出。项目采用 GPL v3.0 许可证，支持包括中文在内的六种语言。

  8. GitHub · 去对齐工具与仓库46

    mcfcs/manabi：自托管的单用户个人 AI 学习工作台

    GitHub 项目 mcfcs/manabi 是一个自托管、单用户的个人 AI 学习工作站，支持 PDF/PPTX/TXT 上传与 Canvas 导入，经 Docling 解析和 pgvector 嵌入后，由本地 Ollama 模型（qwen3.5:27b 生成、gpt-oss:20b 聊天）基于材料带页码引用地生成摘要、Anki 卡片、测验与授课。项目内置 GPT-SoVITS 语音讲解的 "Steven" 教师模式、间隔重复复习、Google Calendar ICS 同步及任务推送，架构采用 FastAPI + Postgres 16，访问控制依赖 Tailscale 边界。

  9. GitHub · 灵魂体仓库48

    pfix 0.1.5 发布：LLM 驱动的 Python 自愈式自动修复工具

    开源 Python 工具 pfix 发布 0.1.5 版本，新增零配置模式，只需导入 pfix 并在 .env 设置 PFIX_AUTO_APPLY=true，任何运行时异常即可自动触发 LLM 修复。它支持 @pfix 装饰器、ModuleNotFoundError 时直接 pip/uv 安装依赖（不调用 LLM）、pipreqs 全项目扫描、备份与交互式 diff，并通过 FastMCP 提供 MCP server，可集成 Claude Code、Cursor、VS Code。工具已可从 PyPI 安装，LLM 修复走 OpenRouter/LiteLLM。

  10. GitHub · 灵魂体仓库61

    uurtech 开源 AI 原生文档格式 JDF

    uurtech 在 GitHub 开源了 JDF，一种以 JSON 为基础的 AI 原生文档格式，定位为替代面向人类的 PDF。文档可用文本编辑器和 JDF Reader 双向编辑，含图片时打包为 .jdfx；提供桌面端 Reader、jdf.js 网页嵌入库和 CLI 三种形态，支持全保真 PDF 导入导出、JSON Schema 校验、增量 chunk 与本地 embedding。作者发布的基准显示，24 篇文档 192 个问题上，JDF 的 jdf chunk 管线检索准确率 96.9%（bge-small），高于 PyMuPDF、pdfplumber、pypdf 等固定分块管线的 60%-83%；千文档规模的成本测算中，单段修改的重嵌入 token 从 140.2 万降至 9.1 万。

    推荐理由：原文自带可复现的 RAG 检索与成本基准数据，读者可以据此对比 JDF 与传统 PDF 解析管线在准确率和重嵌入开销上的差异。

  11. GitHub · 去对齐工具与仓库48

    cowork v0.6.0-rc.1 发布：本地模型驱动的仓库问答 CLI 工具

    aidan46 的 cowork CLI 工具发布 v0.6.0-rc.1 预发布版，通过本地 Ollama 模型端点对指定仓库文件提问，输出 schema 校验的 JSON。支持 locate、brief、ask、doctor、setup、init 等命令，默认仅本地运行，只有显式指定 --recursive 或文件路径才会加载内容，且不会自动扫描仓库。目前提供 macOS（Apple Silicon/Intel）和 Linux x86_64 的 RC 构件，Windows 与 Linux ARM64 暂不支持，许可证为 MIT 或 Apache-2.0。

  13. GitHub · 去对齐工具与仓库60

    开源本地会议记录应用 LokalBot 发布，纯本地转录与摘要

    开发者 stevyhacker 在 GitHub 开源了 macOS 应用 LokalBot，可在 Apple Silicon Mac（macOS 15+）本地录制麦克风和会议应用音频，无需会议机器人加入，提供转录、摘要、日程回顾、听写与自动补全，默认无账号、无遥测。内置 llama.cpp 运行时，默认模型含 Qwen3-ASR 1.7B、Qwen3.5 4B 等，约 6.8 GB 模型文件，支持 Ollama、OpenAI 兼容服务器和 Apple Intelligence，屏幕文字与截图默认 opt-in 且 14 天过期， GPLv3 协议，可通过 Homebrew 安装。

    推荐理由：README 附带了与 Granola、Otter、Screenpipe 等产品的逐项对比表和隐私架构说明，方便读者判断本地会议记录方案的差异。

  14. GitHub · 去对齐工具与仓库37

    mugen-shell：基于 Quickshell + Hyprland 的梦幻 Shell，内置桌面助手 Yura

    开发者 tmy7533018 在 GitHub 开源了 mugen-shell，一套基于 Quickshell + Hyprland 的 dotfiles，可通过 Arch 包和 Nix flake 安装。功能包括日历、天气、剪贴板、通知等面板，壁纸配色生成、明暗切换和桌面助手 Yura；Yura 支持 Ollama 本地模型及 Claude、Gemini、OpenAI 兼容 API，可通过自然语言操作桌面，并支持外部 MCP 服务器。项目采用 MIT 许可证。

  15. GitHub · 灵魂体仓库52

    CK3_LLM_AI 开源项目用 LLM 替换《十字军之王3》高层战略 AI

    dhq689-dev 在 GitHub 开源 CK3 Strategist 项目，将 .ck3 存档解析为 StrategicSummary JSON，交给 LLM 输出五年目标、焦点、侵略性和谈判等意图，让统治者形成符合人格的长期规划。Phase 1（解析器到 LLM strategist 共 9 个里程碑）和 Phase 2（记忆、关系、谈判）已完成，支持 --llm ollama 本地运行；把意图注回 CK3 的 Phase 3 尚未开始。

  17. GitHub · 灵魂体仓库44

    Vonzlov 开源 llm-bench：面向任务选择的 LLM 对比评测工具

    Vonzlov 的 llm-bench 项目用统一基准对比 Ollama、vLLM 本地模型与云端 API 模型的质量、速度和价格，并给出推荐。项目已完成阶段 0（脚手架、CI、假模型、k3s GPU 支持），阶段 1 核心包括测量客户端、负载生成器（1–32 并发阶梯）、MASSIVE 和 XQuAD 开源数据集下载，以及分类任务的质量评测（准确率、macro-F1、95% bootstrap 区间）。整个系统在单台 GPU 机器上以 Kubernetes 运行，架构不绑定具体机器。

  18. GitHub · 去对齐工具与仓库37

    Sentinel Inbox（phish-guardian-ollama）：基于 Ollama 本地大模型的钓鱼邮件行为启发式分析引擎

    开源项目 Sentinel Inbox 用本地 Ollama 托管的大语言模型（如 llama3.2、mistral、qwen2.5）分析 EML 邮件，从紧迫感、权威冒充、熟悉度伪装、逻辑谬误密度、附件异常、多源信誉六条行为轴输出 0-100 的操纵指数评分（MIS），并可选接入 VirusTotal API 查询 URL 和附件哈希信誉。全程本地运行、不依赖云端，邮件内容不出本机，适合 SOC 团队优先审阅高分邮件和事件响应团队快速还原攻击意图，报告以 JSON 和控制台可读形式输出。

  19. GitHub · 去对齐工具与仓库30

    StudyLoop：本地 LLM 驱动的学习自律 Web 应用

    GitHub 开源项目 StudyLoop 是一个帮助用户坚持工作与目标的 Web 应用，使用本地 Ollama 模型（默认 gemma3:4b）做规划，内置任务规划器、GitHub 风格的坚持打卡图、绩效报告和番茄钟计时器。后端为 FastAPI + SQLite，前端为 React + Tailwind（Vite），共用仓库根目录的一个 .env；模型不可用时聊天报错、报告回退为计算摘要。

  20. GitHub · 灵魂体仓库33

    Kongstad 开源 PlanetaryScanner：本地 Ministral + MiniLM 打造行星科学 RAG 学习项目

    GitHub 开源项目 PlanetaryScanner 用虚构行星扫描仪界面展示本地 LLM、嵌入向量与 RAG，内置 Ministral 3 3B 模型与 MiniLM 检索，并提供地球、月球、火星和太阳的真实科学数据。项目基于 React、TypeScript、CesiumJS 和 FastAPI，含 5,956 条参考记录，支持 CPU 推理和 Ollama 本地运行。配套学习指南讲解检索评分与答案验证机制，并附 GitHub Pages 静态查看器演示。

  21. GitHub · 去对齐工具与仓库35

    Math_Tutor_RAG：基于视觉大模型与 RAG 的开源智能错题本

    开源项目 Math_Tutor_RAG 提供了一个基于视觉大模型与 RAG 检索的智能错题本，支持拍照录题、AI 结构化解析、SymPy 数学验证、ChromaDB 向量归档与 SM-2 间隔重复复习。项目统一对接 SiliconFlow / 通义千问 / 智谱 GLM / DeepSeek / OpenAI / Ollama 等 Provider，Gemini 独立接入，并提供 MCP Server 供 Claude Desktop / Cursor 调用，无 Key 时可跑演示模式。工程上包含 464 个 pytest 用例、覆盖率 CI 门禁 78%、Docker Compose 一键部署与 FastAPI JWT 网关。

  22. GitHub · 灵魂体仓库29

    StoryCore 2.0.2 预览版发布：基于 Ollama 的本地模型聊天与故事创作应用

    StoryCore 2.0.2 预览版新增项目工作区、专业知识、文档和可选的个人档案功能。该应用配合 Ollama 使用本地语言模型，支持聊天、故事创作、模型对比和 Tavily、Serper 或 Brave 联网搜索，需 Apple Silicon 芯片和 macOS 14 以上，可免费私用和商用。稳定版仍为 1.7.1，源码保持私有，每个 Release 提供 SBOM.json 和校验和。

  23. GitHub · 灵魂体仓库58

    LLMCommit 开源：用本地 Ollama 优先的多后端 LLM 自动生成 git commit message

    goashem 在 GitHub 开源了 LLMCommit，一个替代 git commit 的工具，读取暂存改动后交给 LLM 生成提交信息。默认先试本地 Ollama（qwen3:8b），失败后按 OpenAI、Claude、Gemini 顺序回退；支持多语言、conventional commits、--review 审阅和 .llmcommit. 配置，发送前会对私钥和 API key 等常见密钥模式做脱敏，项目代码主要由 AI 编程助手编写。

    推荐理由：这个单文件提交工具默认优先本地 Ollama 并对密钥做脱敏，想给 git commit 接上大模型的读者可以参考它的多后端回退设计。

  24. GitHub · 灵魂体仓库42

    网络安全从业者 Emanuel Walker 开源 Cyber Portfolio：六个可运行的安全与 AI 项目仓库

    安全工程师 Emanuel Walker 开源了 Cyber Portfolio 仓库，包含六个可运行项目，覆盖检测工程与个人 AI 工作流两大方向。其中本地 Ollama SOC 分诊 agent 自建的 16 条 prompt 注入测试拦截了 12 条，另有 4 条绕过被如实记录；还包括 Sigma 规则 CI/CD 管线、基于资产的 Crown Jewel 分诊模型、Terraform 部署的 AWS 身份 IR 实验室、10 个 AI agent 技能文件，以及支持 Claude Code、Codex、Hermes、Cursor 的 Obsidian second brain 模板。

  25. GitHub · 灵魂体仓库54

    开源本地优先 AI 通知中枢 Laya 发布，聚合 Slack、Gmail、GitHub 等工具通知

    aayushch 在 GitHub 开源了 Laya，一个本地优先的 AI 通知命令中心，可聚合 Slack、Gmail、GitHub、Jira、Notion、Outlook 和日历通知。它通过本地 n8n 归一化事件，由 Python FastAPI 引擎用本地 LLM（Ollama、LM Studio）或 Claude、GPT 等 API 模型进行分类、研究和行动暂存，再以 Action Cards 供用户批准执行；支持多人格路由、Card Workspaces 编码代理协作、跨平台实体关联、预算跟踪和审计导出，提供 macOS、Windows、Linux 安装包。

  26. GitHub · 去对齐工具与仓库54

    OllaDesk：基于 Qt/PySide6 的 Linux 本地 Ollama 桌面客户端

    gradia64 发布 OllaDesk，一个面向 Linux 的原生桌面应用，用 Qt/PySide6 构建并通过 Ollama 与本地大语言模型交互，采用 GPL-3.0 许可。功能包括 ChatGPT 风格的流式对话、对话历史持久化、文本/PDF/图片附件上下文、思考过程显示、模型管理与网页搜索（DuckDuckGo/Ollama Cloud/SearXNG）。还提供手机平板可用的局域网 Companion 页面，通过 6 位码配对同步对话，默认端口 8765；README 提醒该连接为明文 HTTP，仅适合受保护的家庭网络。支持 AUR、.deb、pip 等安装方式，自 0.2.3 起提供 GPG 签名验证。

  27. GitHub · 去对齐工具与仓库19

    LLM_Forge：一个 LangChain 学习项目，支持 OpenAI 在线与 Ollama 本地 Qwen 双模式运行

    开源学习项目 LLM_Forge 演示如何用 LangChain create_agent() 以两种方式运行同一个智能体：在线模式调用 OpenAI gpt-4o-mini，离线模式通过 Ollama 运行本地 qwen3:8b（约 5.2 GB）。项目开启 LangSmith 追踪以便检查每次运行，通过命令行参数或 .env 中的 LLM_MODE 切换模式，未设置时默认 online。

  29. GitHub · 去对齐工具与仓库62

    kulat55 开源 ai-companion 本地 AI 伴侣项目

    kulat55 在 GitHub 发布 ai-companion，一个基于 Open-LLM-VTuber、Letta 和 Ollama 深度定制的本地 AI 伴侣项目，仓库只开源定制脚本与配置模板，运行时自动 clone 上游 Open-LLM-VTuber。项目提供 Letta 三层长期记忆、可自定义人格模板、时间与天气感知、Live2D 桌宠、网页管理面板、edge-tts 语音，以及通过 NapCat 定时主动发 QQ 消息；对话模型可在 DeepSeek Flash、DeepSeek R1 和本地 Ollama qwen2.5 之间切换，并提供 setup.ps1 一键安装与 MIT 许可证开源。

    推荐理由：项目把人格模板、三层记忆和主动消息的配置方法全部写进部署手册，读者可以照着在本地搭出完整可运行的 AI 伴侣。

  30. GitHub · 灵魂体仓库55

    llm-powersaver-proxy：按需唤醒 Proxmox 虚拟机运行 Ollama 的异步反向代理

    ThMadHatter 在 GitHub 发布 llm-powersaver-proxy，一个运行在常开 LXC Debian 上的异步反向代理，可检测 Ollama/LiteLLM 端点状态并通过 Proxmox API 自动启动 VM/CT，支持 end-to-end 流式转发和可选 Wake-on-LAN。README 给出 LXC 创建、最小权限 Proxmox token 配置、安装验证、Nginx/Cloudflare 反向代理及 WOL 使用等完整步骤，并提醒勿暴露 8080 端口、为多 worker 需分布式锁。

    推荐理由：原文给出从 LXC 创建、Proxmox 最小权限 token 到 Nginx/Cloudflare 流式排查的完整步骤，方法可直接照搬复现。

  31. GitHub · 去对齐工具与仓库54

    Unus Lumen 开源 GURU 框架：让自选大模型驱动 Android 手机

    英国 Bristol 一人初创公司 Unus Lumen 开源了 GURU 框架（AGPL-3.0），可接入云端 API、本地 LLM 或租用 GPU，让所选模型通过自然语言驱动 Android 手机，提供 57 组工具集、160+ Android 权限、Rust 实现的本地记忆和全流量 Tor 路由。作者自述这是公开测试版，权限边界、设备端加密和 Tor 路由尚未经专业审计，同步服务器为闭源自有基础设施但自称不存储账号和对话。

  32. GitHub · 去对齐工具与仓库57

    llm77 开源：基于 Node.js 与 Ollama 的本地 LLM 异步后端架构

    meirakrish 在 GitHub 发布 llm77，一个用 Node.js、TypeScript 和 Express 搭建的生产级本地 LLM 后端架构，通过 Redis（BullMQ）队列把 HTTP 接入与 AI 处理解耦，worker 以并发 1 保护本地 GPU。支持 LanceDB 本地 RAG 知识库、SSE 流式输出、Zod 结构化输出、可选 Claude API 接入，并按镜像拆分提供 docker-compose 一键部署，含前端 Svelte 5 界面与用量统计。

  33. GitHub · 灵魂体仓库55

    pravynraj 开源 PromptArena：提示词版本对比与评测工具

    pravynraj 在 GitHub 发布 PromptArena，用于对同一任务的多版提示词做对比实验，按质量、延迟、token 用量和成本选出最佳提示词。支持 zero-shot、few-shot、chain-of-thought、role-based、structured JSON output 五种技巧，自动评分含 contains/exact/similarity/JSON 有效性；LLM 层可接 Anthropic API、本地 Ollama 或离线 mock，技术栈为 FastAPI、SQLite、vanilla JS 和 Docker，可本地或 docker compose 运行。

    推荐理由：这是一个可直接本地运行的提示词对比实验工具，覆盖版本管理、五种技巧、自动评分与成本延迟指标，方法可迁移到日常提示词选型。

  34. GitHub · 灵魂体仓库62

    开源 Agent 项目 Nova 发布，一个 Python 运行时支持终端、Web、桌面和 API 四端

    GitHub 开源项目 Nova 发布，用一个共享 Python 运行时驱动终端 TUI、HTTP 服务器、Web 前端和桌面应用四端，行为保持一致。支持 Ollama 本地运行免 API key，兼容 OpenAI、Responses 和 Anthropic 三类 provider；内置 21 个工具，任意 MCP 服务器可即插即用，shell 命令经三级审批门控，并带两层上下文压缩与 SQLite 记忆持久化，项目约 15.6k 行 Python，采用 Apache License 2.0。

    推荐理由：README 讲清了同一 Python 运行时如何驱动四端、MCP 接入和三层 shell 审批机制，方法可迁移到自建 Agent 项目。

  35. GitHub · 灵魂体仓库67

    DynoLLM 开源：本地 LLM 压测与硬件遥测平台

    Ganesh1110 在 GitHub 上开源了 DynoLLM，一个面向本地 LLM 的基准测试、并发压测和硬件遥测平台，支持 Ollama、vLLM、LM Studio 和 llama.cpp。平台原生测量流式 TTFT、tokens/s、并发饱和极限、GPU VRAM 与功耗，提供 tok/s/W 能效分析和带安全熔断的 watchdog，前端为 React 仪表盘，后端 FastAPI，采用 MIT 许可证发布。

    推荐理由：README 详细给出 TTFT、并发压测、功耗遥测等指标的计算方式和四种流量模式，读者可以据此判断是否值得为自己的本地 LLM 部署引入这个压测平台。

  36. GitHub · 灵魂体仓库63

    decision-lite：开源 MCP 决策层复刻 TypeSafe Jev 契约，可插拔本地或 OpenAI 兼容后端

    cckyros 在 GitHub 发布 decision-lite，一个以 MCP server 形式复刻 TypeSafe Jev 请求/响应契约的决策层，复用其公开工作流而非未公开的模型内部。支持三种可插拔后端：默认的 cactus-needle（121M 本地模型，~30MB，免费但非英文 confidence 不可靠）、laya（~643MB 多语 checkpoint，输出真实每选项分布）、以及任意 OpenAI 兼容端点（verbalized / sampling / logprobs 三种模式，如经 Ollama 运行 qwen3:0.6b）。

    推荐理由：README 直说复刻的是 Jev 的接口契约而非内部模型，并列出各后端校准缺陷和基线数据，判断冷静。

  37. GitHub · 去对齐工具与仓库32

    Synapse：一个让 LLM 回答问题、标记矛盾并重新唤起旧笔记的 Obsidian 插件

    GitHub 上的 Synapse（vault-synapse）是一个 Obsidian 桌面插件，LLM 通过搜索 vault 内的链接、标签和文本来回答问题、标记矛盾并重新唤起旧笔记，不依赖 embeddings、向量数据库，也无遥测。项目分两阶段：Phase A 使用 OpenRouter 免费模型（默认 qwen/qwen3.8-27b:free），Phase B 计划仅用本地 Ollama 推理。插件要求 Obsidian desktop ≥ 1.5.0，MIT 协议，只读取笔记、不编辑。

  38. GitHub · 去对齐工具与仓库40

    DaveLLM：基于 Electron 与 FastAPI 路由的 Ollama 桌面客户端开源仓库

    DaveLLM 是一个开源桌面客户端项目，采用 Electron 前端加 FastAPI 路由架构，从配置的 Ollama 节点发现模型并通过 Ollama 原生 chat API 流式对话，同时在路由主机上持久化会话、项目、向量索引、反馈、性能与成本数据。项目依赖 Python 3、Node.js、至少一个可达的 Ollama 节点和本地 DAVE_API_KEY，提供 macOS 一键启动器（Keychain 管理 API key、支持 Tailscale 节点发现）与可选 whisper-cpp tiny.en 本地听写，并附带 DaveHarness 0.2.0 至 1.0.0 的 60 项行动计划。

  39. GitHub · 灵魂体仓库27

    Spring AI 与 ChatClient 实战代码仓库：涵盖 RAG 与 Tool Calling

    GitHub 上一个基于 Spring AI 的实战代码仓库，覆盖从生成式 AI 基础机制到 RAG、Tool Calling 等进阶模式，并提供分讲义示例。内容包含配置 Spring Boot 依赖、构建 ChatClient 与流式响应、本地向量嵌入语义检索、用 Advisors 实现聊天记忆、以及把 Java 函数注册为模型可调用的工具。技术栈为 Java 17/21、Spring Boot 3.x、Spring AI、Ollama（qwen2.5-coder:7b / llama3.2），构建工具为 Maven / Gradle。

  40. GitHub · 灵魂体仓库29

    RAG_Pipeline：开源实时 RAG 系统，融合流数据、知识图谱与向量数据库

    GitHub 开源项目 RAG_Pipeline 实现了一个可扩展的 RAG 系统，通过 Kafka/Redpanda 流式摄取事件，结合 Qdrant 向量搜索与 Neo4j 知识图谱构建混合记忆。数据经 Apache Spark 分布式管道处理，本地 LLM 推理采用 Ollama（支持 LLaMA 3、DeepSeek 等），并用 Prometheus 监控。项目基于 FastAPI 和 Airflow 编排，采用 MIT 许可证。