新闻、仓库与研究，按时间排列。
开源全栈 AI 聊天平台 SiloCore 处于 alpha 阶段，面向使用专属或自托管 AI 基础设施的团队提供私有应用层。核心聊天、私有工作区、管理工具、pg-boss 任务队列及 Ollama 与 OpenAI 兼容推理已实现，通过 SSE 流式输出回复，采用 React + Express + Prisma + PostgreSQL 的 TypeScript monorepo，基于 Docker Compose 部署，代码以 Apache-2.0 许可开源。
GitHub 开源项目 asynchronous-rag-pipeline 提供了一个基于异步架构的企业级 RAG 系统，用 BullMQ + Redis 将 PDF 文本提取和向量嵌入生成卸载到后台 Worker 队列，API 立即返回 202 Accepted 任务回执。AI 推理由本地 Ollama（phi3）完成，实现离线、隐私优先的推理，前端采用 React 支持文档上传与实时状态跟踪。
ehartye 发布 wiki-master 插件，让 Claude Code、GitHub Copilot CLI 或 Codex 作为合成引擎，在 Obsidian 中增量编译并维护一个持久、密集互链的 markdown wiki。无 MCP server、无 daemon、无向量数据库，语义搜索基于本地 Ollama 嵌入的 chunk 级索引，约 1,800 页约 5,500 chunks，暴力余弦检索在个位数毫秒内完成。
推荐理由：原文给出了完整的技能清单、vault 结构和检索规模数据，读者可以据此判断这套零向量数据库的 wiki 方案是否适配自己的工作流。
muguang1224 发布了用 Ollama 本地模型驱动的 QQ 聊天机器人项目 qq-ollama-bot，通过 NapCat 收发消息，不需要云端 API，支持 Windows / Linux / macOS。它用 qwen3.5-4b 聊天、qwen2.5vl:3b 看图，加 YOLO 做目标检测，具备情绪系统、长期记忆、人设进化、语音回复（edge-tts / GPT-SoVITS 声音克隆）、主动聊天和 QQ 空间发说说等功能；并用 Prompt 层加代码正则两层拦截，阻止模型编造「刚刷到视频」等假经历。README 附完整安装步骤、风控与账号安全提示，以及图片缩放实测，原图送模型需 46-200 秒，缩到 256px 后降到 4.4 秒。
推荐理由：README 讲清了情绪系统、长期记忆和两层防编造的构造方法，还给出图片缩放和显存的实测数据，做法可迁移。
GitHub 项目 GerenciadorDeEventos 是一个用 Java 21 + Spring Boot 4.1.1 + React 19 构建的学术活动管理 Web 应用，支持活动报名、候补队列、签到和 PDF 证书。其特色是 AI 辅助登记：组织者粘贴自由文本，系统通过 Spring AI 2.0.1 提取结构化字段并需人工确认。开发环境用本地 Ollama 跑 llama3.1，也提供 Groq、OpenRouter、OpenAI 等 profile，数据库为 PostgreSQL 16。
ImageMetaAI 是一款基于 C# 和 WPF 的 Windows 桌面应用，使用本地 Ollama 模型分析图片并生成图库元数据。视觉模型 qwen2.5vl:7b 生成图片描述，元数据模型 qwen3:14b 生成标题、关键词和分类，结果可人工编辑后导出为 Shutterstock 和 Adobe Stock 专用 CSV。图片全程本地处理不修改原文件，仅位置识别可选调用 OpenStreetMap Nominatim。
GitHub 仓库 LocalCoder RTX 发布，这是一个完全在开发者本机运行的 AI 编程智能体，结合本地 LLM、工作区感知的工具循环和浏览器/CLI 界面，无需将代码发送到云端。它通过 Ollama 托管模型（推荐 qwen2.5-coder:3b 或 7b，上下文 4096），提供文件读写编辑、shell 命令审批、自动备份和工作区隔离等安全机制。该项目还可用于微调数据集构建、智能体轨迹收集和本地 LLM 评测。
understudy-lm 项目发布了仅从目标 LLM 的文本输出训练的推测解码草稿模型，无需 logits、隐藏状态或更小的同族模型，草稿一次猜测 4 个 token，由目标模型一步验证，输出不变。发布的草稿针对 Qwen3.5-4B 训练，实测每步接受 1.58 个 token，投影加速 1.43x；在 llama.cpp 下因需逐 token 起草并恢复状态反而更慢（27 到 36 tok/s 对 69 tok/s），需支持 lookahead heads 的运行时才能兑现。
推荐理由：只靠目标模型的文本训练推测解码草稿模型，不用 logits 和隐藏状态，并给出接受的实测与局限说明。
GitHub 开源项目 RAG-JAVA-OLLAMA 提供了一个本地检索增强生成（RAG）API，基于 Java 21、Spring Boot 和 Ollama 构建。项目支持文档索引、语义搜索以及带来源引用的 AI 问答功能。
TransLLM 是一款 100% 直连、零追踪、自带 API Key（BYOK）的浏览器 AI 翻译扩展，支持 DeepSeek、OpenAI、Groq 及任意 OpenAI 兼容端点，还可离线接入本地 Ollama。它提供划词悬浮气泡和整页双语注入两种翻译模式，纯 JavaScript 实现体积小于 200KB，采用 Manifest V3 与 Shadow DOM 隔离，API Key 仅存于 chrome.storage.local。项目以 MIT License 开源，免费使用，只需支付 token 费用。
Warith Harchaoui 发布 best-engine-ai-helper，一个纯 Python 工具，可检测本机内存（Apple Silicon 统一内存、NVIDIA/AMD VRAM 或系统内存），从内置模型目录中选出得分最高且装得下的本地 LLM 或 VLM，并通过 Ollama 拉取。选型综合结构化输出能力、内存适配、任务基准和带宽估算的吞吐四要素，pull 与 validate 会用 Ralph Loop 文本缺陷检测和 Ralph Eyeball Loop 视觉缺陷检测两道质量门验证模型，通过后才写入环境文件；实测吞吐数据存入 measurements.yaml，在 Apple M2 Max 上将 gemma3:12b 的估算误差从 64-118% 降到 17-25%。
推荐理由：原文给出了选型四要素与实测校准数据，读者可以据此理解本地模型自动选型工具的取舍逻辑。
Ollama 0.40.11 起支持文本转语音，首个语音模型是 Gradium 的 Phonon 系列，目前可用 macOS，Windows 和 Linux 支持即将推出。在 M5 Max MacBook Pro 上，Ollama 借助 MLX 加速，吞吐比次快的 Gradium ptts 运行时快 35%，词错率与 Hugging Face Transformers 参考实现持平；Phonon 采用 Apache 2.0 许可，40M 版本为 CC BY-NC 4.0 限非商用，支持英语、法语、德语、西班牙语、葡萄牙语，并提供 OpenAI 兼容的 /v1/audio/speech 接口和流式播放。
推荐理由：官方给出了与 Gradium 自家运行时的吞吐对比和词错率对照数据，读者可以据此判断在 Apple Silicon 上本地跑语音模型的真实表现。
Codebud 是一个本地运行的编码智能体，用 Ollama + Qwen2.5-Coder 把自然语言请求转成可执行计划，数据不离开本机，推荐模型为 qwen2.5-coder:3b-instruct-q4_K_M。项目提供 GNU 标准 Makefile 构建、`codebud doctor` 环境检查、Texinfo 手册及可注册的 OpenClaw skill（支持浏览器 UI）。代码以 GPL-3.0-or-later 许可开源。
laplacef 发布 Python 工具 digest-generator，从自定义 RSS 源抓取文章，用 LLM 生成逐篇事实密集摘要，再用 BART-MNLI 做零样本主题分类，最终产出 Markdown 日报。流水线分语料构建与日报生成两半，各阶段输出均缓存，支持 --no-digest、audio、lint 等子命令；默认用 Ollama 云端模型 gemma4:31b-cloud 和 gpt-oss:120b-cloud，也可配置本地模型完全离线运行，需 Python 3.13+、HF_TOKEN，可选 Piper TTS 与 GPU，采用 Apache License 2.0。
该 GitHub 仓库包含四个围绕账单与支付运营问题构建的作品集演示项目，全部使用合成数据，无生产部署。Reconciliation Engine 用 Python 和 SQL 对账，100 万行合成数据单次运行 12.7s（pandas）/11.1s（SQL）；LLM Support Desk 基于 Ollama llama3.2:1b 本地分诊支付申诉，由确定性规则决定最终动作，23 条标注工单中类别一致率 13/23。另有 .NET 8 固定宽度文档布局工具和 Collections Aging SQL 项目。
GitHub 开源项目 RAICA（RAG AI Context Agency）v1.0.0.348 发布，这是一个基于 Agentic-RAG-System 分支的多 LLM 编排 AI 服务器。新版本加入 Deep Research Mode（多轮检索、来源可信度评分与声明核验）、可开关的数据图表功能（从 World Bank、FBI Crime Data Explorer 等权威来源取数）、POST-LLM Workflow Engine 和 2 个文件（YAML + Python）即可创建工具的插件系统。内置 10+ 生产级 agent、OpenAI 兼容 API、基于 FAISS 的文档智能与 Qwen2.5vl 视觉处理，邮件管理可将上下文压缩 84%。
一个面向生产环境的企业级 RAG（检索增强生成）问答平台，用 Sentence Transformers 生成语义嵌入，结合 FAISS 与 BM25 通过 RRF 混合检索，调用本地 Ollama 运行的 llama3.2:3b 模型生成有据可依的答案，并通过 FastAPI 提供服务，无需付费 LLM API key。早期在 6 个问题上评测，Recall@1 达 83.33%，Recall@3 与 Recall@5 均为 100%。
GitHub 开源的卓欣刮削器是一套本地自托管的成人影片元数据刮削工具，走建库→语义识别→网站/无码/AI 三线刮削流程，生成 Jellyfin 可用的 NFO 与封面。它以单文件 HTTP 服务加 SQLite 运行，不依赖云服务，支持 javbus、javdb、MissAV、123AV、FC2 等站点，通过 ollama 调用本地大模型做语义分类、AI 看片与标签补全，并提供 Docker 部署，支持 linux/amd64 与 linux/arm64。
作者发布了面向本地 LLM 的语义缓存反向代理 semantic-cache-proxy，将提示词嵌入索引进 Redis Stack 的 HNSW 向量索引，相同或语义改写的查询命中缓存后延迟低于 15ms，绕过本地 GPU/CPU 推理瓶颈。系统用 SHA-256 对 system prompt 和参数做哈希分区，相似度阈值 ≥ 0.88 判定命中，兼容 OpenAI /v1/chat/completions 接口，并通过 X-Cache-Lookup 等响应头和 Streamlit 仪表盘提供实时遥测。项目 100% 本地运行、无需付费 API key，依赖 nomic-embed-text 嵌入模型，仓库附部署步骤与延迟基准脚本。
推荐理由：给出完整的架构流程、缓存阈值和部署命令，想把本地 LLM 推理换成语义缓存的读者可以直接照着搭建。
GitHub 开源项目 enterprise-llm-gateway-router 是一个与提供商无关的 LLM 网关，核心包括 Pydantic schema 合约校验、独立的 circuit breaker 故障切换和基于 Redis + embedding 余弦相似度的语义缓存。系统通过 confidence 门控的 TypeSafe Jev 评估器加 LLM-jury 兜底做跨提供商一致性检查，并接入 CI 回归门。整套系统可经 MockProvider 完全离线运行、零 API key，内置 OpenAI / GCP Vertex AI / Ollama 适配器，凭据存在时自动激活。
psewar 在 GitHub 开源了 Skirnir，一个自托管的 LLM 路由器和 AI 网关，部署在多台 GPU 机器的 Ollama 之前，对外同时提供 Ollama API、OpenAI 兼容接口和 Anthropic Messages API（可接 Claude Code）。客户端按角色而非模型名请求，路由器根据 VRAM 占用、游戏检测、速度和错误率选择节点与上下文档位，支持 Wake-on-LAN、熔断、云兜底层级和共享 agent 记忆；auto 角色由本地决策链自动选角色，链路路由准确率 0.947。当前版本 router 0.1.6、agent 0.8.4，自 2026 年 9 月起在一个 homelab 持续运行，作者强调无稳定性保证。
GitHub 上的 ai-dockerfile-generator 项目以 MIT 许可证开源，可使用 Ollama 驱动的 LLM 在本地生成面向生产环境的 Dockerfile，并自带自动化校验与 Docker 构建测试。仓库包含 app、templates 等目录及 requirements.txt 等文件。
Astana IT University 团队启动毕业设计项目，用本地部署开源模型从 SRS、用户故事、PRD 等需求文档自动生成可追溯、可评审的测试用例。系统将对比 Qwen3、Gemma、Mistral Small 等模型与提示词策略，支持需求提取、ISO/IEC/IEEE 29148 质量检查、人工评审后导出 CSV/XLSX/Gherkin/JSON。目前完成分析和设计，代码尚未启动，计划使用 Ollama、vLLM、Next.js、FastAPI 等技术栈。
开源项目 Breadwinner 是一款本地优先的 8-Bit 风格求职简历定制工具，核心反幻觉规则要求每条简历要点都必须可追溯到本地 Career Pantry 中的已验证事实，并严格保留如 scaled to 10M events、latency 降低 45% 等真实指标。它完全离线运行，支持 LM Studio、Ollama 本地模型，也可接入 Gemini、DeepSeek、Groq、OpenAI 的 API key，简历与 API 密钥均保存在本地。工具提供双栏要点编辑器、ATS 审计仪表、无头 Chromium 生成符合 Jake's Resume 标准的 A4 PDF，以及自动按指标密度和时效性裁剪内容的 Career Curator。
GitHub 上的 Monitoring_win11 项目提供一个可轻松部署在 Windows 11 上的监控系统，用于观察 LLM 和系统状态，其中 LLM 通过 Ollama 部署。
GitHub 新仓库 pikkusiju/AI-Powered-Chatbot-for-Student-Support 上线，是一个基于 Flask、SQLite 和 Ollama（Llama 3.2）构建的 AI 学生支持系统。项目提供 AI 聊天辅助、测验生成、学习笔记、作业管理、提交与考勤跟踪功能。
GitHub 开源项目 personal-ai 使用 LangGraph 1.2.10 与本地 LLM（Ollama + Qwen2.5-Coder 14B、BGE-M3 嵌入）构建 PM/DB/Backend/Frontend/Review 多智能体流水线，从需求分析生成 Spring Boot 3、React/TypeScript 产物并以 Markdown 保存。系统将 Domain RAG 与 Project Context 分离以复用已有实现，目前为只读代码生成，尚不支持自动应用文件或构建部署。
GitHub 开源项目 cookbook-rag 提供了一套基于本地 LLM 的 RAG 系统，可上传 PDF 食谱并通过自然语言检索，返回 AI 生成的答案。系统默认使用 Ollama 运行 qwen3:4b 模型和 nomic-embed-text 嵌入模型，配合 ChromaDB 向量数据库与 FastAPI 提供 /add-document 和 /search 接口。文本切分采用 LangChain 的 RecursiveCharacterTextSplitter（约 1800 字符、200 重叠），可通过 MODEL_NAME 等环境变量切换模型，应用端口为 8080。
开源 Web 应用 Ollama Model Checker 可检测 GPU VRAM、RAM 和 CPU 状态，输入任意 HuggingFace 模型 ID 即可分析兼容性并推荐合适的量化级别（Q2_K 至 Q8_0），还能计算支持 GQA 的 KV cache 需求、调整上下文长度。仅 GGUF 格式模型可一键部署到 Ollama，safetensors 仓库只显示大小与内存估算。应用支持 Docker 部署，要求 Python 3.8+ 和 Ollama 0.5.5 或更新版本，采用 MIT 许可证。
GitHub 项目 NoID Privacy Workstation 发布，这是一个基于 Fedora 44 / GNOME 50 的隐私加固工作站 ISO，包含 41 个功能模块，覆盖内核、网络、身份、固件、服务和浏览器等加固基线，无项目遥测。系统为 AI 智能体工作流设计：VSCodium 预置隐私默认设置，Claude、Codex CLI 及 Gemini 全局指令路径按用户选择性安装，模型访问为 opt-in，本地推理支持 RamaLama / Ollama / LM Studio。蓝牙、定位、摄像头、麦克风默认关闭，提供 GPG 签名 ISO 供下载验证。
GitHub 新仓库 AmanShankarDev01/college-project 发布了一个离线优先的多模态 RAG 助手，基于 Spring Boot 3（Spring AI）、React 18 和 Qdrant 向量数据库构建。它可用 Ollama 本地运行 phi3、llama3.1 等模型，也可切换 Anthropic Claude、OpenAI GPT-4o、OpenRouter 或 Groq Cloud。助手能从文档提取文本与插图，克隆解析 GitHub、GitLab、Bitbucket 仓库，并以可交互引用标注为 AI 回答提供证据。
GitHub 仓库 thackerhelik/finetuningcourse 提供端到端的三阶段 LLM 后训练流程（Domain Adaptation → SFT → DPO），将 TinyLlama-1.1B 适配到药理学领域，并通过 Ollama 本地部署。仓库包含 data、experiments/metformin、notebooks 目录及 export_to_ollama.py 导出脚本，目前尚无 star 和 fork。
he-yufeng 在 GitHub 发布开源 AI Agent 工具 ContractGuard，上传 PDF/DOCX 合同即可在 30 秒内输出红旗条款、警告、保护项和 A+ 到 F 的公平度评分及逐条修改建议。工具通过 Pydantic 模型保证结构化输出，支持 OpenRouter、OpenAI 及 Ollama 本地模型；在 LLM 之外并行运行辖区感知的确定性法条核对清单，覆盖中国劳动法与民法典及加州住宅租赁规则，无法判定时诚实返回 unknown。支持批量扫描、版本对比、JSON 导出和 Gradio Web UI，最长约 30000 token（约 60 页）。
推荐理由：开源合同审查 Agent 除了 LLM 分析还内置辖区感知的法条核对清单，并对缺失条款诚实返回 unknown，思路可直接借鉴。
GitHub 上开源的 Ollama-UI 是一个本地优先的轻量级 Ollama Web UI，采用 FastAPI 后端加原生 HTML/CSS/JavaScript 前端，无框架、无构建步骤。它支持模型选择、流式响应、对话历史、图片输入（最多 4 张）、消息队列、停止生成和新对话，通过 HTTP/SSE 连接本机 Ollama 实例。项目刻意不做云端部署，提示词和推理全部保留在本地，无需任何外部 LLM API。
MUSE-CODE-SPACE 发布 toolcall-rescue，一个零依赖的纯标准库 Python 包，用于在结构化 tool_calls 字段为空时，从 qwen2.5、Gemma、Kimi、MiniMax 等本地或小型模型以纯文本输出的消息内容中恢复工具调用，支持 Ollama、llama.cpp、vLLM、LM Studio 等 OpenAI 兼容端点。
推荐理由：这是一个可直接落地的本地小模型工具调用抢救库，安全模型讲得清楚，还交代了为何框架核心拒绝收编这一层的取舍。
开发者发布开源免费的 Windows 助手 Cephi，按 Ctrl+Alt+Space 即可语音或文字操控整台电脑，支持播放 Spotify 音乐、打开系统设置、划词翻译、截图提问和笔记管理。可接 Ollama 本地模型让数据不出本机，也可用自己的 Claude、Gemini 或 OpenAI 兼容 API 密钥，支持接入任意 MCP 服务器或用一个 JSON 文件添加自定义工具，MIT 协议开源。
推荐理由：开源 Windows 语音助手 Cephi，仓库把本地 Ollama、MCP 工具扩展和快捷键体系讲得相当完整，适合想自建本地 Agent 的人参考。
exprassist 是一个 GitHub 上的新工具，为合同工作流公式提供静态分析、自动修复（先经数百条样本验证结果一致）、语法树英文解释和本地 LLM 生成功能，生成由 Ollama 本地运行。全部用 TypeScript 实现，含 Pratt 手写解析器、类型检查器和求值器；修好的重复 LOOKUP 规则使 demo 表达式每次求值 lookup 从 0.68 降至 0.59。新改进反馈后，模型一次正确率从 16/20 升至 18/20，10 条新请求为 8/10。
作者发布 WhisprFlow，一个在本地运行的 Windows 和 macOS 语音听写工具，按热键说话后自动清理填充词、加标点并粘贴到光标处。默认用 Phonon-2 在设备上转写、Ollama qwen3:4b-instruct 本地润色，无需账号和订阅；11 秒听写端到端约 1.7 秒（i5-13500HX + RTX 4050 实测），支持 Qwen3-ASR 处理多语言，词典从用户听写中学习术语拼写，代码 MIT 许可，macOS 代码路径保留但未测试。
推荐理由：原文给出实测延迟、模型选型对比和架构细节，读者可以据此评估这套本地语音听写方案是否适合自己复现。
SharpAI 2.0 发布，这是一个 .NET 本地 AI 推理库，支持嵌入、文本补全和聊天补全，仅使用 GGUF 模型，基于 LlamaSharp 构建，可提供 Ollama 兼容和 OpenAI 兼容的 REST API。新版本默认按各模型 GGUF 内置聊天模板渲染请求，重建了 React 19 仪表盘，新增多租户认证与 RBAC（默认关闭）、四种数据库支持、Prometheus/OTLP 可观测性，以及 C#、JavaScript/TypeScript、Python SDK。所有推理均在本地完成，无需云端依赖。
Ollama 是可在本地或云端以完全隐私方式运行开源模型的工具，支持 macOS、Windows 和 Linux 安装，并提供官方 Docker 镜像。用户可通过 ollama launch 连接 Claude Code、Codex、Copilot CLI、DeepSeek Harness、Droid、OpenCode 等集成，也可运行 Gemma 4 等模型，用 REST API 或 Python、JavaScript SDK 进行调用，后端基于 llama.cpp。