新闻、仓库与研究，按时间排列。
作者发布了 local-llm-gateway 仓库，用 Docker 把本机已下载的 qwen2.5:7b-instruct-q4_K_M 和 qwen2.5-coder:14b 两个 Ollama 模型暴露为 OpenAI 兼容 API（http://localhost:11434/v1）和聊天 UI，聊天历史存于 Postgres。两个模型合计约需 21GB VRAM，16GB 显卡只能一次加载一个，切换需约 60-90 秒；默认开启 OLLAMA_FLASH_ATTENTION=1 和 OLLAMA_KEEP_ALIVE=-1 以避免停顿 5 分钟后的重复加载。
推荐理由：作者把本机已有的 Ollama 模型封装成 Docker 化本地 API 和聊天界面，并写清了模型切换和慢响应的真实原因。
instructor-php 是一个框架无关的 PHP Monorepo，包含四大组件：Instructor 结构化数据提取、Polyglot 统一推理与嵌入向量 API（支持 OpenAI、Anthropic、Gemini、Ollama 等提供商）、Retrieval 向量存储与 RAG 检索，以及支持自定义工具、子智能体和会话管理的 Agent SDK。项目还提供 Codex、Claude Code、OpenCode 等代码智能体桥接，以及 Laravel 与 Symfony 官方集成包，可通过 Composer 安装。
adghrera 在 GitHub 发布 llmctl，一个用纯 Go 标准库编写的单二进制管理器，可把 llama.cpp、vLLM、Ollama、LM Studio 等多个推理后端统一挂在同一个 OpenAI 兼容 API 端点之后，面向高并发流量设计。单静态二进制约 10 MB，采用 goroutine-per-connection 和零缓冲 SSE 流式转发，内置认证、令牌桶限流与全局并发上限；go test 含 100 并发流式客户端压测及对真实 1.5B 模型的 8 路同时推理检查，README 提供安装与快速上手命令。
推荐理由：原文给出了架构选择理由、压测数据和完整命令清单，想自建多后端本地 LLM 网关的读者可直接照着部署。
datamatic 是一款 Windows 平台的 AI 工作流工具，可无代码地串联多步任务，让上一步输出自动成为下一步输入。它支持 Ollama、LMStudio、OpenAI、OpenRouter 和 Gemini 五种后端，本地与云模型均可切换，本地运行时数据留在硬盘。运行需 Windows 10/11、至少 8 GB 内存，本地跑模型建议配独立 GPU。
josephniel 在 GitHub 开源了 majordomo，一个运行在 Telegram 的自托管 AI 助手框架，可接 Gemini、Claude、GPT、Groq、DeepSeek 或经 Ollama 的本地模型。框架不信任模型声称的动作，会检测未兑现的工具调用并给出纠正提示；所有写入操作需人工 Approve/Deny 确认，默认拒绝无人值守自动批准。检索采用全文加 pgvector 混合方案，附带评测工具，当前成绩为 recall@4 100%、MRR 0.975、false-injection 0%。项目以 MIT 许可发布，文档提示 prompt injection 是核心威胁模型，不提供可执行技能和市场。
推荐理由：作者围绕模型不可信这一前提设计了验证与审批机制，并给出可复现的召回评测数字，适合关注 Agent 可靠性工程的读者参考。
开源工具 OpenClip 为 macOS 提供划词操作弹窗：在任意应用选中文字即可进行大小写转换、数学求值、运行 shell 脚本、触发快捷指令或调用 AI 模型。它由 Swift 6 编写，支持 JavaScript、Shell、AppleScript 和 URL scheme 扩展，可选接入本地 Ollama、Apple Intelligence 或 OpenAI/Anthropic API。工具零遥测、100% 本地执行，采用 AGPL-3.0 协议，可通过 brew install --cask openclip 安装。
Granted 是一个开源工具，可把企业或研究描述转化为真实的政府资助机会清单，涵盖联邦拨款、SBIR/STTR 研发、采购、贷款和奖学金，以及加州、伊利诺伊和北卡罗来纳州的州级资助项目。每个匹配结果按项目官员标准评分并筛查资格。用户可使用自己的 API key 或完全本地模型运行（本地实测 qwen2.5:3b + nomic-embed-text 完成 34 个候选评分耗时 7m33s），提供 Windows GUI 安装器和 macOS 菜单栏启动方式。
minnocent12 的 week-5-challenge-1-streambridge 仓库实现了 Week 5 Video-LLM 挑战的快速可行性原型 streambridge_proxy.mjs。该脚本将五帧时序画面拼成 contact sheet，发送给本地运行的 Ollama 视觉模型（默认 moondream），让模型返回 ACTION: ANSWER_NOW 或 ACTION: WAIT 并记录为 JSON。它只验证激活调用路径，不包含训练版 StreamBridge 的 LLaVA-OneVision 激活头、round-decay 记忆压缩或实时视频流，且触发准确率未经实验验证。
GitHub 用户 Im-Ritiksoni 开源了 JavaQuiz AI，一个基于 Java 和 Spring MVC 的网页测验应用，通过 Spring AI ChatClient 调用本地 Ollama 运行的 llama3.2 模型生成 5 道 Java 判断题，无需 API key。应用使用 Jackson 解析 LLM 返回的 JSON 题目，逐题作答并自动判分，最后在结果页展示每题的正确答案、用户答案和得分，界面由 Thymeleaf 构建。
GitHub 项目 AtelierWikiGT 把西语维基百科全文存为本地 SQLite + FTS5 库，用 Ollama 本地模型（如 qwen2.5:7b）在离线状态下基于本地副本回答问题并附来源。.zim 仅作初始导入（约 11 GB），之后通过 Wikipedia API 增量同步近期编辑，每 6 小时后台自动更新，支持断点续传和 100% 离线模式，导入后数据库估计占 12–18 GB。
GitHub 仓库 apis-gratis-es 发布面向西语社区的免费 API 目录，覆盖免密钥 API、LLM 免费额度与本地模型，最近一次核查为 2026-09-19。23 个免密钥 API 均经真实调用验证并测量 CORS，CI 每周复验；LLM 部分记录 OpenRouter 22 个 :free 模型、Groq 免费档 30 RPM 等额度，并列出 Groq、OpenRouter、SambaNova 等已取消免费额度的变化，另收录 self-host 聚合器 FreeLLMAPI 与 Ollama 本地模型方案。
推荐理由：这份西班牙语免费 API 目录给出了逐项核查标记、验证方法和LLM免费额度现状，读者可以直接复用其核对思路来筛掉已失效的额度信息。
灵魂体仓库 ergon-llm 是 Bot Army 生态的 LLM 操作机器人实现，基于 Elixir 构建，支持单次提示词补全、多步链式推理管线、带会话跟踪的多轮对话、JSON 提取与重试，以及视觉模型图像分析。架构通过 NATS 订阅 5 种消息类型，包含 LlmClient 多供应商路由、会话存储等模块，使用 PostgreSQL 存储提示词与对话历史，附带 56 个测试。
USF 软件工程专业学术项目 crud-ai-churn 用 Repository 模式实现客户 CRUD，并通过 Ollama 在本地运行 mistral 模型估算客户流失风险。客户活动 score 为 0 到 100，模型以 JSON 返回流失概率和 ALTO、MÉDIO 或 BAIXO 风险等级，全程无需 API key、零成本。项目用 Python 和 Requests 构建，采用 MIT 许可开源，下一步计划改用 SQLite 和 pytest。
开发者 e2sy 在 GitHub 发布开源语音助手 NOVA，支持唤醒词、离线 Whisper 语音识别与 TTS，可通过 Ollama + Qwen 2.5 本地 LLM 对话并执行打开应用、截图、音量、文件等 70 多种内置技能。日常命令走正则快路径零 LLM 延迟，破坏性操作需确认并有硬性黑名单，提供 Windows、macOS、Linux 二进制与 5 行代码扩展技能的教程。
开源项目 Pocket-Assistant 将截图、照片、PDF 和分享文本转为摘要、任务和提醒，OCR 与 LLM 推理默认全部在手机端完成，核心功能无厂商托管后端。应用支持 ML Kit OCR、最多 5 页 PDF 提取、本地运行 Qwen3 0.6B、Qwen2.5 1.5B、Gemma 4 E2B/E4B 等模型，并提供 RAG 问答、语义搜索和可选的自托管 Ollama 连接（AUTO 模式先远程后回退本地）。项目采用 MIT License 开源，可从 Google Play 下载或从源码构建。
GitHub 仓库 nyar5052/90-local-llm-projects 收录了 90 个本地 LLM 项目，用于构建私密、可投入生产的 AI 应用。这些项目基于 Gemma 4 与 Ollama，全部可在本地机器上运行。
ikigai-rs 的 ikigai-llm 通过统一门面 urn:llm:ask 将请求分派到可插拔后端，每个后端也可经 urn:llm:::ask 直接寻址。其 OpenAI 兼容 REST 后端可覆盖 Ollama、vLLM、llama.cpp 服务器、mlx_lm.server 和 LM Studio，仅 base_url、默认模型与是否需要密钥不同。目前仅支持缓冲、单轮生成（尚无 streaming），结果默认不可缓存；所有网络访问经 urn:cap:net 门控，未授权时在打开 socket 前即拒绝，并通过 ikigai-conformance 测试验证。
NOST-IA（Nodo Operativo Soberano Territorial）是一个 GPLv3 开源、100% 离线的库存与成本管理系统，面向社区商店、合作社等小型组织，数据经 Dexie/IndexedDB 本地持久化，不上传外部服务器。它集成通过本地 Ollama 运行的 Qwen 2.5 Coder 1.5B 作为柜台 AI 助手，支持发票智能加载、SHA-256 签名的一键备份，最低要求 4 GB RAM，需 Node.js v18+。
Het-Joshi 在 GitHub 发布开源终端 Agent lotus，可在本地通过 Ollama 驱动 4–8B 小模型操作文件、shell、网页和真实浏览器，纯 Python 无依赖，数据不出本机。它用约 250-token 系统提示词和按需加载工具适配小模型，能容错小模型写坏的 JSON 工具调用、检测并切断推理循环，支持子 Agent 并行、Tor 浏览、钓鱼检测、截图视觉模型切换、定时 recipe 和 MCP 扩展，MIT 协议开源。
推荐理由：这是一个面向 4 到 8B 本地小模型的终端智能体工具，为小模型调整了提示词、工具调用容错和循环检测，可迁移到本地 Agent 部署。
zenithfoundry 发布开源工具 slm-gate， 在本地通过 Ollama 运行小模型， 作为编码助手与云 AI 之间的预处理和路由层：压缩发给付费云端的大文件、日志等冗余内容， 并让本地模型尝试回答对话首条简单消息以避免消耗付费配额。工具兼容 Claude Code、Codex、Cursor、Gemini CLI、Cline 及任何 MCP 客户端， 依赖 Node.js 22+、16 GB 以上内存， 用 SQLite 账本记录 token 节省量并提供本地 metrics 命令与可发布到 GitHub Pages 的仪表盘， 可选接入 Langfuse。MIT 许可。
推荐理由：开源工具在本地用小模型压缩上下文并拦截简单请求， README 给出完整架构、配置与度量方法， 思路可迁移到自己的编码工作流。
开源项目 Opti-Oignon 提供本地优先的 AI 推理平台，支持通过 WebSocket 与本地 Ollama 模型流式聊天、带 RAG 上下文的项目功能，全部运行在用户自有硬件上，数据不离开机器。安全上采用 Daily/Bulbe 双模式（Bulbe 在 socket 层仅绑定 127.0.0.1 且只接受 cookie 认证）、SQLCipher 静态加密、可选 TOTP/WebAuthn 2FA，并遵循 Kerckhoffs 原则。项目基于 SvelteKit 和 FastAPI，目前处于活跃开发中，Veilid 设备间同步等部分尚未端到端完成。
GitHub 开源项目 rag-forge 提供完整的 RAG 文档问答流水线，支持固定/句子/段落/语义多种分块、BM25、dense（FAISS）及 RRF 融合的混合检索，可选 cross-encoder 重排序，LLM 与嵌入 Provider 可插拔（OpenAI、Anthropic、Ollama、离线）。内置评测框架，在 5 部经典小说、1,603 个 chunk 和 76 个 QA 对上度量 Recall@k、MRR、faithfulness 与 abstention，检索-only 基线可在 4 核 Intel Xeon 无 GPU 环境离线运行。
作者开源了 DocRag，一个基于 LangChain、LangGraph、FAISS、BM25 和 Ollama 的本地优先 Agentic RAG 系统，集成混合检索、查询改写、父子分块、纠正式检索、自适应路由与 LangSmith 观测。在固定 10 题评测集上，Hit Rate@5 从 30% 提升到 80%，MRR 从 0.300 提升到 0.540；宽松的查询改写曾使 MRR 从 0.353 降到 0.303，收紧约束后恢复到约 0.350。作者强调每个检索改动都需实测，评测器本身也要被评测。
推荐理由：项目用固定基准逐版对比检索改动，还记录了查询改写引发检索漂移、评测器自身出错的教训，方法可迁移。
NusaByte 在 GitHub 发布 JEBAT v8.3.0，一个可完全离线自托管的企业级 AI 平台与 Agent 工作站，提供本地 LLM 推理、多 Agent 编排、持久记忆、MCP 服务器和 WebUI。支持通过 npx 零安装启动，可路由 17 家 provider，包括 OpenAI、Anthropic、Gemini、本地 Ollama 等；默认推理端点为 https://jebat.online/v1，远程 Ollama 提供 qwen2.5-coder:7b 和 qwen2.5:14b 模型。
ChiefGyk3D 在 GitHub 开源 FrankenLLM 工具集，让每块 NVIDIA GPU 各运行独立 Ollama 实例（如端口 11434、11435），互不干扰地服务不同模型。提供交互式安装向导、systemd 服务、开机自动预热、GPU 健康监测自修复、Open WebUI 集成与 RAG 数据集抓取脚本，面向 Ubuntu Server 24.04，支持本地或 SSH 远程部署，并按 8GB 到 32GB+ 显存给出推荐模型组合。
推荐理由：作者开源了一套多 GPU 部署脚本，按显存大小给出具体模型搭配和常见故障的排查方法，可迁移到自建机器。
LedgerQL 是一个 text-to-SQL 管线，用本地开源权重模型（如 7B 经 Ollama、30B 级经 vLLM）对 SEC 财报写 SQL 回答自然语言财务问题，不调用任何托管 LLM API。每个问题只以三种状态结束：给出数据中的答案、说明假设的答案，或说明原因的拒答；答案中的每个数字、年份和财报标识都必须能在查询结果中找到，否则被扣留。开发集含 103 个案例，最终指标来自预注册的 80 题冻结 held-out 集，目前尚未运行，所有头条数字标记为 pending。
GitHub 开源项目 NHL-Predictor 用 xG、Corsi 等赛前变量加上大语言模型提取的赛前新闻预测 NHL 比赛，并以固定 10 € 模拟投注验证，不涉及真实下注。walk-forward 回测覆盖 2018-19 至 2026-27 的 9,830 场样本，log loss 为 0.6647，模型预测主队获胜准确率 59.2%，2025-26 赛季对 Pinnacle 收盘 0.6726 对 0.6719，表现与市场相当但未能明确胜过。新闻抽取默认用 OpenRouter 免费的 Nemotron 3 Super 120B（每场 6.7 秒，门将识别率 91%），本地默认走 Ollama 的 qwen3:8b。
rikeabade 在 GitHub 开源了 Intreview，一个 100% 本地运行的技术面试模拟器：用户输入公司、Job Description 和 CV，应用先用 Tavily 搜索该公司面试风格生成 Research Dossier，再由本地 LLM 进行自适应提问、逐题反馈并输出最终报告。默认模型为 gemma4:12b，作者在 12 GB Radeon RX 7700 XT 上实测约 56–60 tokens/s，并给出 qwen2.5:14b-instruct、qwen3.5:9b、gemma4:26b 等对比结果；上下文默认 8192，单次调用最长等待 15 分钟。
I3K Technologies 发布 I3K RAG Engine 0.1.x，将原 Python 多容器方案用 Rust 重写为单个二进制，首次运行下载并按 sha256 校验约 12 GB 组件，之后完全离线运行，数据不出本地服务器。系统支持 PDF、Office、邮件、图片（OCR）等多格式文档，用 BAAI/bge-m3 嵌入加 Qdrant 检索，内置 JWT 认证、每日备份和性能基准工具；1.x Python 版保留在 python-legacy 分支，无自动迁移路径，项目以 AGPL-3.0 授权并提供商业许可。
推荐理由：原文完整给出了自托管 RAG 引擎的部署方式、组件架构和安全设计，读者可以据此评估它是否适合本地私有文档场景。
作者开源了 local-ai-platform 仓库（MIT 协议），在 Windows 11 笔记本的 WSL2 里用 k3s 运行一套自托管 MCP Agent 平台，使用 Ollama 跑 3B 模型，全程无 GPU、零云支出。技术栈含 LiteLLM、LangGraph、Qdrant、MLflow、Dagster、BentoML、n8n、ArgoCD 等，提供 10 个端到端工作流、Authelia 单点登录、热管理与 8 周构建计划；实测核心态占用约 3.4 GB 内存，RAG 问答 3–11 秒，垃圾短信分类模型测试 F1 0.976，并记录了 RAG 先检索后回答等关键决策与遗留风险。
推荐理由：作者完整公开了在无 GPU 笔记本上跑通含 RAG、MLOps 和 GitOps 的本地 Agent 平台的配置与实测数据，方法可直接迁移。
Ollama-Windows 是一个面向 Windows 10/11 的本地 AI 运行工具，宣称提供免费官方下载，支持 Qwen、DeepSeek、CodeGemma 等模型，无需编程即可点按安装使用。它强调数据全部在本地处理、可离线运行，内置 API 服务器、RAG 文档检索、Web UI 和远程/云端代理配置等进阶功能。文中还称 8GB 内存的普通机器即可运行较小的模型，且软件可免费用于商业用途。
开发者在 GitHub 开源了基于 Node.js 的自托管 AI 工作区 marnie，名字取自动画《回忆中的玛妮》。项目提供网页搜索、终端访问、文件系统搜索、代码运行（Python/JavaScript）、定时任务等工具，支持 Discord Webhook 集成，可通过 Ollama、Gemini、Anthropic、OpenAI、Deepseek、Openrouter 等多种 LLM 接入，具备聊天、Agent Mode 和 Deep Research 模式，默认模型为 qwen3.5:9B，数据存储于 SQLite。
开发者 /u/TGoddessana 发布 MIT 许可的开源桌面 coding agent Alpine Code，可连接本地模型处理项目代码，仓库见 https://github.com/TGoddessana/alpine-code。工具用 Python 函数编写，函数名、类型提示和 docstring 定义模型可见的接口，依赖经 PEP 723 内联元数据声明；agent 循环基于 alpineagents 库构建，上限 200 轮。支持 Ollama、LM Studio、vLLM 等 OpenAI 兼容端点，可在会话中切换模型并通过 tool profiles 为不同模型和项目配置工具。
同一新闻，精选展示《Alpine Code 开源桌面与终端 AI 编码 Agent 发布》
AriT93 在 GitHub 发布 agent-lab，一个用于学习 LLM 应用与 Agent 原理的 Go 教学项目，以调用 JokeAPI 获取笑话为极小领域，按结构化输出、工具调用、多工具与对话记忆、MCP、评测、多 provider、Web UI、LangGraph 等概念分成 9 个阶段，可对比同一 agent 在手写循环与 langchaingo、LangGraph 等框架下的差异。项目默认通过 Ollama 本地运行 qwen3.5:9b-mlx（约占 9 GB 内存），无需 API key，也可切换 Claude 或 OpenAI；提供 -trace 逐步输出提示词、schema、模型输出与 token 用量，并内置 Ollama 上下文窗口、keep-alive 等内存限制参数。
推荐理由：同一玩笑 agent 从关键词到 MCP 分八个阶段可逐级对比，适合想看清 LLM 应用各层机制的学习者动手照跑。
GitHub 上的 docker-ollama 项目提供在 Windows 本地通过 Docker 运行 Ollama 的隔离环境，数据不出本机。它模拟 OpenAI 兼容接口，可接入 LangChain 等常见 AI 工具，要求 Windows 10/11、Docker Desktop、至少 16GB 内存和 20GB 硬盘空间，NVIDIA 8GB 显卡可加速；首次启动生成 Bearer token 保护服务，支持 Llama3、Mistral 等模型的自动下载与持久存储。
Marwan Mohamed Saeed 在 GitHub 开源 StudyRAG，一个完全本地运行的学习工具，可对讲义 PDF 做带页码引用的问答，并生成经 Pydantic 校验和盲解复核的练习题。项目用 PyMuPDF、multilingual-e5-small、ChromaDB、BM25 加交叉编码器重排实现混合检索，hybrid+rerank 模式在 50 题基准上 hit@1 达 90%、阿拉伯语问题准确率 90%；默认通过 Ollama 运行 qwen3:4b-instruct，4 GB GPU 即可离线使用，也可切换 Groq、Claude 等 API，支持闪卡、考试模拟、进度跟踪与 Anki/Markdown/PDF 导出。
推荐理由：作者给出了完整架构和检索评测数据，hybrid+rerank 把 hit@1 从 82% 提到 90%，方法可迁移到类似本地 RAG 项目。
AnoopIbrampur 在 GitHub 开源了 Trend Catcher，每小时抓取 TikTok Creative Center、Google Trends RSS、Wikipedia pageviews 和 YouTube 趋势，给早期热点打分并生成含品牌安全判断和三个视频角度的简报。作者用 59 天 Wikipedia 数据做 walk-forward 回测，发现"热度是否还会继续涨"是错误的提问方式，改为"明天发帖是否仍有观众"（未来 3 天均值≥2 倍 7 天基线）后，logistic 模型在 41 天里 40 天优于"最多浏览"榜单（75.6% vs 54.4%）。
HOLO-Invariant 是一个 Python 框架（当前版本 0.4.9），用于跨会话、模型、工具和执行环境保留、重建和校验状态，把修正变成可验证的关系而非覆盖历史。它通过 CLI 提供含 holo benchmark continuity 的 18 个命令、3 个公开 schema 和 1 个 MCP 工具，参考结果由 CI 基于固定 fixture 重新生成：latest justified recall 1.0、superseded resurrection count 0、stale continuation blocked true。框架不授予任何隐式权限，EnvPath 聊天界面支持已安装的 Ollama 模型。
AbdullahKaif 发布开源工具 CodeAtlas，粘贴 GitHub 仓库 URL 即可本地完成克隆、解析、嵌入检索、安全扫描和 RAG 问答，源码全程不离开本机。流水线使用 Tree-sitter 解析、BGE 嵌入加 FAISS 检索、Ollama 运行 Qwen3-Coder（约 19 GB，需约 24 GB 内存），安全引擎为 Semgrep 加 Gitleaks；架构图与影响分析只基于解析器证明的静态边，AI 引用会逐条验证，无效引用直接移除。目前仅支持公开 GitHub 仓库，Python 优先解析，其他语言只做盘点。
推荐理由：README 详细列出了全本地化流水线、各阶段完成状态和引用校验机制，适合想自托管代码理解工具的开发者参考。
应用数学家 parawanderer 在 GitHub 开源 window-ml 仓库，实验 LLM 推理问题：服务器能否从实际使用记录中学习模型加载位置与时长、预测解码速度并自我纠正。核心机制是让上下文的每一帧拥有地址，工具输出以短指针引用而不复制回上下文，智能体可据此用选定帧重建窗口并评判结论。代码由智能体编写维护，仓库定位为假设检验装置而非代码库，多数想法尚未实测。