新闻、仓库与研究，按时间排列。
rskulles 发布 ButterKnife，一个本地网络聊天客户端，可连接 Ollama、LM Studio 及任何 OpenAI API 兼容服务器（vLLM、llama.cpp），也可接入 Anthropic key 使用 Claude。每平台单文件、无需 Docker 或数据库，聊天数据留在本机；Code 标签页为自有模型提供类似 Claude Code 的编码智能体，模型读项目、改文件、跑测试，每步需用户批准，兼容 .claude/ 目录的 commands 和 skills。支持手机扫码多设备同步、双模型对比、/image 生图、Whisper 语音输入、上下文接近上限时自动摘要旧对话。
推荐理由：原文详细列出了连接 Ollama、LM Studio 等本地模型服务器的配置步骤和 Code 编码智能体的权限机制，便于判断是否适合自托管。
Jeonghyeock 发布 engine-room-assistant 仓库，一个船舶机舱报警应对助手：报警触发后通过 MCP 从虚拟船舶自动化系统读取传感器值，用 RAG 在手册与 46 CFR Part 62 规则中检索程序并附依据给出建议，不执行操作。模型、检索、索引全部在本机运行（Ollama、LanceDB），船舶、机器与设定值均为教学用虚拟数据，仅规则为真实原文。检索评测用 15 个问题按 recall@5 评估，条款改为段落切分后 recall@5 从 0.87 升至 0.93、首位命中从 0.73 升至 0.80、每问题约 69 ms；针对 qwen3:8b 调整了系统参数与检索说明，并留下韩英跨语言查询未解决的问题待第三阶段用系统提示词或服务端英文查询对比解决。
LocalPilot 是一款硬件感知的 Python 应用，可检测本机 CPU、RAM、VRAM 与 Metal/CUDA 加速能力，按兼容性筛选模型并自动配置 llama.cpp、vLLM、Ollama、LM Studio、Docker Model Runner 等推理后端与执行服务。它提供 6 步引导式安装向导、终端内流式聊天（ChatScreen）、25 类结构化错误码的错误恢复系统，支持 TUI 与 CLI 双界面，可通过 pipx、pip 或 uv 安装。
GitHub 仓库 LangChain-LLM-Applications 收录了使用 Python、LangChain 和 Streamlit 构建的生成式 AI 应用，包含 Ollama Chatbot、OpenAI Chatbot 和 RAG Document Q&A Chatbot 三个项目。其中 RAG 应用支持上传多个 PDF，用 Hugging Face 生成嵌入向量、FAISS 存储检索，并由 Groq 托管的语言模型生成答案。项目未来计划加入对话记忆、FastAPI REST API 及 Docker 部署。
Fox 是一个面向并发负载的本地 LLM 服务器，可作为 Ollama 的直接替代，MIT OR Apache-2.0 双许可，改端口即可兼容现有 Ollama 与 OpenAI 客户端。它包装 llama.cpp，核心优化是并发请求间的共享前缀 KV cache 复用：新请求匹配最长共享前缀跳过 prefill，还能从正在解码的序列复制共享前缀，这是其他 llama.cpp 服务器做不到的。在 Radeon 890M Vulkan 测试中，16 客户端共享系统提示词时 TTFT p50 为 1402 ms 对 llama-server 的 8064 ms，但短独立提示词的单轮请求吞吐约为基线的 96%，反而慢约 4%。
推荐理由：README给出了共享前缀并发场景下与llama-server的对比数据和复现脚本，也坦承短独立请求反而慢约4%，可自行判断适用场景。
GitHub 开源项目 ResumeRadar 上线，面向学生的求职准备工具：上传 PDF 简历后基于 PyMuPDF 和 185 项技能分类本地解析，按 18 个职业给出确定性加权准备的百分比与技能差距，并匹配 55 家印度公司（298 个职位）。AI 层通过 Ollama 本地运行 qwen2.5:3b 或 llama3.2 生成路线图、项目推荐与模拟面试准备，可完全离线工作；CPU 笔记本上 qwen2.5:1.5b 约 30 tok/s。
GitHub 用户 Mubarak Sayyad 开源了 Weather-AI-Agent，一个基于 Python 的 AI 天气助手。项目用 Ollama 的 tool-calling 让 LLM 自行决定调用 OpenWeatherMap API 获取实时温度、湿度、风速等数据，并以自然语言回答天气问题，同时支持通过 google-genai 调用 Google Gemini 云端模型。前端由 Flask 提供，API 密钥通过 .env 环境变量管理。
GitHub 新仓库 AK1817/uni-it-model 上线，是一个本地检索增强生成（RAG）文档问答系统，基于 Ollama 完全在本机运行，数据不出本机。
kimmingul 发布 NanumPlayer，一款基于 mpv 的 Windows 视频播放器，用 whisper.cpp 做语音识别、接 Ollama 本地或云端模型翻译，实时生成字幕轨道。支持本地文件、Blu-ray/DVD、YouTube 和网页视频，目标语言默认跟随 Windows 显示语言、可选 33 种语言；还提供字幕搜索导入、无播放生成 SRT、可编辑的逐作品术语表、GPU 画质预设与 RTX Video Super Resolution 放大，默认不保留播放记录和翻译缓存，采用 GPL-2.0-or-later 许可。
GitHub 仓库 MobitSolidity/marfin-llm 提供面向 CPU 本地运行、波斯语–英语双语金融 LLM 的主系统提示词（SYSTEM_PROMPT.md v2.0）及配套治理文档，涵盖 RAG、MCP/tool calling、TradingView 集成、券商连接与模拟/实盘交易门控。仓库按阶段推进，当前处于 Phase 8，包含决策日志 D-0001–D-0123、Phase 4 失败归因脚本、Phase 6 红队评测（51/51 mutants killed）以及选定 Q4_K_M 量化的 Ollama Modelfile 等部署与安全组件。
The-Pack-Man 在 GitHub 发布 DuckDB_Dbt，用自然语言提问即可在本地 DuckDB + Ollama（qwen2.5-coder:7b）上生成 SQL、执行并解释，dbt 建模并通过手写 semantic_manifest.yaml 注入业务规则，SQL 走只读连接，失败自动重试（默认2次）。作者用32题golden集做消融评测：qwen2.5-coder 7B 在 temperature 0 下，仅schema 时总体执行准确率 56.2%（business_rule 类仅 15.4%），加语义 manifest 后总体 90.6%（business_rule 92.3%），manifest 提升 +34.4 个百分点，修复12题、破坏1题。
推荐理由：作者用32题golden集做了加与不加semantic manifest的消融，还列出了残余失败案例和自述局限，结论可复核。
GitHub 新仓库 laurentvv/haproxy-dataset-generator 发布了一个 100% 本地运行的 HAProxy 3.2 文档 RAG Agentic 问答助手，基于 LangGraph 多智能体架构和 Ollama，使用 qwen3-embedding:8b 与 qwen3.5:9b 模型。系统抓取 168 个文档章节，采用 Parent/Child 分块（101 parents → 915 children）并结合 ChromaDB 向量检索与 BM25 混合检索（RRF 融合提升 14% 质量）。在 92 题基准测试中，其质量得分为 0.914/1.0、成功率 92.4%，较标准 RAG（0.868/1.0、88%）分别提升 5.3% 和 4.4%，首次构建约需 1h10。
GitHub 上发布了一个基于 Streamlit、由 Ollama 驱动的 SEO 内容生成工具，支持波斯语 RTL 排版、批量处理，并可导出 Excel/JSON 格式。仓库当前处于早期阶段，暂无 star、watch 或 fork 数据。
Rainbow Technology 开源了 ollama-run，一个 Ollama 高级编排器，支持实时思考显示（ON/FORCE/OFF 模式）、内置 Web 搜索与 shell 执行等工具、可激活的 AI 技能（code review、翻译、SQL、安全等）、持久历史记录及 matrix、dracula 等视觉主题。支持 Linux、macOS、Windows、WSL 安装，也可通过 npm 全局安装，仅限个人非商业使用。
viva-cli 克隆指定 GitHub 仓库后，用 tree-sitter AST 切块、Ollama 本地 embedding 与 Chroma 向量库构建 RAG，运行可配置时长的限时问答，每题引用真实文件或函数作答依据，并输出逐题结构化反馈。支持语音模式（faster-whisper 与 Piper）、会话中断恢复与 Docker 部署，默认模型为 gemma4:e4b，默认时长 30 分钟，每仓库最多分析 500 个文件。当前版本 v0.5.1，作者标注尚处于早期构建阶段，未达到可日常使用的状态。
GitHub 仓库 Ramakm/RAG 推出本地优先的开源 RAG 项目合集，覆盖摄入、清洗、分块、嵌入向量、向量检索到有据生成的完整链路，基于 Ollama 无需 API key。首个项目 BrowseAI 将任意网站 URL 变成可对话知识库，用 FastAPI、sentence-transformers、FAISS 实现带可点击引用的流式回答；OmniRAG 结合 PyMuPDF、Whisper、CLIP、Tesseract 支持文档、图片、音视频的多模态 RAG，答案可引用页码、图片与时间戳。需 Python 3.10+，MIT 协议开源。
本地笔记应用 Tessellate（前身为 MemoryMap AI）目前处于 beta 阶段，可下载使用。它通过本地 AI 自动归档、打标签并链接笔记，回答时每句话附笔记引用，数据保存在本机单个 SQLite 文件中，无需账号、云或遥测，支持 Ollama、LM Studio 或 llama.cpp 的 llama-server 作为本地模型。Agent 模式内置 72 个工具和 21 个技能，小模型模式下 4B 模型也可逐步完成任务；改名后旧版需手动迁移 %APPDATA% 数据文件夹。
Krosalita 是一个开源全栈填字游戏工作室，可从 62k 词库自动生成谜题、手工编辑网格、导入 crosswithfriends 真实谜题，并支持实时多人协作或积分对战。求解器基于 bitset CSP，在 Web Worker 中 p50 6ms、p95 15ms 完成填字，远快于旧版 16.8s 的波函数坍缩方案。技术栈为 React 19 + Vite 7 + Supabase + Vercel serverless，支持 PWA 离线使用和可选的本地 Ollama 线索生成。
RockIn Local AI Cockpit 是一个独立的开源社区项目，为 Ollama 提供本地 3D 驾驶舱界面，集模型发现、聊天、CPU/RAM/GPU/VRAM 遥测和 Three.js 拓扑于一体。它基于 Node.js 22.12+，经 127.0.0.1:43123 本地 API 连接 Ollama，无需遥测、云账号或 API key，并提供无需下载模型的 Demo Mode，采用 MIT 许可证。
Reflection 发布首个开源权重模型 Beam，Ollama 作为 day-zero 合作方在 Ollama Cloud 上限时免费提供，且服务全程零数据保留（ZDR）。
Reflection 首个开放权重模型 Beam 于10月16日发布，Ollama 作为 day-zero 合作伙伴限时免费提供，Beam 端点全程零数据保留（ZDR）。Beam 是 MoE 模型，总参数约501B、每 token 激活23B，上下文窗口100万 token，采用 Apache 2.0 许可，面向软件工程、推理和长程 Agent 任务，可通过 ollama run beam:cloud 或 Claude Code、Codex、OpenCode 调用。
推荐理由：官方公告同时给出与 Kimi K3、GLM 5.3 等模型的 Agent Coding 跑分对照表，读者可直接比较 Beam 在各编码基准上的位置。
nevermore 是一个纯 C 实现的终端交互式编码 Agent，支持 Charm Hyper、Ollama（本地与云端）、OpenAI、OpenRouter、OpenCode Go 与 Zen 等模型服务，具备读写与搜索文件、运行命令及通过本地 SearXNG 联网搜索的 agent 循环。项目为 portty 终端的一等公民，支持 kitty 键盘协议与 sixel 图片，目前处于 Pre-alpha 阶段，提供 macOS（Apple Silicon）和 Windows（x86_64）便携 ZIP，Linux 需从源码构建。
ogpt.nvim 是一个 Neovim 插件，支持 Ollama、OpenAI、textgenui、Gemini、Anthropic 等多个 Provider，未指定时默认使用 Ollama（默认模型 mistral:7b）。它提供交互式问答、基于 Persona 的对话和可自定义的代码动作（语法修正、翻译、docstring 生成、测试补充、代码优化、bug 修复等），可通过 JSON 或插件配置定义自定义动作，并支持搭配 edgy.nvim 使用侧边窗口布局。
开源项目 telegram-llm-bot 是一个本地优先的 Telegram AI 机器人，默认通过 Ollama 运行 qwen3.5:0.8b，支持文本、语音、工具调用（时间、计算器）及可选 SearchApi 网络搜索。语音经 faster-whisper 本地转写、音频归档到 MinIO，聊天历史存于 SQLite，也可切换 MongoDB，支持 Python 3.10+ 或 Docker Compose 部署，并提供 /health、smoke、doctor 等诊断命令。
ContextSentry 是一个本地 PreToolUse hook 和上下文优化 CLI，用于阻止 LLM 编码智能体因读取大文件而撑爆上下文窗口。其 350 行断路器拦截超长文件读取，将解析任务交给本地 llama3.2（经 Ollama）生成带行号摘要，并支持代码直接写盘；遥测引擎用 SQLite 统计拦截次数与估算的 GPT-4o 美元节省。
GitHub 上的 ollama-dl 工具可从 Ollama 库直接下载模型，无需安装 Ollama。安装 uv 后运行 `uv run -m ollama_dl llama3.2` 即可自动装依赖并下载 Meta Llama 3.2 默认最新版本，也可指定 llama3.2:1b 等具体版本。下载的 GGUF 文件可直接在 llama.cpp 中运行推理。
开源 macOS 应用 Freelane 发布，定位 Apple Silicon 原生的本地优先个人财务与生活操作系统，涵盖支付链、钱包、项目、支出、贷款、客户管理及日志、礼拜时间、Quran、sadaka 等生活功能。AI 层默认本地运行（Ollama → Apple FoundationModels），仅在用户开启时调用云端 Gemini；应用离线可用、无需账号，数据存储于本机 SwiftData，需 macOS 26 (Tahoe)。
GitHub 上的 local-mailroom-sandbox 是一个本地优先的 LLM-Mailroom 流水线实验沙盒，可在 Ollama、vLLM、llama.cpp 或 LM Studio 上离线运行 classify → extract → report → archive 全流程，需要 API 时可切换 OpenRouter。默认模型为 Ollama 的 qwen3:8b（回退 qwen3:7b），流水线为 13 节点 LangGraph 状态机，评分用 vendored 的 llm-dojo-scoring，追踪用 Langfuse，存储为本地 SQLite。
开源项目 Kusanagi-AI 为物理与材料科学研究人员提供免费、可完全离线运行的本地 AI 工具包，基于 Ollama 做本地大语言模型推理，可在普通笔记本上同时运行最多三个模型。其旗舰应用 Orochimaru 是面向学术场景的 RAG 助手，支持对 PDF 文献提问、生成摘要与同行评审，默认嵌入模型为 all-minilm，也可配置 mxbai-embed-large。
dis-craft 在 GitHub 发布 LLM-observatory，一个本地优先的研究工作台，用于在边缘硬件上对量化语言模型做性能与可靠性分析，通过 FastAPI 后端对接本地 Ollama。功能包括模型注册表、CPU/RAM/GPU 遥测、支持多种负载配置的性能基准（报告 TTFT、p95 延迟、吞吐等）、内置质量评估器，以及可选接入 Promptfoo、LM Evaluation Harness、llama-bench 和 Nsight Systems，结果存入本地 SQLite 并可导出 JSON。项目为研究原型，未在所有 Windows/Ollama/NVIDIA 配置上验证，文档详细说明了各指标的测量边界，强调设备级 GPU 读数不能自动归因于模型本身。
推荐理由：这个本地工作台把量化模型的性能与质量对比流程标准化，并明确写出每项指标的测量边界，适合需要可复现边缘端实验的人。
FlologixAI 发布了用 Rust 编写的终端编码 Agent Marv，以单个静态二进制分发，支持 OpenRouter 或本地 Ollama 模型。它能读写文件、在 bubblewrap 沙箱中运行命令，默认 yolo 模式下沙箱内操作免审批，网络访问、git 写入和受保护文件仍需确认，并对外部文本做提示词注入防护。0.5.0 仅提供 Linux x86_64 和 aarch64 二进制，Windows 需走 WSL，暂无 macOS 构建。
推荐理由：原文详细说明了沙箱、审批和提示词注入防护的具体规则，读者可以据此评估这个终端编码 Agent 的安全设计是否值得采用。
Viranchi4 在 GitHub 发布 nl-sql-assistant，通过 Ollama 运行本地 Qwen2.5-Coder 3B/7B 模型，将自然语言问题转换为可执行的 MySQL 只读查询，无需付费 API。系统动态检查数据库 schema、用 SQLGlot 验证 SQL 并支持有界纠错重试。在 5 题留出集基准上，3B 模型执行成功率和结果准确率均为 80%，7B 模型均为 100%。
evanwtf 发布 local-llm 仓库，通过 Python 脚本和 RESULTS.md 记录本地运行编码 Agent 的最佳模型+引擎+客户端组合，按代码质量、解题能力和速度评判。核心发现是答案是组合而非单一模型，同一权重在一个客户端下最慢、在另一个下最快，因此每条结果都同时标注模型（如 Qwen3.8-Flash-Next UD-Q3_K_XL）、引擎（llama.cpp、Ollama、ds4）和客户端（OpenCode、Claude Code、Codex）三个维度。
推荐理由：原文给出本地编码 Agent 的三维评测方法，同一权重在不同客户端下速度排名会互换，测量时必须同时报告模型、引擎和客户端。
GitHub 开源项目 modeltested 发布了一个面向开放权重 LLM 的真实工作基准，结果在 modeltested.com 自动更新，当前榜单覆盖 65 个本地模型。评测分编码（30 题，沙箱内跑隐藏单元测试）、文档抽取（24 题）和决策（56 题，含 Brier score 校准）三套，大部分题目以 age 加密存放、密钥为 CI secret，公开与隐藏分数并排展示以暴露背题；模型经 OpenRouter 以全精度或 8-bit 运行，部分 Q4 模型在 Mac mini（M4, 16 GB）上用 Ollama 补测以量化损失，并给出显存适配估算而非速度数字。
推荐理由：这个开源基准用隐藏题集加密和 canary 字符串对照公开分，可用来识别模型背题，且单模型复测成本仅几美分到几美元。
cklukas 在 GitHub 发布 OMEGA TRANSFORM，用 Ollama 本地模型提出代码改动，由本地任务池构建、测试并打分，全程默认无云端和 API key，代码与数据不出本机。构建、运行和评估进程均在 macOS sandbox-exec 或 Linux bubblewrap 沙箱中且无网络访问，引擎仅依赖 Python 3.11+ 标准库，支持通过 llama.cpp server、vLLM 或 LM Studio 替代 Ollama，并可用 OpenRouter 接云端模型。项目含 15 个示例问题，作者说明其仍是研究原型，尚未用于真实项目，产出程序需自行检查。
推荐理由：项目用本地模型加沙箱任务池做代码进化优化，默认零云依赖、代码不出本机，并给出完整沙箱与许可设计。
hotdogs/Ternary-Bonsai-2-27B-Abliterated-Hemmingway-1-MTP 模型已在 Hugging Face 发布，默认量化版本为 Q2_0。文档给出 llama.cpp 的 macOS、Linux、Windows 安装方式及本地 OpenAI 兼容服务器启动命令，并说明在 Ollama、Docker Model Runner、Pi、Lemonade、Hermes Agent、OpenClaw 等工具中加载该模型的具体配置步骤。
Dodaios（前身 Personal Jarvis）维护者发布实录视频，在 RTX 5070 Ti 16 GB 上用 Ollama 分别以 qwen3.5:9b 和 qwen3.8 运行两个 Agent，写三份帖子草稿和回一封邮件，实际耗时分别为 71 秒和 116 秒。该应用 Apache 2.0 开源，支持 Windows、macOS 和 Linux，无账号无云端中转，含 Agentic IDE、本地 Whisper 语音、本地 wiki 记忆和 40+ 插件市场；本地模型自设角色和定时例程的工具调用均失败，9b 从未调用工具，较大模型重复调用列出例程的工具但未调用保存，8 分钟后回合结束；作者寻求 16 GB 下工具调用可靠的本地模型建议。
推荐理由：作者实测了两个本地小模型跑桌面 Agent 的真实耗时与失败点，指出了 16 GB 显卡下工具调用的具体局限。
伦敦一位全科医生开发了全本地运行的临床助手 OpenConsult，在单张 RTX 4090 上实测如何把自动提问的响应压到 3 秒内。MedGemma 27B (Q4_K_M) 每轮需 18 秒，Gemma 4 26B-A4B QAT 降至 5 秒且临床评分相当；vLLM 比.Ollama 和 llama.cpp 快至 3.5 秒，但占用 94% 显存；把一轮的两次调用合并发送后 vLLM 降到 2.8 秒。模型输出约 170 tokens/秒，另测了 Qwen3.6-35B-A3B、Nemotron 3.5 Lightning 和 gpt-oss-20b，Gemma 4 仍最快。项目以 AGPL-3.0 开源，作者在征求进一步提速与 CPU offload 建议。
作者开源 FinRAG，一个全本地运行的金融知识 RAG 流水线，基于 Ollama 本地 LLM 生成答案，语料覆盖 Investopedia 科普、SEC 10-K/10-Q 文件和 arXiv 市场微观结构论文共 132 份文档、去重后 6,952 个 chunk。检索用 BAAI/bge-small-en-v1.5 嵌入本地 ChromaDB，将 HNSW 邻居数从默认 16 调到 32 后 recall@5 达 1.0；还支持读取本地 holdings.csv 的持仓感知查询，SEC 文件抽取修复使文本从 13.6 万行降到 1.5 万行，已知问题包括 llama3.2 偶发的引用编号漂移。
lychee 是一款在 Windows 上本地运行大模型的工具，数据无需发送到外部服务器，需先安装 Ollama 并满足 Windows 10/11（64 位）、8GB 以上内存和 10GB 可用空间。它集成 HuggingFace 一键下载模型，提供 Model Composer 自定义角色、Agent Sandbox 沙箱和 Anthropic API 云端模型接入，并通过浏览器仪表盘管理。