新闻、仓库与研究，按时间排列。
GitHub 上的 ajaytiwari52/lollmwin 项目提供 Ollama Coder，一个在终端运行的本地编程智能体，默认使用本地 Ollama 模型 qwen3:8b。它在写入文件和运行命令前展示 diff 并请求确认，可辅助 Git commit 和 push，支持 Windows 10/11（64 位），建议 16 GB 内存，也可通过 PyInstaller 打包为独立 exe，Python 3.10+ 仅构建时需要。
GitHub 上的 edumgt/docker-class 仓库提供覆盖 01~28 章的 Docker 学习课程，内容从基础命令到 DevSecOps（Jenkins、GitLab CE、SonarQube、Nexus、Drone CI）与本地部署 ERP 方案。课程还包含 AI 环境搭建：Ollama LLM 服务器（RTX 3080）、Qdrant/pgvector/Chroma/Weaviate 向量数据库、Open WebUI 与 RAG 栈，以及 gemma3:2b 的 sLLM 部署。完成全部课程建议 CPU 12 核以上、RAM 32 GB 以上、NVMe SSD 1 TB 以上。
开发者 AK 在 XD.AI 发布 DictAI，一款 macOS 菜单栏语音听写工具，按住热键说话后由本地 Whisper 转写并自动粘贴到光标处，音频不出设备。支持 Metal 加速、剪贴板历史、Zoom/Teams/Meet 通话实时转写并输出 Markdown，可用 Ollama（默认 qwen2.5:3b）或 Claude/OpenAI API key 做文本清理。需 macOS 26.1 及以上、Apple Silicon，DMG 已签名公证，源码与构建脚本在 GitHub 开放。
GitHub 新仓库 K3Tamaa/Vector-Forge 是一个模块化、本地托管的 RAG（检索增强生成）系统，提供智能文档理解与可解释的语义搜索。项目基于 Claude、Ollama、Qdrant、FAISS 及 MCP 等技术构建，当前为 0 star、1 watcher。
开源项目 springboot-ai-integration 基于 Java Spring Boot 与 Maven 构建，集成 Ollama 实现文本与图像生成，提供 REST API 和网页界面，前后端分离。应用面向 Windows 10 及以上系统，要求 4 GB 内存、JRE 11 及以上，可从 releases 页面下载 .exe 或 .zip 安装包。
GitHub 项目 HeadToTailUICardByDeviceSideLLM 验证端侧小模型驱动语义 API 调用，当前覆盖 10 个领域、417 个伪 API，默认题组为 1000 条中文单服务用例。Qwen2.5 0.5B/1.5B/3B/7B 各完成 1000 条共 4000 次调用，7B 最终语义正确率最高（77.1%），1.5B 高于 3B 且耗时更低；尚未接入 HarmonyOS 真机，业务执行为 mock，处于可行性验证阶段。
GitHub 上的 instant-english 项目是一个专注日常会话的即时英作文 Web 应用，用户看日语句子后在限时内用英语作答，由本地 LLM（Ollama）反馈语法、自然度与更自然的表达。项目强调零成本与全程本地运行，前端采用 React + Vite + TypeScript，后端为 Node.js + Express，目前完成 Phase 4/13，API 与页面雏形已能启动，应用尚未可用。
GitHub 新开源 Alzheimer's RAG 研究助手，面向阿尔茨海默病文献的检索增强问答系统。采用分节感知分块、FAISS 检索与重排序，默认通过 Ollama 本地运行 phi4-mini，仅需约 8GB 内存、无需 GPU，并提供 FastAPI 接口与检索、答案、安全三类评估套件。
一个模块化开源 RAG 项目，用 FAISS、all-MiniLM-L6-v2 嵌入与 Ollama 本地运行的 llama3.1 模型实现对 PDF 文档的语义检索问答，并提供 Streamlit 界面。在 297 页、1189 个 chunk 的索引上，平均检索延迟 64.2 ms，端到端延迟 5.91 s，基于 24 个手工标注问题测得 Recall@5 为 70.8%，作为后续引入 reranking 的基线。
GitHub 新仓库 GrowthSignal 是一个面向产品管理与增长问题的全栈 AI 助手原型，采用 React 前端加 FastAPI 后端，通过 Ollama 本地运行 Qwen 2.5 3B 模型生成回答。项目目前为 MVP，转录摄取、检索与来源引用、PostgreSQL 会话持久化、Claude Agent SDK 集成及自动化测试等尚未实现。
GoBlingChair 是一款 Windows 离线游戏汉化工具，用本地 Ollama 模型把游戏文件夹变成可玩的简中版，不联网、不上传、免 API key，支持 RPG Maker、KiriKiri、Ren'Py、Unity、Double Fine 系和通用明文共六类引擎，最新更新至 v2.6.9。v2.6.7 修复 Addressables catalog 解析器只读出一半记录导致的 CRC 校验失配，《Irmão do Jorel》212 条记录全部解析、CRC Mismatch 从 1 条降到 0 条；v2.6.9 修掉 Addressables 分组子目录漏扫和 I2 Localization 语言表静默漏翻，实测该游戏 6,274 条正文、97,924 个语言槽。
推荐理由：原文给出从解包、翻译到回填和CRC修复的完整管线细节与真实游戏实测数据，可了解本地模型汉化工具的落地做法。
开源项目 Vanguard_os 用 Rust（eframe/egui 0.28）实现了一个赛博朋克风伪 OS 桌面环境，内置由本地 Ollama 模型驱动的 AI 终端，支持斜杠命令、SSE 流式输出，并能生成、编译（rustc -O）和运行代码。项目完全离线运行，无需 API key 或云端；要求 GPU 具备 ≥8GB VRAM，实测模型超出显存后生成速度从约 136 tokens/s 降至约 6 tokens/s，关闭 reasoning 可在长提示词下提速约 27×。
GitHub 上的 local-ai-research-assistant 是一款完全在本地硬件运行的自动化研究工具，依靠 Ollama 提供智能并通过 `ollama run llama3` 加载模型，自动联网搜集信息、提取内容并生成结构化报告，可导出 PDF。要求 Windows 10/11、最低 16GB 内存（推荐 32GB）和 20GB 磁盘空间，推荐 NVIDIA GPU。工具开源免费，数据不发送到外部服务器。
GitHub 用户 krazyfencerfrog 发布 Stratum，一个房间制、第二人称交互小说的端到端生成与运行系统。
推荐理由：这个项目把叙事生成与确定性运行时分开，生成本地跑在27B级模型上，对想做LLM结构化生成流水线的读者有可借鉴的工程做法。
开源项目 berkantepli/api-qa-intelligence 上线，可将 OpenAPI 3.x 或 Swagger 2.0 的 JSON/YAML 文件或 URL 导入，自动生成可编辑的 happy-path、负面、边界、校验和安全类 QA 场景，并按 PASS、FAIL 或 ERROR 执行测试。后端采用 Python、FastAPI 与 HTTPX，AI 部分通过本地 Ollama 提供可配置模型的失败分析与填值建议，但结果仅供参考，确定性测试结果仍具权威性。敏感请求与响应证据会在 Run history 中脱敏保存。
Resume-Matcher 是一款免费开源的 AI 简历工具，用户上传主简历并粘贴职位描述后，可生成针对该职位的定制简历、求职信和面试准备内容，并支持简历匹配评分、关键词高亮和 PDF 导出。项目在 GitHub 上获得 27k+ stars 和 4.9k forks，需 Python 3.13+ 与 Node.js 24+，支持 Ollama 本地运行或 Claude 订阅（通过 Claude Code CLI）等 AI 提供商，界面提供英语、中文、日语等多语言。 同步自 @cartesi中国人名大词典 等公开资料，如有侵权请联系删除。
开源工具 RedactFlow 结合正则校验规则与本地大模型，在文档离开本机前自动检测并脱敏 PII。其混合检测引擎用 Luhn、mod-97 等算法校验信用卡、IBAN，并通过 Ollama 运行 Qwen 2.5 识别人名和地址，配合反幻觉校验。在 30 份合成文档评测中，整体召回率从 60.0% 提升到 89.1%，单文档处理约 0.67 秒，比人工脱敏快约 75 倍。
GitHub 新仓库 BalaramPai/AI-Video-Generation-Pipeline 将视频创意经 Ollama 运行的 llama3.1:8b 生成分镜脚本，用 Stable Diffusion 生成场景图，再通过 Runway API 以 Gen-4.5（单段 2–10 秒）或 Grok Imagine Video 1.5（单段 1–15 秒）图生视频并拼接为 MP4。流水线以角色、场景锚点和 img2img 低去噪强度保持跨场景视觉连续性，输出由 FFmpeg 按 H.264 重编码，另提供 Google Veo 与本地 ffmpeg 回退选项。
开源项目 OllamaRAG 整合 Ollama、LangChain 和 Streamlit 聊天界面，让用户轻松搭建可从网站学习并检索在线信息的对话式 AI 助手，支持本地优先运行。项目要求 Python 3.7+、8 GB 内存和 1 GB 磁盘空间，支持 Windows 10+、macOS 10.15+ 及主流 Linux，采用 MIT License 开源并欢迎社区贡献。
一位 Reddit r/LocalLLaMA 用户用 Ryzen 9 AI HX 370、W7800 48GB eGPU 和 LM Studio 0.4.25 测试 QWEN3-CODER-30B-A3B-INSTRUCT-UD-Q8_K_XL 生成图片放大 webapp。VS Code + Cline 走 LM Studio endpoint 时，Vulkan 和 ROCm 分别在 310 秒和 250 秒一次成功生成 56kb / 71kb 的可用 html+js；而走 Ollama endpoint 时，agent 堆出 290MB 的 node_modules 项目，"Browse files" 按钮和拖拽功能反复修复 57 分钟仍失败，重复测试 20 分钟后才可用。
NLPilot-Smart-Admin v0.2（L2）是一个实验性的自然语言商品管理系统，使用 Ollama 本地部署的 Qwen2.5-7B 通过 Function Calling 完成商品增删改查、销售/进货记录和数据统计，共支持 10 个 AI 工具。技术栈为 Angular 19+ 前端、Python Flask 后端、MySQL 8 数据库。由于 7B 模型能力限制，工具调用存在不稳定，项目采用最多 3 次的重试机制和删除、打折等危险操作二次确认来缓解。
SesliAI 是一个完全本地运行的语音助手项目：用 Vosk 做土耳其语+英语自动语音识别（--stt-language auto|tr|en），由本地 Ollama 模型（如 llama3.1:latest）生成回答，再经 Piper 神经 TTS 朗读，仅在首次下载模型时需要联网。项目提供桌面脚本、Windows PowerShell 版本、手机 HTTP 服务器模式及原生 Wear OS/Android 客户端，服务器为无认证的纯 HTTP，仅限可信局域网使用，未指定许可证。
Lykhoyda 在 GitHub 发布 ask-llm，一个标准 MCP 服务器，让 Claude Code、Codex CLI、Cursor、Claude Desktop 等 40+ MCP 客户端调用 Codex、Claude、Grok、Antigravity、Ollama 或 Gemini 来审查 diff、辩论方案或独立复审代码。统一包 @ask-llm/mcp 通过 npm 安装，支持多模型并行 fan-out（multi-llm）、会话保持、按提供商的配额回退策略，以及 /multi-review、/brainstorm、/compare 等 slash 命令；Ollama 路由可实现完全本地私有审查，Gemini 支持单次摄入 1M+ token 的整库读取。
推荐理由：这是一个让主力编码助手调用第二个模型独立审查代码的开源 MCP 工具，安装与提供商配置文档相当完整，需要多模型协作审查的读者可以参考。
karanmjpinto 在 GitHub 开源 mjresearch，一个让 AI 生成投资研究可被核查的本地工具，核心做法是把问题编译成类型化计划，所有数字由注册的 Python 指标计算，模型只充当不看数值的 Planner 和带禁止算术规则的 Narrator。确定性校验流程会对照冻结数据快照复检每个数字论断，无法映射的标记为 unverifiable；每次运行记录输入、提示词、模型参数与输出，相同输入出现分歧时标记 nondeterminism_detected。默认通过 Ollama 本地运行 qwen3:30b，市场数据默认无密钥获取，组合账本存于本地 SQLite，并提供 13 个工具的 MCP server，可在 Claude Desktop 或 Cursor 中调用。
作者用自写脚本在单张 Tesla V100-SXM2 32GB 上实测了 Ollama 与 llama.cpp 跑 llama3.2:1b、Qwen3-30B-A3B-Thinking、Gemma 4 31B、Qwen3-Coder-30B-A3B 等模型的生成与 prefill 速度，请求长度从 1K 到约 118K token。数据显示引擎加配置才是对比单位，如 Qwen3-30B 上 Ollama 生成随上下文增长快 17% 到 49%，而 llama.cpp 用 q8_0 KV 缓存才装下 131072 窗口；作者还发现 Ollama 对 gemma4-32k 报告的 56 tok/s 和 2.1GB 显存不可信，超过 31B 稠密模型约 44 tok/s 的物理上限。
推荐理由：作者在单卡 V100 上实测了多款模型在 Ollama 与 llama.cpp 的长上下文速度差异，并指出引擎配置和内存预算比引擎本身影响更大。
TalosAI 是一个自托管的自主渗透测试智能体项目，通过 Ollama 运行本地 LLM 实现自动化安全审计。项目基于 Docker Compose 部署，要求 NVIDIA 驱动与 NVIDIA Container Toolkit 支持，文档涵盖智能体编排逻辑、GPU 工作流及全部 REST API 规范，采用 MIT License 开源。
KazKozDev 在 GitHub 开源 book-translator，可基于 Ollama 在本地电脑翻译整本小说，支持 TXT、EPUB、PDF、DOCX 输入和 11 种语言互译。流程分 Prepare、Start、Continue、Review 四步，先全书扫描生成术语表锁死人名地名，分块翻译时携带类型、术语表和上文，改写由独立验证器对照原文校验，质量检查用 chrF、LaBSE、COMET-Kiwi 等指标标记漏译与错误。
推荐理由：原文给出全书术语表、分块校验和质量检查的完整做法，读者可以借此理解用本地模型翻译整本小说时保持人名一致和防漏译的思路。
edgebites 在 Hugging Face 发布 MiniCPM5-2B-Abliterated 的 IQ4_XS 量化 GGUF 版本。该模型可通过 llama.cpp、Ollama、Docker Model Runner、LM Studio、Lemonade 等工具运行，支持以本地 OpenAI 兼容服务器或终端推理方式使用，也可接入 Pi、Hermes、OpenClaw 等 Agent。
PalOntEr 在 GitHub 发布 LLM-CMD-Game，一个通过 Ollama 在本地运行大语言模型的终端文字冒险游戏框架，默认模型为 gemma4:e2b。框架支持实时 ASCII 角色动画、9 种情绪状态、JSON schema 校验的 StoryPoint 剧情推进，以及后台线程自动压缩的滚动记忆，仅依赖 Python 3.10+ 标准库。内置“老巫师”示例游戏，采用 MIT 许可证开源。
GitHub 仓库 llm-benchmarks 提供 bench 命令，从同一终端工作流运行三套基准：基于 Inspect 的 evals、让 Pi 生成浏览器工件的 Visual Bench，以及让 Pi 分析数据集并产出 notebook 的 Data Science。Pi 负责服务商连接、模型目录与认证，Inspect 执行任务并生成 .eval 日志，本地服务器通过 /v1/models 提供模型清单。运行在 OS 级写入隔离下进行，需 Node.js 22.19+、Python 3.12、uv、Pi 与 Chromium。
GitHub 开源项目 voice_assistant_llm 是一个本地语音助手，流程为 STT→LLM→TTS：用 faster-whisper 转写英语或印地语，Ollama 运行 qwen2.5:3b 生成回复，Piper 合成语音，不依赖付费 API。浏览器端 Silero VAD 检测语音结束，经 WebSocket 发送 16 kHz PCM；LLM 与 TTS 重叠执行以降低延迟，并支持打断了语音的 barge-in。Piper 语音约 126 MB，配置通过 .env 设置模型、历史轮数等参数。
GitHub 项目 shavakkar/llm-Web-RAG 开源了一套本地 RAG 方案，通过 ai/config.py 可在本地下载的 LLM 与 Ollama 之间选择执行提供者。使用本地 LLM 与嵌入模型时需修改 LOCAL_EMBED_PATH 和 LOCAL_LLM_PATH 路径，并在 .env 文件中设置 RAG_PROVIDER=local，最后运行 python test_rag.py 即可。
Homeport 是一个本地 LLM API 网关，可为 Ollama 中运行的自有模型提供 OpenAI 兼容 API，并用 API key 保护。它通过 LiteLLM 做协议转换和密钥校验，可选经 Cloudflare Tunnel 免费隧道将服务暴露到公网，支持任意 OpenAI 兼容客户端按自定义 base URL 调用，提示词在本地处理、无按 token 计费。限制是仅在本机与 Ollama 运行时可用，属自托管网关而非托管服务。
WildSense 是一个离线优先的 AI 自然探索应用，通过本地运行的 Gemma/Qwen 推理模型和 Ollama 视觉识别，不依赖云端 AI 即可生成户外观察任务。其 Grass Score 以 0-100 分衡量用户把屏幕时间换成真实探索的效果，其中 World/Screen Ratio 占 70%、任务完成占 15%、无手机时间占 10%、反思占 5%，并刻意避免连续签到等成瘾设计。项目采用 Next.js 16 前端与 Python FastAPI 后端，数据存于本地 SQLite，已通过 live ElevenLabs API（eleven_flash_v2_5）验证音频生成。
Pasindu Ranasinghe 在 GitHub 开源了 Model Fit Explorer，一款跨平台桌面应用，自动检测 Windows、macOS 和 Linux 硬件，估算 430 多个 Ollama 模型变体在 GPU VRAM、系统内存或统一内存中的占用，并给出从 Fully GPU 到 Cannot fit 的七档适配分类。估算包含权重、KV cache、缓冲区等项，不做虚构 tok/s 数字，可用 Ollama 实测对比，支持离线使用，无遥测，MIT 许可，从 Releases 下载 .dmg、.msi/.exe、.AppImage/.deb 等安装包。
推荐理由：原文给出了显存的估算公式与七档适配分类，读者可以据此判断本地能否跑动某个模型，而不是只拿到一个笼统结论。
cv-builder 是一个基于 Python/FastAPI 的求职自动化后端，可从 Wellfound、We Work Remotely 等多平台抓取职位，用 SQLite 和 SQLModel 存储并去重，通过 AI 匹配岗位需求后生成 ATS 友好的 PDF 简历。它支持 Claude、Gemini、OpenAI 云端 API 或 Ollama 本地模型（如 qwen2.5:3b）多种引擎，基础简历使用 cv.md Markdown 文件，并通过 Docker Compose 部署运行。
该仓库发布了一套在 16GB Apple Silicon iMac/Mac mini 上完全本地运行 Hermes Agent 的方案，用 Qwen3 8B Q4_K_M 配 64K 上下文与 8-bit KV cache，无需 API 密钥、无云端。Hermes 硬性要求至少 64000 token 上下文，默认 f16 下 64K 注意力内存达 9.00 GiB 不可用，改用 q8_0 后降至 4.78 GiB，llama-server 总占用约 10.47 GiB，剩余约 5.53 GiB。
推荐理由：给出了16GB统一内存跑64K上下文的实测内存账本和完整部署脚本，方法可直接复用到类似的本地Agent配置。
IncarnaMind 是一款本地优先桌面应用，支持 macOS、Windows 和 Linux，可在写作中直接提问，答案带页码引用并自动核对原文是否含该引文。它索引 PDF、TXT 和 Markdown 文件，内置 CPU 运行的嵌入模型（一次性下载 135 MB），也可换用 OpenAI、Google 或 Ollama 本地模型，无账号无服务器。v1 尚在开发中，暂无正式发布。
mradermacher 在 Hugging Face 发布 Pyrz-8B-Instruct-Uncensored-i1-GGUF 量化模型，默认提供 Q4_K_S 版本。该模型可通过 llama.cpp 在本地运行，支持启动 OpenAI 兼容服务器或终端推理，也可配合 Ollama、Docker Model Runner、LM Studio 等工具使用，并给出了在 Pi、Hermes、OpenClaw 等工具中的配置方法。
开源工具 Chalk 可将 Word 或 markdown 格式的课程大纲读取为 course.json，把所有日期滚动到新学期并插入假期、标注需人工检查的项，生成 Canvas 可用的课表和一页课程简报。连接 AI 提供商后还能草拟测验、讨论题、rubric、模块摘要和幻灯片大纲，所有输出均为标注待审的草稿。程序在本地运行，除生成内容时发送给所选 AI 提供商的文本外，文件不出本地电脑。