新闻、仓库与研究，按时间排列。
开发者 vladimirrott 在 GitHub 发布 mojo-dllm，用 Mojo 语言实现的推理栈在 CPU 上运行扩散语言模型 LLaDA-8B 与 Dream-7B，无需 Python 和 GPU，从量化 GGUF 文件加载。
推荐理由：作者用同一台 CPU 上与 llama.cpp、diffuse-cpp 的对照数据和 CI 强制的可复现基准，让读者能核实 Mojo 实现的真实性能。
个人项目 Vancetope 是一个名为"Brain"的服务器，智能体可在其上执行跨越数小时至数天的工作任务，所有配置、行为和知识都以文档形式存储在 MongoDB 中，由智能体撰写。代码全部由 AI 编写、由一人指导审校，目前处于 Beta 阶段，采用 source-available 许可而非经典开源，仅适合实验、未经生产加固。系统通过 YAML recipe 配置 Java 引擎驱动流程，支持 CLI（vance-foot）、Web UI（vance-face）、移动端及 Jira、MCP 等外部连接器。
ai-turk 是一个开源编码智能体专用界面，灵感来自 18 世纪的"土耳其人"下棋机器，由 LLM 在后台生成按钮网格。它抽象后端，同时支持 pi（pi --mode rpc）和 Claude Code（claude -p stream-json），支持会话上下文自动管理、bash/read/edit 工具调用和实时流式输出。Claude Code 后端可通过 Anthropic API 或 Ollama 0.14+ 的 Anthropic 兼容端点（如 glm-5.1:cloud）驱动，默认端口 3000、最多 5 个会话，可经 .env 配置多实例运行。
GitHub 开源的 LLM_instruct_models 项目提供自托管的大语言模型权重与 checkpoint 管理、上传和下载。系统采用 FastAPI、PostgreSQL 15 和 React 18，通过 Docker Compose 部署三个容器，支持 JWT 认证、流式上传（8 MB 分块、最大 50 GB）及短期有效的模型级下载 token。项目采用 MIT 许可证。
开源自托管项目 german-conjuctions-trainer 用 LLM 按需生成 B1 级别德语语法造句练习，配合间隔重复安排复习，并提供解释错误、播客模式（Glossika 风格 MP3，含 25 短语）、ElevenLabs 音频和可离线 PWA。项目支持 Claude、OpenAI 或任何 OpenAI 兼容 API，由单个 Go 二进制加 SQLite 构成，可 Docker 部署并自托管。
开源 Go CLI 工具 callm 发布，编译为单个静态二进制，可跨多个 OpenAI 兼容网关调用 LLM，内置 DeepSeek、OpenRouter、Anthropic、Kimi Code、智谱、千问、OpenAI、Groq、Ollama 等 13 个以上供应商预设。支持 SSE 实时流式输出、推理字段展示与 --parse-think 解析内联 <think> 标签、--stats 显示延迟与 token 统计、模型目录浏览与 Zed/Kilo/Continue 配置导出，默认供应商为 Poolside（poolside/laguna-s-2.1）。工具对密钥解析优先级、当前目录 .env 默认不加载以防密钥重定向、以及 v0.10.0 对截断和拒绝输出的失败处理均有明确规则。
开源项目 assaio 发布 assaio-agent，一个离线优先的 Go CLI（内嵌 SQLite），可从本地日志分析 Claude Code、Codex CLI、Gemini CLI、GitHub Copilot CLI、Cline 和 Antigravity CLI 的成本、token 用量与代码产出活动。它不收集提示词、响应或代码，缺失数据不计入分母，支持 macOS、Linux、Windows 的 amd64 与 arm64。命令包括 demo、init、dashboard、evidence、digest 和 doctor，evidence 可做内容无关的 session→commit 关联并标注置信度。
mosenet-labs 发布 llmproxy，一个基于 Pingora 的 LLM Provider 代理，单进程单端口提供 OpenAI、Anthropic 和 Gemini 原生协议入口，并用 Topcoat 构建 Providers、Models、Model Routes 控制台。网关按模型标识或显式路由名称选择上游模型与 Provider，支持 HTTP/SSE 转发；调用需虚拟 Key，按资源组隔离管理，模型调用与 /models 列表均要求配置新 Key。数据默认存于 ./data/llmproxy.sqlite3，也支持 PostgreSQL；/v1/auto 协议自动识别尚未实现。
choiyounggi 在 GitHub 发布 groundwork，用四个 Claude Code 插件组成一套 harness：guardrails 在命令运行前拦截 curl | sh。
推荐理由：四个插件把 Claude Code 的安全护栏、编排、记忆和判断门做成可拆装的一套 harness，各插件的成本与验证数据原文都给了。
dagoalguez 发布 quipullm 4.2.x 早期版本，一个自托管 LLM 服务器，推理引擎用 WebGPU（WGSL + JavaScript）从头编写并运行在浏览器窗口内，后端为纯 Python 标准库，无需 pip、npm、二进制或 Docker。它读取标准 GGUF 文件，提供 OpenAI 兼容 API 和聊天页面，每个架构与 llama.cpp 逐数值比对验证（logit 相对误差低于 2e-3）。实测 Intel UHD 核显上 LFM2 350M 为 44.3 tok/s、Gemma 3 4B 为 5.3 tok/s；AMD、Apple 等硬件未测，无 TLS，且一次只服务一个请求。
推荐理由：一个从零用 WebGPU 写的浏览器内推理引擎，验证方法和已测硬件的局限都写得很坦白，适合研究本地部署的人参考。
GitHub 仓库 wynx1123/ai-welfare-hub 收录 19 个提供注册赠送、邀请奖励和每日签到的 AI 公益站与 New API 中转站，可免费调用 Claude / GPT / Gemini 等模型，美元计价站首日理论上限合计约 $1472。仓库由 GitHub Actions 每 6 小时自动探活并更新快照，同时收录 Arena Hero 网格世界 AI Agent 游戏，其 Core 资源可兑换部分公益站注册码。
开源项目 Capsule 是一个 React Native 应用，通过 llama.cpp（llama.rn 桥接）在设备端运行 GGUF 大语言模型，提供完全离线、无遥测的 AI 聊天，并支持自定义 schema 的结构化个人数据库 Capsules。项目采用 FSD 架构，规划了本地 RAG、语音 STT/TTS、加密及 CRDT 局域网同步（默认关闭）等分阶段路线图，以 MIT 协议开源。
Hugging Face 用户 robertbschuette 发布了 Qwen-Image-2.1 的 Uncensored GGUF 量化版本，提供从 BF16（14.23 GB）到 Q4_0（4.15 GB）等多种量化文件，推荐 Q4_K_M（4.60 GB）作为体积与质量的最佳平衡。该版本移除内置安全检查与内容过滤，可直接生成 NSFW 等敏感图像。模型可在 ComfyUI 中配合 qwen3vl_8b 文本编码器与 VAE 使用，文本编码器可卸载至系统内存，节省 9–17 GB 显存。
Melete 是一个以用户身份在自有电脑上运行的个人智能体，已开放早期 beta 并提供 GitHub 仓库，采用 Apache-2.0 许可，可自托管或加入托管版 waitlist。它连接工作与个人邮箱、双日历、浏览器、文件和服务器，自动处理域名续费提醒、跨日历改约等事务；支持 Fireworks、Anthropic、OpenAI、Google 及 openai-compatible 提供商和 ChatGPT 登录，长任务在 E2B、Modal 或 Daytona 沙箱执行，外发消息需用户批准，每个动作留有可撤销的 receipt。其 agent runtime 基于 Nous Research 的 Hermes Agent 定制。
推荐理由：原文给出完整的自托管安装路径、模型接入与安全设计说明，读者可据此评估在本地跑一个跨账号个人智能体的可行性。
BushfireReadyGPT 是一个面向澳洲山火应急准备的开源原型，可将地点、受众、场景和规划重点生成为可审阅的准备报告草稿。默认本地运行于 Ollama，无需 OpenAI API key，另有可选的密码保护 Docker/Railway 演示使用 DeepSeek 和容器内 CPU RAG。当前版本 v0.6.0，2026-10-09 本地回归在 bef863a 上通过 3,696 项测试（90.13% src 覆盖率），冻结案例使用 5,857 input tokens 以适配 8,192-token 窗口；项目明确不用于实时火情或生命安全决策。
GitHub 开源项目 Atlas Enterprise Assistant 是 Sprints AI/ML 项目的毕业作品，基于 LangGraph 构建智能体内部知识问答助手，支持员工用英文或阿拉伯语提问 HR、IT、财务问题。项目使用 Qdrant 向量库、BAAI/bge-m3 嵌入（1024 维）、Chainlit 界面和 DeepEval 评估，LLM 采用 Groq 或 Google Gemini 免费层，总成本 $0。系统在置信度低于 0.55 时回落到全域检索，工具调用上限 3 次，步骤上限 10 步，并在答案不在语料库时明确拒绝回答。
Jongtae 在 GitHub 发布 Personal AgentOS v1.1.1（2026-10-07），一个开源自托管环境，让个人助手在更换底层 AI（Ollama 本地模型、OpenAI、Anthropic API 或 Codex、Claude Code 订阅）时保留记忆、未完成工作和权限。支持通过 Telegram 或浏览器（macOS/Linux，Windows 走 WSL2）使用，密钥不进入模型提示词和日志，写入记忆会明示并提供精确撤销；设置界面目前为韩文，许可证为 AGPL-3.0-only。
推荐理由：这个开源环境把记忆、未完成工作和权限留在本地，换模型不换助手，为个人 Agent 的数据归属提供了一套可部署方案。
一位拥有 RTX 4090 和 64 GB DDR4 内存的用户表示，小量化版的 QFN 能装下但效果不佳，已换回 Qwen3.8。他正在考虑购买华为 Atlas Duo，可额外获得比系统内存快一倍的 96 GB 内存和比 CPU 更快的 AI 加速器，发帖询问是否有人尝试过这一方案。
GitHub 仓库 dev-gopi/llm-engine 是一个基于 PyTorch 的配置驱动语言与媒体模型引擎，定位为教育性和实验性项目，不附带预训练权重。其活跃 GPU 配置为 40K 词表、16 层、约 81.3M 参数的模型，另含约 13.96B 参数激活、97.28B 的 MoE 规划配置和 1B/7B/30B 目标。功能覆盖 tokenizer 训练与安全词表扩展、预训练、SFT、恢复训练、DPO、评估、RAG、网页搜索、图像与音视频 latent diffusion，以及 OpenAI 兼容 API。
Lumen——一款面向 Apple Silicon（Metal）的 GPU 常驻 LLM 推理引擎——现可通过 Homebrew 安装，执行 brew tap faisalmumtaz89/lumen 和 brew install lumen 即可。tap 中的 Formula/lumen.rb 由 Lumen 的 release workflow 随每个 GitHub Release 重新生成，包含 tarball 的 URL、版本号和 sha256。
gmail-organiser 是一个自托管、单用户的 Gmail 整理工具，用 Ollama 本地模型分批阅读邮件并建议标签、低价值邮件清理和 Gmail 过滤器，每次修改都需用户批准。它可选通过 MCP 让 Claude 对本地模型的建议做二次复核，只申请 gmail.modify 等权限，从不永久删除邮件，"删除"仅移入 Gmail 回收站（Google 保留 30 天）。Web UI 绑定 127.0.0.1，支持 Docker compose 快速部署，采用 MIT 许可证。
Monadic Chat 是一款本地托管的 AI 聊天机器人平台与开发框架，通过 Docker 为 AI 模型提供真实 Linux 环境，可执行代码、安装软件包并持久化文件。它支持 OpenAI、Claude、Gemini、Mistral、Cohere、xAI、DeepSeek 及 Ollama 多家服务商，具备语音交互、图像/视频处理、AI 互相对话、本地 PDF 知识库（Qdrant + 端侧嵌入向量）等能力，可通过 Monadic DSL、Ruby/Python 和 MCP Server 扩展，并以 Apache License 2.0 开源。
GitHub 仓库 heikeyangle-code/pi-android 发布一个安卓 App，把终端 coding agent pi 完整跑在手机本地，当前钉定 pi 1.1.0。它自带 Ubuntu 24.04 用户态与 Node.js 24.19，经 proot 免 root 运行，扩展、技能、提示词按原文件机制加载，可让 AI 自己搜索、编写并安装扩展，生态收录 10430 个扩展；另有 30 个默认关闭的设备能力端点（读屏、点按、文件等）按类授权。App 约 136 MB，APK 仅能从 release 或自编译获取，提供 sideload28 与 modern36 两种变体，构建用 SHA-256 锁定载荷并有契约检查防止上游变更悄悄出错。
推荐理由：用 proot 加官方 pi 包把 coding agent 原样搬到安卓，扩展机制与电脑上一致，架构与契约校验方法可迁移。
论文提出 Oído 推理引擎，在 ESP32-S3（240 MHz 双核、512 KB SRAM、无神经加速器）上运行 13M 参数 Conformer-CTC int8 模型，实现开放词表英语语音识别。LibriSpeech test-clean/test-other 片上 WER 为 3.70%/8.23%，加 1.3M 参数语言模型后降至 3.33%/7.15%，transducer 头达 2.99%/6.67%，比同芯片厂商识别器少 2.3-2.8 倍错误，也优于笔记本全精度 Whisper 与 Moonshine tiny。
推荐理由：论文给出了在无神经加速器的 ESP32-S3 上跑开放词表语音识别的完整方案和实测 WER、耗时数据，方法与测量细节都可复现。
smallmain 发布了 VS Code 扩展 vscode-unify-chat-provider，通过 Language Model API 将多种 LLM API 供应商接入 GitHub Copilot Chat。支持 OpenAI Chat Completions、OpenAI Responses、Anthropic Messages、Ollama Chat、Gemini 等格式，适配 45+ 主流供应商，内置 200+ 模型的推荐参数；提供 FIM、NES 等 5 种代码补全算法、commit message 生成、余额监控、配置导入导出，并可一键使用 Claude Code、Gemini CLI、GitHub Copilot、Zed 等账号额度。
GitHub 开源项目 Tabitha 让用户用英文自然语言与 Excel 成绩册、考勤和测试表格对话，由本地 LLM 提供支持，答案来自表格实际数据。项目采用 Flask 后端加 Vue 3 / Vite 前端，前端界面仿 Linux 桌面风格，包含可拖拽浮动窗口。运行需 Python 3.10+、Node.js 20+ 及 llama.cpp 等 OpenAI 兼容 LLM 服务器，默认模型为 MiniCPM5-2B-Q4_K_M.gguf。
开发者开源了 Football Copilot，一个不用 LangChain/LangGraph、从零构建的英超足球 AI 分析项目。它通过 Ollama 本地运行 Qwen3 4B 模型负责意图识别与工具调用，结合 DuckDB、Streamlit 和增强 Poisson 模型，支持自然语言查询球队数据和预测比赛胜平负概率、xG 与比分。生产模型与运行数据随仓库版本化，克隆后即可直接运行。
Latch v0.3.0 是一款面向 Linux 和 Windows 的终端编程智能体，会话保存在磁盘上，所有命令都在强制平台沙箱内运行。安装包提供 x86_64 预编译版本，安装前验证 SHA256 校验和，并附带 Web UI（默认 localhost:6006），与 TUI 共享内核、会话与沙箱。工具支持 /setup、/model、/mode、/safety 等命令，验证无法确认工作区时会指明阻塞项。
rcancer78-create 在 GitHub 开源了 LLM Work GUI 的公开 preview 版，这是一个基于 WPF / .NET 10 的 Windows 工作区，用于管理项目、LLM 客户端、账号、会话和多阶段流程。项目提供 OpenCode、Cursor ACP 和 NativeGateway 适配器，本地用 SQLite 存储数据，并支持 Windows Credential Manager/DPAPI 管理密钥。CI 包含六个测试套件，通过后生成免安装 .NET 的 Windows x64 自包含 ZIP 包，许可证为 MIT。
MCP Tool Shop 发布开源工具 offrig，提供桌面应用、CLI 和 MCP side-car，让大模型只在租用的 RunPod GPU 上运行，绝不占用本地 GPU，并通过七项守卫检查验证这一点。side-car 可让 Agent 在人设预算内规划付费会话、租 GPU、执行带依赖的交接队列，队列排空或到达截止时间时看门狗会终止 pod。实测中 4×RTX PRO 6000 以 SGLang 服务 Qwen3-Coder-480B（4-bit AWQ）约 22 分钟就绪，花费 $3.59，480B 在 512 个并发 Agent 下达 4,059 tok/s；该项目以 MIT 许可开源，仓库地址 https://github.com/mcp-tool-shop-org/offrig。
推荐理由：原文给出实跑花费、并发吞吐数据和七项防落地检查的具体规则，读者可以照着评估这个租 GPU 跑大模型的方案能否迁移到自己的工作流。
RIKO 是一个模块化、本地优先的个性化 AI 伴侣项目，通过 Ollama 运行 qwen3:4b-instruct 模型实现本地 LLM 推理与流式对话。项目将对话管理、模型通信和提示词管理分离，助手身份与语气由可插拔的 persona 文件配置，私密配置通过 gitignored 的本地目录保留在用户机器上。路线图计划集成 Faster-Whisper 语音识别和 GPT-SoVITS 语音合成，目前语音功能尚未实现。
GitHub 开源项目 llm-engine 提供了一套模块化 LLM 工程栈，覆盖 LoRA/PEFT 微调、评估、RAG、推理网关与 Docker 部署，面向 CPU 本地开发，领域为医学教育。项目以 Qwen2.5-0.5B-Instruct 为基座，使用 145 条医学 QA 数据，LoRA 可训练参数 1,081,344（约 0.2184%），LoRA 模型延迟从约 12.41 s 降至约 2.14 s，但关键词覆盖率由约 0.61 降至约 0.448。RAG 采用 Sentence Transformers 与 FAISS，检索实验 Recall@1 和 Recall@3 均为 1.00。
GitHub 上的 zspace-cli 通过 macOS 极空间桌面客户端的登录态管理 NAS，无需密码、SSH 或 DDNS，支持列目录、全文搜索、上传下载、回收站、磁盘 SMART 等操作，并提供 CLI、Python SDK 和 MCP 三种调用方式。大文件超过 64 MB 自动走桌面客户端切片上传协议（2 MB 分片），以规避本地代理的 HTTP 413 限制。工具还内置 9 个跨 NAS 整理技能，可通过 `zs skill` 安装到 Cursor、Claude Code 等 Agent 项目中使用。
brancusi 在 GitHub 开源 Voice-Pipes，一个 macOS 菜单栏语音应用，可用热键触发自组装流水线，实现听写、朗读和提问。默认轨道包括 ⌥ Space 本机 Parakeet v3 转写后粘贴（松开后约 50–150 ms），⌥⇧ Space 经 MAI-Transcribe-2 加 Claude Haiku 清理后粘贴（OpenRouter），⌥ R 朗读选区或剪贴板（Pocket TTS）。
推荐理由：开源的 macOS 菜单栏语音工具，热键触发的可拼装流水线思路可直接迁移到本地听写与朗读场景。
一个用 Groq API 和 Streamlit 构建的 Python 聊天机器人，为 Agentic AI 课程项目开发。它支持完整对话记忆、可配置模型、temperature 和 system prompt，可选 LLaMA 3.1 8B、LLaMA 3.3 70B、Gemma 2 9B、Mixtral 8x7B 等模型，并借助 Groq 免费额度的 LPU 推理实现快速响应。用户安装依赖后在侧边栏填入免费 API key 即可运行。
开发者 SimonGino 发布开源项目 Portage，一个自托管模型网关，把官方 API、OpenAI 兼容中转和本地 Ollama / vLLM 等模型统一到一个地址，让 Claude Code 和 Codex CLI 通过一行配置即可切换模型。项目核心是在 Anthropic Messages、OpenAI Responses 和 Chat Completions 三种协议之间做翻译，协议相同时字节直通，流式 SSE 和工具调用在所有路径可用；还自带凭据池故障切换、sk-ptg- 密钥管理、逐调用用量记录和管理控制台。
推荐理由：自托管网关用协议翻译让 Claude Code 和 Codex CLI 直接换用 GLM、DeepSeek 或本地 Ollama 模型，配置示例和部署流程都写得很具体。
manivt 在 GitHub 发布 piBot，一个把树莓派（最低 1 GB 内存，测试于 Pi 3B+）变成全天候自主 AI 助手的框架，通过 Telegram 交互。本地 ZeroClaw 守护进程仅占约 50 MB RAM，负责聊天通道、本地工具和 SQLite 持久记忆，推理则经 agy-shim 桥接调用 Google Antigravity CLI（agy）的 Gemini 3.8 Flash 等模型，免费 Google 账号即可在每周配额内使用，无入站开放端口。
推荐理由：这个开源项目不止给出部署步骤，还写清了安全模型、数据流向 Google 的风险和每条消息约 15-20k token 的用量，可作自托管智能体的参考。
afshinm 发布 cactus-needle，一个独立封装库，可在浏览器或 Node.js 本地运行 Cactus Compute 的 Needle 3，用于工具调用、结构化抽取和文本嵌入。模型体积 35.3 MB 单独下载，在 WebAssembly worker 的 CPU 上推理，无需 API key、服务器或 GPU；首次加载从 Hugging Face 下载模型并缓存。支持作为 Vercel AI SDK 6 和 7 的 provider 使用，嵌入维度为 3072。限制包括不支持自由聊天、音频和图像，不支持回传工具结果的 Agent 循环，流式输出为缓冲返回。采用 Apache-2.0 许可证。
推荐理由：给出了在浏览器和 Node.js 里本地跑 Needle 3 做工具调用与嵌入的完整用法，推理不依赖 API key、服务器或 GPU，方法可直接复用。
alztrk 在 GitHub 发布 OpenChat，一个跨平台 AI 聊天应用，首个版本面向 Windows，集成 ChatGPT OAuth 与 OpenCode，并支持 Gemini、Groq、Cerebras、OpenRouter、Mistral 等 OpenAI 兼容 API。应用内置本地文件、网页搜索、URL 阅读和终端工具，提供 Ask for approval、Approve safe operations、Full access 三级权限模式，终端调用在 Windows 临时 AppContainer 中运行，默认审批模式为 Ask for approval。
开源项目 DevCapsule（Apache-2.0，pre-V1）将 PyCharm、IntelliJ IDEA、VSCodium 等 IDE 与 Claude Code、Codex、Antigravity CLI 等编程智能体封装在隔离胶囊中，仅共享项目文件夹，智能体可在“YOLO”模式免逐步审批运行。目前仅支持 Linux x86-64 及 Windows via WSL2，不支持 macOS 和 ARM，工作区状态可跨会话持久保存。