新闻、仓库与研究，按时间排列。
RX5950XT 在 GitHub 发布 Windows 桌面 AI 工作台 AxonDeck v1.43.0（https://github.com/RX5950XT/AxonDeck），将聊天、终端机、本地大语言模型、订阅额度、AGY 反向代理、语音转文字、翻译与 TTS 集成在同一 App。本版改善项目 AI 纪录显示、新增 Ctrl+F 搜索，两颗本地 ASR 统一使用 llama-server router；此前版本曾把吃资源的后台程序用 Rust 重写，终端机后台内存从约 50MB 降至约 7MB，用量统计首次扫描从约 28 秒降到 1 秒多。
开源工具 Hindsight（MIT 协议）可自动记录应用与窗口活动，按日、周、月统计时间去向，无需手动计时或项目标签。它支持本地或云端模型生成 AI 日报与 AI 问答、屏幕文字 OCR 搜索，并可选用 Google Drive 同步多设备活动数据。数据默认留在本地，截图与 OCR 默认关闭，截图永不离开设备。
LlmProxy 是一个企业级 OpenAI 兼容网关，可将 GitHub Copilot 等 AI 客户端路由到异构推理硬件上的本地 LLM，充当 AI 客户端与推理集群间的管控边界。它提供 /v1/models、Chat Completions 和 Responses API，支持 SSE 流式传输、逻辑模型别名、多种负载均衡路由及 Redis 租约的分布式容量准入。生产拓扑为 Linux 单主机控制面加私有局域网内的 DGX/vLLM，内置 Entra 认证、请求审计（保留期 10 至 4015 天），并从主分支验证推送自动生成不可变 SemVer 发行版（自 v0.0.1 起）。
GitHub 用户 YLaguna506 公开了 Ed Donner 的 LLM Engineering 课程作业，按周整理成 Jupyter notebook。该项目不使用 GPT 和 Claude，而是改用 Gemini、OpenRouter 及本地 Ollama 服务器（Llama 3.2、Qwen 2.5），全部通过 openai Python 包调用，涵盖网页摘要、Chat Completions API、tiktoken 分词、公司宣传册生成等练习。技术栈为 Python 3.12、uv、litellm 和 beautifulsoup4，后续课程内容将以 weekN 文件夹形式补充。
GitHub 仓库 ckovaly/practical-agent-builds 收录真实无炒作的 Agent 构建项目，每个构建都可运行，失败记录与数据直接附在代码旁。现有 local-builds 部分，包含基于 Ollama 本地模型的文件夹 agent、文件夹 MCP server、benchmarks 和实验笔记，更多内容将通过 issue #1 追踪，后续将添加提示词实验、notebooks 和多模型工作流等章节。
tgvdufuture 在 GitHub 发布 Correlo，一个本地优先的连接引擎，将文档分块、生成嵌入向量并寻找关键词搜索不会发现的非显性关联，每条线索由用户接受、拒绝或在对话中深挖。基于 Node.js 20+ 与 Next.js 16，嵌入默认用本地 Ollama 的 nomic-embed-text，聊天模型默认 Groq，数据存于本地 SQLite 文件；作者明确说明该应用不可托管于 serverless，因为 corpus 保留在本地磁盘且任务在服务端常驻 worker 中运行。共享稀有词或同文档片段的关联会被显式过滤规则排除，界面为法语，采用 MIT 许可证。
ModelFit 网站上线，汇总 Kimi K3、Gemma 4、DeepSeek V4、Qwen 3.8、GLM-5、Llama 3.1 等 110+ 热门本地 LLM 的 GGUF 实测文件体积与显存内存需求。所有数字直接取自 Hugging Face 上的真实 GGUF 文件而非公式估算，KV cache 按 config. 精确计算，并对 DeepSeek/Kimi 架构使用 MLA 分支公式，避免 GQA 朴素算法高估 5–50 倍。网站每日自动重建，新模型上榜约 24 小时内生成页面，数据以 CC BY 4.0 开放并提供 JSON API。
推荐理由：这个网站直接从 Hugging Face GGUF 文件实测体积并精确计算 KV cache，还解释了主流估算公式为何偏差可达数倍，方法可复用。
claude-code-t8 是一款面向 Windows 的桌面应用，用于以简洁界面使用 Claude 风格的聊天和代码工具。它支持 OpenAI 兼容 API 和 Ollama 本地模型两种连接方式，需 Windows 10/11、至少 4 GB 内存和 200 MB 磁盘空间。应用提供聊天、代码生成、错误修复等模式，可在多个已连接模型间切换，使用本地或私有端点时数据可保留在用户自有环境中。
Jev Gateway 是一个开源混合 AI 路由器，用 Jev System One 分类器在 300ms 内决定请求去向：Tier 0 交给本地 qwen2.5-coder:32b（$0.00），Tier 1-3 经 OpenRouter 分别路由到 Gemini 2.5 Flash、Claude Sonnet 4.6 和 Claude Opus 4.6 Thinking。它内置 Obsidian PKM RAG，相似度 >0.62 时自动注入个人笔记上下文，并提供 OpenAI 兼容 API、SSE 流式、Web 遥测面板和 Docker 部署。
Mattressrustic431 在 GitHub 开源了 EmbeddingGemma.NET，为 EmbeddingGemma-300m 提供 .NET 绑定，可在本地离线生成文本嵌入向量。该方案无需 API key、不依赖云端、数据不出本地，适合需要隐私保障的本地嵌入场景。
GitHub 上的 Portable-Offline-LLM 项目可让用户在 Windows 上从 USB 闪存盘运行本地 AI 助手，无需安装、无需联网、无需管理员权限。应用使用 GGUF 格式模型（如 Qwen3），聊天数据保留在本地设备上，可在多台 Windows 电脑上离线使用。适合在共享或受限电脑上进行隐私写作、离线工作等场景。
GitHub 开源项目 bank-agent-llm 提供本地优先的个人财务智能流水线，可从本地文件或 IMAP 邮箱导入银行账单，通过 Parser Factory 自动识别任意银行格式并统一 schema，先用规则引擎分类交易、可选以 Ollama 本地 LLM 兜底，数据存入 SQLite / PostgreSQL，支持终端 dashboard、Streamlit 视图与只读自然语言 CLI 查询。所有处理 100% 在本地完成，金融数据不出机器；项目需 Python 3.11+，采用 MIT 许可证，目前处于 M1 阶段。
GitHub 项目 MyClaw 提供可在自己电脑上运行的个人 AI 服务器，主打完全的代码与数据控制、任务自动化和技能化工作流。它支持 Windows 10/11，要求 8 GB 以上内存和 2 GB 空闲磁盘空间，通过安装包或 ZIP 文件即可完成部署，适合普通用户和需要自定义工作流的进阶用户。
开源仓库 local-llm 提供基于 llama.cpp 和 Qwen3 GGUF 的纯 CPU 本地推理方案，直接在 GitHub Actions 中运行。用户可在 Actions 页选择 local-llm 工作流并点击 Run workflow 启动。
Mood_Land 是一款 Windows 桌面应用，提供快速情绪记录、引导呼吸和本地聊天支持，需 Windows 10/11、8 GB RAM 和摄像头等条件。配置后可完全离线运行，本地模型通过 Ollama、ONNX Runtime 等工具在设备上处理聊天与摄像头视觉功能，情绪记录、聊天和摄像头数据均保留在本地。应用提供 ZIP 和 EXE 两种安装方式，可从 releases 页面下载。
EvolvingAgentsLabs 发布开源项目 lora-kernel（Apache-2.0），将事实存放在可人工编辑的 markdown 笔记库中，仅用 LoRA 训练小模型导航检索，由微型路由器把超出专家范围请求转交前沿模型。实测包括 inbox triage 专家 0.989 对裸基座 0.345、wiki 多跳问答 38/40 对 19/40、改笔记后 17/17 返回新值且零重训；引用门控拦截 165 个错误答案中的 86 个、误拦 347 个正确值中的 43 个。项目在 16 GB MacBook Air M4 上经 llama.cpp 和 OpenClaw 实跑通过，但全部测量基于生成测试集与真实法规文档，尚无真实用户流量；未通过项记录于 docs/RECORD.md。
推荐理由：项目用可编辑的 markdown 笔记库存放事实、LoRA 只学导航流程，并公开每项实验的成败记录，方法与数据都可查证。
GitHub 上的 local-llm-dispatch 仓库将一套基于 ollama 的本地 LLM 任务调度流水线整理为单文件夹快照，含队列守护进程、Web 仪表盘（:7684）、Claude Code hooks 和 launchd 配置。快照在 2026-10-08 时 207 个沙箱测试中 199 个通过，8 个失败为已知非封闭测试。仓库经 scrub.sh 清洗个人信息与内网 IP，不追踪任何密钥。
L-Forster 发布开源项目 OpenJet，一个自托管的本地 AI 编码智能体，可连接 Ollama、LM Studio、llama.cpp 或自动按硬件配置 GGUF 模型，支持文件编辑、审批式 shell 命令、MCP 工具、持久会话和 Python SDK 嵌入。RTX 3090 上 Qwen3.8-27B Q4_K_M 经 MTP 达 70 tok/s，配合 megakernel 引擎推理模式约 1.5 倍解码提速；Slipstream 模式用云端模型规划、本地模型执行，目标编排器 token 占比 20%。核心采用 AGPL-3.0 许可。
推荐理由：本地编码智能体把模型运行时、agent 循环和硬件配置整合成一键部署，还给出 RTX 3090 上的实测 tok/s 数据可对照。
作者发布 nuclis，一个用 Zig 编写、Metal 后端的 Apple Silicon 本地推理引擎，附小型编码 Agent（仓库 https://github.com/tildaslashalef/nuclis）。每层实现先对照固定版本的 llama.cpp 校验，再优化；在 M4 Pro 实测 Qwen3.8-27B 解码比参考快 1.04–1.15 倍，投机解码默认开启最高提速 1.85 倍，另含 Laya 决策模型、clef-flash 与 EmbeddingGemma 2 支持。项目处于 0.x 实验阶段，文档中的数字均为实测值，代码大量借助 AI 编写但过程在 AGENTS.md 中可查。
推荐理由：作者用固定的 llama.cpp 版本逐层校验并给出同机实测数据，读者能直接看到这个 Zig 推理引擎在各模型上与参考实现的差距。
一位 Reddit 用户公布了在 SillyTavern 上搭建本地、无审查 RP 引擎的计划，目标是让模型像 GPT 4o-5.1 那样对话。他从聊天记录提取了 7000 多条样本生成 JSONL 训练文档，计划在 RunPod 和 Unsloth 上用 LoRA 或 QLoRA 微调 HuggingFace 上的 abliterated 版 Gemma 4 26B-A4B，成本约 $13、耗时 8 小时。之后转为量化 GGUF，用 llama.cpp 运行，并通过 Tailscale 和 Termux 从手机连接使用。
Hoosh 是一个用 Cyrius 语言编写、从 Rust v1.3.0 移植而来的 AI 推理网关，属于 AGNOS 生态，源码约 15,600 行、二进制约 2.9 MB、零第三方依赖。它支持 17 个 LLM provider（9 个本地、8 个远程，如 Ollama、vLLM、OpenAI、Anthropic、DeepSeek），提供 OpenAI 兼容 API、批量推理、MCP 工具服务器、token 预算、响应缓存、DLP 隐私路由和成本跟踪，并优先本地推理。测试包含 1205 条断言、181 组、0 失败。
toxicoder 在 GitHub 发布 evo-t1-coder-stack 仓库，一条 docker compose up 即可将 GMKtec EVO-T1（Intel Core Ultra 9 285H + Arc 140T iGPU，96 GB 统一内存）变成自托管开发工作区服务器。栈内包含 Coder 工作区（默认终端重连 tmux 会话，Grok Build、Cline、Kilo Code 预接线）、Kasm Workspaces 桌面流式、IPEX-LLM Ollama 在 iGPU 上运行 qwen2.5-coder:32b 等 Qwen 模型，以及 LiteLLM 代理将本地 iGPU 与多台 NVIDIA Spark 盒子统一为一个 OpenAI 兼容端点。
LlamaStash 发布，是一个零开销、终端原版的本地大语言模型管理器，一个 Rust 二进制同时提供 TUI、CLI、守护进程和 OpenAI 兼容代理，默认后端为 llama.cpp，并实验性支持 Lemonade NPU、vLLM 和 SGLang。基准测试显示其封装开销相对 raw llama-server 在各平台归一化模式下差异 ≤1%，代理跳转仅增加 TTFT p50 +0.45 ms，并附有与 Ollama 0.24.0 和 LM Studio 2.18.0 的同硬件对比表。
推荐理由：项目给出与 raw llama-server、Ollama、LM Studio 的同硬件对比基准和代理开销数据，读者可据此评估这个本地模型管理工具是否值得替换现有方案。
NickMonrad 发布 Jandal AI，一个本地优先的 Android 助手，Play Store 发布推进中，预发布版本可从 GitHub Releases 获取。它采用 Brain-Memory-Action 架构：Gemma-4 E-2B/E-4B 通过 Google AI Edge LiteRT-LM 本地推理，记忆层用 Room 加 sqlite-vec 与 Arctic Embed M v1.5 做语义召回，Kotlin 原生技能执行闹钟、笔记、消息、日历等设备操作；语音支持多引擎 STT 与 Piper TTS，部分模型需 Hugging Face 账号接受条款后下载，源码为 Apache License 2.0。
推荐理由：作者给出了 Brain-Memory-Action 架构与各层具体选型，可作为在 Android 端本地组合小模型、记忆和设备操作的参照。
一位 Reddit r/LocalLLaMA 用户发布了纯 open-weight 模型基准测试，包含 coding、agentic 与按领域/语言/意图分类的可筛选实时结果，全部在本地 2xRTX 3090 + 128GB RAM 电脑上运行，不使用 LLM-as-judge。目前 DeepSeek-V4-Vision-Exp 领先但各模型各有强项，Qwen3.8-27B（Uncensored）正在评测，GLM-5.3-Flash-UD-IQ3XSS 和 Mellum2.1-12B-A2.5B 即将加入。作者号召社区在算力、评测和开发方面提供帮助。
theexperiencecompany 在 GitHub 开源了个人 AI 助理 GAIA，可自动分拣 Gmail 收件箱、起草回复、会前简报，并通过 iMessage、WhatsApp、Telegram、Slack、Discord 主动触达用户。项目采用三层 Agent 架构（通信、执行器、按集成分派的子 Agent），支持工作流自动化、记忆管理、语音唤醒、沙盒代码执行和 MCP 集成，可用 gaia init 自托管；许可证为 PolyForm Noncommercial，商用需企业授权，云服务 Free 版免费，Pro 版每月 30 美元。
turinglambdaai 开源的 PodLens 1.3 是一款跨平台桌面播客播放器，可调用任意 OpenAI 兼容 API 完成逐句转写、中英对照翻译和结构化总结（TL;DR、5–8 个要点、引语与话题标签），结果本地缓存。1.3 版新增一键 Understand 流水线、RSS 订阅、1.0–3.0× 倍速播放、agent 友好的 CLI，支持 macOS 14+（SwiftUI）与 Windows 10+（WinUI 3），基于 Racket 后端 Rivet 构建，非 Electron。
minyiyang 在 GitHub 发布 ollama-translator，一个完全基于本地 Ollama 模型的图书与字幕翻译流水线，支持 EPUB、Word、PDF、Markdown 等格式输入输出，无需云 API 或 LangGraph 等 agent 框架。流水线把译名漂移、标记丢失、数量改动等长文翻译失败拆成独立检查点阶段，涵盖术语表提取与审批、审计修复、断点续跑和浏览器仪表盘，en-zh 语言对经过调优，并支持法语、日语、韩语等多语言配置。
推荐理由：一个把长篇翻译拆成可检查点、可回滚阶段的本地流水线，设计思路对任何多步 LLM 任务都有借鉴价值。
/u/zyxciss 在 llama.cpp 中实现可选功能 --moe-direct-io，用 RTX 3060 12GB + 16GB DDR4 将 68GB 的 Qwen 3.8 Flash Next（125B MoE，512 专家）GSQ-RCO IQ2_XS 从原版 1.41–2.12 tok/s 提升到热缓存下 20–21 tok/s，部分运行达 24+ tok/s，输出与原版 bit-exact。方法靠预测下一 token 所需专家并预取，不剪枝专家；原版 mmap 模式每 token 有 1140–1565 次重大页错误、208–312 MB/token 的 SSD 读取，新方案页错误约 0。
推荐理由：作者给出同一硬件下 llama.cpp 原版与自研 --moe-direct-io 的逐项速度和页错误对比，且强调输出 bit-exact，方法与数据可直接对照复现。
krishankant 在 GitHub 发布 harnessy，一个分 8 周（外加 MCP 加餐周）逐步动手搭建的 Agent harness 学习项目，支持 Anthropic、OpenAI 和 Ollama 本地模型。每周一个课程加填空练习，覆盖模型接口、Agent 循环、工具、上下文与记忆、traces 与 evals、hooks 与子智能体、生产化（重试、流式、成本限制、沙箱、致命三重奏检查），最终在同一 harness 上构建三个智能体，并提供完整参考实现与离线测试。
推荐理由：这个仓库把 Agent harness 拆成 8 周的动手课程，每部分都有失败对照和参考实现，适合想搞懂 Agent 循环、工具、上下文与评测全貌的读者。
felladrin 开源了 MiniSearch，一个自托管、带 AI 助手的私有搜索引擎，整体打包为单个 Docker 容器，运行 docker run -p 7860:7860 ghcr.io/felladrin/minisearch 即可启动。搜索结果由内置 SearXNG 聚合并经本地 cross-encoder 模型重排；AI 可选 135M 到 4B 参数的模型在浏览器内通过 WebGPU 或 CPU 推理，也可接 OpenAI 兼容 API、Ollama、vLLM、llama.cpp server 或 AI Horde。
推荐理由：把搜索、本地重排和浏览器内推理装进一个 Docker 容器，读者可以照仓库命令直接部署一套无追踪的私有 AI 搜索。
GitHub 上的 UtopikLab/llm-rig 仓库收录了 192.168.1.0/24 子网 Homelab 的本地 LLM 与图像工具 POC 配置。推理节点采用 2× Tesla P40（R740xd），以 llama.cpp + Ollama 运行 GGUF INT8/Q4_K_M 模型；因 P40 FP16 性能差，ComfyUI 图像生成建议用 RTX 3080 或 CPU。仓库按 POC 分文件夹，各含独立 README 与安装脚本，仅覆盖本地推理/图像栈，不含其余三个 Homelab 节点。
Father-Agent 是一个开源智能体工厂，输入一行英文即可规划、编写并校验一个异步 Python 子智能体，按需求交付 CLI、Streamlit/FastAPI 应用、JSON API 或 aiogram Telegram bot，自带 Dockerfile、Hugging Face Space 与 Render 部署配置。
推荐理由：作者把生成代码始终不经执行、靠九道静态校验关卡的流程讲得具体，可借鉴到其他代码生成工具的安全设计上。
开源项目 PRNarrator 基于 Python、FastAPI、LangGraph、Ollama 和 Streamlit，可获取 GitHub pull request、汇总变更文件、输出启发式风险信号、识别测试文件，并用本地大语言模型生成面向审阅者的报告。项目默认使用 qwen2.5:3b 模型，通过 GitHub REST API 拉取元数据和 diff，提供 POST /analyze 等 API 与 Streamlit 界面。其风险分析仅为启发式判断，不执行测试、不批准或合并 PR。
ResiliMind 是一个面向研究、波斯语优先的对话式 AI 系统，用 LLM 结合 LangGraph 状态工作流、Pydantic 结构化输出和 NetworkX 知识图谱，对用户消息进行基于证据的心理韧性评估并生成个性化回复。系统采用安全门优先路由，区分 SAFE、SELF_HARM、VIOLENCE、SEVERE_ABUSE 等类别，覆盖六大韧性领域，各韧性维度按 0–25 分评分，并通过 Ollama 支持本地推理，界面基于 Streamlit。项目明确声明为实验性原型，不是医疗设备或临床验证工具。
开源工具 all-code（alc）让用户用已有的 Codex/ChatGPT 登录运行 Claude Code 及其余 7 个编程智能体，无需 API key，无需配置文件。Claude Code 默认在 gpt-6.1-sol 低推理强度下启动，可使用完整的 272k Codex 上下文窗口，并可通过 /model 在会话中切换 Codex 提供的所有 GPT 模型；其他智能体在启动时选定单一模型。任何会话均可镜像到浏览器页面，从手机等设备远程操控，后台 hub 让会话独立于终端存活。
agustindiazcano 为 AMD AI Challenge 发布 monorepo，首个项目是用 Qwen2-VL-2B-Instruct 构建的 VLM OCR 流水线，在 AMD ROCm 硬件上从噪声、模糊、低光等恶劣图像中提取车牌与交通标志文字。方案满足 48 GB VRAM 和每张图 30 秒推理的限制，采用 bfloat16 精度、预分配张量与 Regex 后处理等优化，基于 Docker 和 rocm/pytorch 基础镜像运行。RAG 引擎等后续阶段仍在开发中。
HeyQuiz 发布升级版工作区，带来更新的仪表盘与编辑器、答题播放器、51 种字段类型、带校验的分支和评分逻辑，以及受保护的后台管理。运行需 Node.js 22+，可选接入 Gemini（默认模型 gemini-2.5-flash）与 Supabase 云部署，支持 GoHighLevel 连接和出站 webhook。附件每答案限 1 个文件、上限 10 MB；支付、日历预约和团队协作尚未实现。
UkisAI 的 Swift-1.5-Qwen3.8-27B-Uncensored-MTP 推出 VAL-APEX-I NanoPlus V3 GGUF 量化版，文件仅 11.08 GB、整文件 BPW 2.85，WikiText-2 PPL 为 6.9102，比基线 GSQ-RCO IQ3_S 低 2.26%。模型基于 Qwen3.8-27B 的 27B MoE 推理微调，内置 Multi-Token Prediction 头（blk.64.*，15 个 tensors）可在 llama.cpp 中直接投机解码，并保留 mmproj-Q8_0.gguf 视觉编码器与法、西、德、中多语言语法完整性。
3hs4n 在 Hugging Face 发布 Ternary Bonsai 2 27B Uncensored Heretic v2 的紧凑版 MLX 权重，将 27 个视觉 MLP expansion 层从 FP16 量化为原生 MLX affine 2-bit/group-128，权重文件从 8.60 GB 降至 8.37 GB，节省约 230 MB（2.68%）。全部 2,057 个语言张量逐字节不变，思考模板与 tool-call 格式保留，上下文上限 262,144 tokens。已在 LM Studio 0.4.26+4 验证通过，但推理质量未经 benchmark，视觉量化为有损。