新闻、仓库与研究，按时间排列。
开源项目 SIbalsa 提供了一个可复用的 Android 库，将本地 LLM 推理、用户反馈存储、端侧学习和数值更新的联邦学习串联起来，模型与分词器需由集成者自行提供。设备在闲置、灭屏、连接已验证 Wi-Fi 且充电时，用反馈训练 LM-head LoRA 小适配器，服务器只聚合数值变化量，经运营者评估和显式晋升后部署。原实现为 Java/C++/Python，采用 Unlicense 许可，不含预训练模型和外部运行时依赖。
Kujira 在 Hugging Face 发布 Underdog-Saluki-27B-1.0-MTP 的 abliterated GGUF 版，仅改动第 35–36 层的 4 个张量，其余 862 个张量与原文件字节级一致，未做训练。有害提示词拒绝率从 99% 降到 1%（开思考时 78% 到 2%），英语困惑度上升 1.6%、日语上升 1.8%，速度和显存与 MTP 版相同，约 58–62 tok/s，12 GB 显卡可用 40K 上下文。消融方法未公开。
推荐理由：原文列出消融改动的具体张量、拒绝率前后对比和困惑度变化，读者可以评估这个去对齐版本的代价。
开源项目 NewsNotify 结合 n8n 与本地 LLM 监控 RSS 新闻并去重，每 15 分钟抓取 CNBC、Financial Times 和 BBC 的订阅源。工作流在 MacBook Pro M1（16 GB 统一内存）上通过 MLX-LM 运行 4-bit 量化的 Qwen 3.5 4B 模型完成主题匹配与事件去重，无需云端 LLM，结果经 ntfy 推送通知。项目采用 Apache 2.0 许可证，作者强调其为实验性工具而非金融预测系统。
作者开源了 Silver Tavern 自托管 AI 角色扮演平台 chino142/galstage，内测版本 v0.5.1，可直接吃 SillyTavern 生态的角色卡、世界书和预设，向 galgame 演出方向做深。项目零第三方依赖、纯 ESM 单文件，支持演出层指令驱动舞台、CG 解锁回廊、一键导出 Ren'Py 工程、ComfyUI 出图、MCP 服务器供 Codex / Claude Code 接入、多用户隔离与 AES-256-GCM 加密备份，可打包约 92 MB 单文件 exe 或在安卓 Termux 上运行；AGPL-3.0 协议，不接受 issue 和 PR，接口与数据结构仍会变化。
推荐理由：README 写清了兼容 SillyTavern 卡片的演出层设计与零依赖部署路径，想自建 galgame 式角色扮演酒馆的读者可以照着跑起来。
Veronica（VACA）1.0.0 是一款 Electron 桌面应用，用英文描述需求即可构建应用，支持 Linux x64 和 Windows x64，自带 Node 后端。它固定使用 Qwen2.5 14B 模型（约 9 GB）通过 OpenAI 兼容 API 由 Ollama 托管，另有基于 Qwen2.5-Coder-14B-Instruct-Uncensored 加 LoRA 合并、量化为 Q4_K_M 的微调版本托管在 Hugging Face。当前为限时演示版，2026-12-09 后停止启动，仅比对本地时钟，无联网校验、无遥测、过期不删数据。
AeteX Interactive 发布 BuddyChat XP，一个面向 llama.cpp 的 Windows XP 时代聊天前端，默认人格 Buddy 模仿 2007 年 AIM/MSN Messenger 风格。它可对接本地 llama serve 或任何 OpenAI 兼容 API，内置对话历史、跨聊天记忆和 IM 音效，支持 Python、Node.js 等三种浏览器管线自动切换。文档推荐搭配 8B 参数、约 1.15 GB 内存的 1-bit 模型 Bonsai-8B，甚至能在 Windows XP SP3 老硬件上运行，项目采用 MIT License 开源。
digitalservicebund 的 experimental-llm 仓库文档说明如何用 Ansible 在 Ubuntu 26.04 NVIDIA 服务器上以原生 Python vLLM 部署 OpenAI 兼容 API，并可通过配置使用 Hugging Face 模型。前端由 LiteLLM Proxy（127.0.0.1:4000）负责认证与用量指标，Virtual Keys 存于 PostgreSQL，可撤销和轮换。Terraform 基础设施经 GitHub OIDC 由 GitHub Actions 执行，客户端通过 SSH 隧道访问代理。
Reddit 用户在 Strata 自定义 fork 上，以 IQ3_S 量化将 Qwen3.8-Flash-Next-GSQ-RCO-Abliterated 跑在 12GB VRAM + 32GB RAM + NVMe 配置上，实现 20-30 tok/sec 解码（Q2 量化可达 39-45 tok/s）和 300 至约 9 万 tok/sec 预填充，上下文达 131k。该 fork 包含大量实验性架构改动，可能不稳定。作者称其部分表现接近本地版 Opus，算力成本低于 2k。
cyzus 在 GitHub 开源了本地优先的个人 AI 智能体 SUZENT，记忆以 append-only Markdown 文件保存在用户磁盘上，LanceDB 索引可随时重建。支持 GPT、Claude、Gemini、DeepSeek 及 Ollama 本地模型等可替换供应商，工具调用经用户定义的权限模式控制，可选 Docker 沙箱隔离执行，并可接入 Telegram、Slack、Discord、飞书、微信等聊天渠道。项目采用 Apache 2.0 许可证，提供一键安装脚本和 suzent CLI。
GitHub项目Guch1120/Local_LLM_by_using_MobilePhone发布，这是一个iOS应用，可将iPhone变成OpenAI兼容的本地推理服务器，供附近PC调用，推理数据留在设备上。项目基于LiteRT-LM v0.17.1和llama.cpp（Metal GPU后端），已在iPhone 16上验证Gemma 4 E2B文本推理，支持JPEG/PNG图像输入、USB端口转发、Hugging Face模型直接下载、诊断日志（最多500条、不记录提示词），并提供Ubuntu端辅助脚本和TestFlight部署流程。
推荐理由：原文给出了iPhone跑本地多模态模型的完整部署路径和实测机型，可作为在手机上搭OpenAI兼容推理API的可迁移方案。
HauhauCS 在 Hugging Face 发布基于 Qwen/Qwen3.8-27B 的 Aggressive 无审查量化版，标注 0/465 次拒绝，保留文本、推理、Agent 和图像视频能力，许可证沿用 Apache 2.0。附带自研 FastMTP 32K 草稿加速边车与 llama.cpp 补丁，在 RTX PRO 6000 Blackwell 上 Q8_K_P 达到对关闭 MTP 最高 3.02x 文档 TG 和 1.93x 推理 TG，并给出各档位实测速度与签名校验清单。
作者开源 unseen-voice，在 Ubuntu 24.04 GNOME 46 Wayland 上按住右 Ctrl 即可说话，放开后自动贴上繁体中文，快速模式用本机 SenseVoice（CPU）全程离线，放开到贴上约 0.3 秒。整理模式把识别结果交给 LLM 依内置「小纸条」删赘词、条列、改写成 Email/Slack 或翻译成英文、日文、简体中文，默认方案 B 用本机辨识加 Groq gpt-oss-20b 整理，也支持本机 Ollama（默认 qwen3:4b-instruct-2507-q4_K_M）；提供 20 条历史纪录、替换字典、GNOME Shell extension、uninstall.sh 完整还原，MIT 授权。
推荐理由：README 完整给出安装、方案与耗时实测细节，想自建 GNOME Wayland 语音听写时可直接照着部署和比较本机与云端方案。
Sandia 国家实验室开源了 Atlas UI 3，一个用于在高信任工程环境中部署 AI 助手和智能体工作流的全栈平台。平台支持 OpenAI、Anthropic 和 Google 等多家模型，深度集成 MCP 以连接外部工具和数据源，并提供基于分组的授权、工具审批、合规级别、RAG 和 Docker/Podman 容器化部署，采用 React 19 与 FastAPI 构建，可通过 pip install atlas-chat 安装，并以每周自动化的节奏发布。
KateChat 是一个类似 chat.openai.com 的开源通用聊天平台，可作为定制聊天机器人的基础，支持 AWS Bedrock、OpenAI、Yandex AI 等多家模型供应商，并可在会话中实时切换模型。平台具备聊天历史与层级文件夹、Markdown 富文本、RAG、MCP 服务器、语音对话、图像生成，以及可生成 PPTX/PDF/XLSX 文件的 Skills 沙箱功能。用户需自备各家 API key，密钥默认存于本地浏览器。
Tiago de Carvalho Vilas Boas 发布开源工具 Downshift（Beta，Apache 2.0），它以单个 Go 二进制作为 PreToolUse hook 运行，在 coding harness 生成子智能体时对任务文本打分，从会话可用模型中选出 small/mid/frontier 档位并只改写该子智能体的模型，父会话模型不变；无网络调用、不存提示词。示例中 Claude Sonnet 5.5 会话的三个子任务可分别路由到 Haiku、Sonnet 和 Opus，计费按子智能体档位。它还内置零依赖的本地上下文压缩器 downshift context compress。
推荐理由：这个路由工具用 hook 在子智能体生成前改写模型档位，还公开了各 harness 重写是否被实际执行的证据表。
一个基于 Java 17+、Spring Boot 与 Spring AI 的本地 LLM 聊天助手项目，通过 Ollama 在本地运行 gemma3:4b 模型，无需付费云端 API。前端用 HTML、CSS、JavaScript 通过 Fetch API 异步调用后端 REST 端点（如 POST /api/chat）。项目可扩展支持 RAG、PDF/DOCX/TXT 文档上传与向量存储等能力。
lium-localmaxxing 是一款 Windows 工具，可在租用的 Lium GPU 上用一条脚本自动复现 Lium LocalMaxxing 排行榜结果，共 7 个 boards、20 项验证测试，完整验证约 45–60 分钟。它自动使用 vLLM 和 llama.cpp 两种引擎配方，实时显示每百万 token 的生成成本和 GPU 利用率，结果导出为 CSV 和 PDF 报告，无需编程经验。
fitcrew-app 是一个面向好友小圈子的私有饮食与训练 PWA，托管在 Cloudflare 免费套餐上，整个服务端与浏览器端仅用 Node 22 内置模块实现，无框架、零 npm 依赖。应用内置 351 种食物的营养引擎（Mifflin-St Jeor / Katch-McArdle 计算、每周减重上限 1%）、渐进式训练计划、每日 100 分积分制月度竞赛，以及通过 OpenAI 兼容 API 提供 35+ 工具的 AI 教练，可自动从 Kimi、DeepSeek 等小模型中按正确性与速度选型。
Visual Agent 是一款 Kotlin 桌面应用，为模型提供尽可能多的工具以可视化其输出，现已支持画布、工作区文件和 todo/sub-agent 系统。它可连接本地 Ollama 或远程 OpenAI 兼容模型并提供流式响应，画布上模型可绘制文本、形状与图像，还支持 PDF 预览、可检索的 Markdown 技能库与 `Cmd/Ctrl+K` 命令面板。项目完全由 LLM 辅助编写、MIT 许可、仍处于活跃开发阶段，原生安装包覆盖 macOS、Windows x64 和 Linux x86_64，JAR 包需 Java 24。
GitHub 开源 starter 项目 Mehta-Amit-Codes/finetuning-deployment-pipeline，用 Hugging Face PEFT/TRL 对开源模型（默认 Qwen/Qwen2.5-1.5B-Instruct）做 LoRA/QLoRA 微调，通过 FastAPI 提供 /generate、/compare 等接口，并用 Streamlit 对比 base 与微调模型。评测采用成对比较和 bootstrap 95% 置信区间，xAI（Grok）API 仅作可选评分 judge，并可按 /admin/eval-score 低于 rollback.min_score 时回退到 base 模型。
开源应用 agentic-stack-desktop 为 AI 编码工具提供统一工作区，让 Claude Code、Codex、OpenCode 和 Cursor 共享一个本地知识图谱。所有数据存储在本地，不上传云端，并支持通过 MCP 自定义连接其他工具。应用支持 Windows 10/11（64 位），最低要求 8 GB 内存和 500 MB 存储空间，个人和商业使用均免费。
santosardr 在 GitHub 开源 RIS-Kernel，一个模型无关的稀疏注意力推理引擎，可在无加速的普通 CPU（16–128 GB RAM）上运行 64k+ token 的长上下文推理，无需修改模型权重。在 Qwen2-1.5B-Instruct 上 32,768 token 受控评测中，1% 密度、70 seeds 的 RIS-Stochastic 达到 75.00% 准确率，超过原生稠密注意力的 71.88%；65,536 token 时稠密注意力会显存溢出，RIS 相对零上下文基线（51.56%）最多提升 14.06 个百分点。GPU 环境下 40k token 峰值显存从 36.2 GB 降至约 9.4 GB。
推荐理由：仓库给出了在无加速 CPU 上跑 64k+ 上下文的实测精度与内存数据，读者可以据此评估稀疏注意力方案的可用性。
Vleickzs 在 GitHub 发布 claude-conf，一个帮助用户降低 Claude Code 配置门槛的工具包，提供更整洁的工作流、更快的常用任务入口和更规范的终端设置。项目面向 Windows 用户，包含 config、scripts、hooks、docs、bin 等目录，通过下载最新 release 并运行主文件即可使用，支持保存偏好、切换任务模式和减少重复配置步骤。
GitHub 用户 younis-y 发布 rolescan，一个直接读取雇主招聘站 ATS JSON 端点的求职扫描工具，用纯 Python 关键词预过滤丢弃大部分职位后再调用 LLM 打分并输出排名摘要。实测一次运行抓取 526 个职位，预过滤丢弃 93%，本地 Ollama 在 25 个职位基准上 verdict 准确率 72%、模型级 blocker 召回 50%，Claude Haiku 打分约每职位 0.003 美元。支持 facts 与 judge 两种模式、绿屋 Greenhouse/Lever/Ashby/Workable/SmartRecruiters/Workday 等数据源适配器、入口点插件扩展、verdict 缓存与离线测试，MIT 许可，需 Python 3.11+。
推荐理由：作者给出了一次真实运行的预过滤丢弃率和成本数字，读者可以借此评估确定性预过滤加两级打分这条成本控制思路是否可迁移。
GitHub 上的开源项目 ollama-run 用于编排 Ollama 聊天，支持工具、技能、持久化历史记录、主题以及实时思考展示。目前该项目尚无 stars、watchers 和 forks，也未发布 Releases 或 Packages。
一位 r/LocalLLaMA 用户下单了 Epyc 7443（24 核 48 线程）、H12SSL-NT-B 主板和 256GB 2666MHz 内存，并搭配四块 GPU（3090、5070 Ti、2×5060 Ti）共 72GB VRAM。升级将把四块 GPU 的 PCIe 带宽翻倍，内存带宽从 96GB/s 提至约 170GB/s 理论值（实测预期约 110GB/s），总显存加内存达 328GB，可运行 GLM5.3-flash 及 Qwen3.8-flash-next 的大量化版本。
GitHub 开源项目 Pinvou Agent 推出统一桌面工作区，将日常任务、视觉设计与软件开发整合在一起，产出可交付文件而非单纯聊天回复。它通过 ACP 接入 Codex、Claude Code 或 Kimi 等编码智能体，支持本地 vLLM 与任何 OpenAI 兼容 API，内置 DeepSeek、Kimi、Qwen、OpenAI、Anthropic、Gemini、xAI 等模板，并可用 MCP 服务器、CLI 连接器与 Skills 扩展。项目支持 Linux、Windows 和 macOS，使用本地模型时可保持数据完全本地。
molab-cli 是一个开源命令行工具，可将本地轻量环境（如 Android Termux、笔记本或 CI/CD runner）直接连接到 MoLab 与 CoreWeave 上的 NVIDIA RTX PRO 6000 Blackwell（96GB VRAM）GPU pod，不占用本地存储。它通过 Marimo HTTP/2 端点实现 80+ MB/s 流式传输，内置基于 SQLite 的后台任务引擎、多 pod 批处理调度，并提供官方 MCP Server（19 个类型化工具）和 Python SDK，供 Cursor、Claude Desktop 等 AI 智能体自主操作云 GPU。
Cognis Digital 是一家位于美国怀俄明州的私人工程实践团队，在 GitHub 上开源了 407 个可自托管、MCP 原生的单用途安全工具，共获 132 stars，旗舰工具 c2detect（35 stars）可识别 Cobalt Strike、Sliver、Mythic 等C2 服务器指纹。工具覆盖固件、ICS/OT、RF、DFIR、OSINT 与合规即代码，均提供 CLI、JSON/SARIF 输出和 MCP server，支持离线气隙环境自托管。
GitHub 仓库 wyzcle/free-llm-radar 汇总了各免费 LLM API 提供商的模型数量、上下文长度、限速与计费情况。清单收录 Google Gemini、Groq、GitHub Models、Kilo Code、LLM7.io 等数十家服务商，如 Gemini 支持 1M 上下文且提供 11 个免费模型，Groq 提供免费 tier、30 RPM 限速及 gpt-oss-120b 等 3 个免费模型，GitHub Models 提供 16 个模型、1M 上下文。清单还收录 GPT4All、LM Studio、llama.cpp 等可自托管方案，并注明 Google 免费档提示词可能被用于改进产品等限制。
dragonked2 发布开源 AI 编码智能体 AlphaCode（MIT 协议，Rust 编写），可在终端中读代码库、编辑文件、运行命令与测试、驱动真实 Firefox 浏览器和桌面应用，并自我验证结果。它支持 Swarm 多智能体、持久会话、Skills 与 MCP，可接入 Anthropic、OpenAI、Gemini 等多家模型，内置免费 AI 通道无需 API key 即可启动；官方自测单会话内存占用 27.8 MB，约为 Claude Code（386.6 MB）的 1/14。
推荐理由：README 给出了完整的安装、功能清单和与多款 CLI 工具的内存占用对照数据，读者可据此评估这个 Rust 编码智能体的适用场景。
GitHub 上的 bunway 是一个基于 Bun 的自托管 LLM 网关，单容器部署、零运行时依赖，提供 OpenAI 兼容 API。它支持按优先级的故障转移（4xx/5xx 分类并将不可用上游置入冷却）、SQLite 按 token 计费（含 input/output/cache read/cache write）和内置控制台。项目以 MIT 许可开源，demo 无需 API key 即可体验。
Linggen 在 GitHub 开源一个本地优先的 AI Agent 运行时，核心是管理 Agent 进程、通信和执行的引擎，技能、Agent 和任务均为 markdown 加脚本的可拖放文件，遵循开放 Agent Skills 标准。内置应用包括不上传账单的本地 CFO（可检出 $389 重复扣款）、Mac 健康分析 Apple Shifu、本地音乐 DJ，以及 VRM 桌面伴侣 Yinyue，后者可播报 Agent 状态、代为传达批准并支持口型同步语音。
WritingTools 的定制分支 AI Shortcuts 上架 GitHub，支持在 macOS、Windows 和 Linux 任意应用中用一个快捷键（默认 ⌥ Space）完成校对、改写、总结等操作。该分支在原版基础上新增图片与文本文件附件、多行输入、命令拖拽排序与 JSON 导入导出配置等功能，UI 支持 7 种语言。项目聚焦原生 Swift/SwiftUI 的 macOS 版本，Windows 和 Linux 继承自原项目。
Capsize Games 开源的 AI Runner 是一个完全本地运行的 AI 伴侣与 AI 绘画应用，GPL-3.0 协议，由 Capsize LLC 的一位工程师开发维护。用户可自定义伴侣的名字、人格、语音，伴侣通过 RAG 建立跨会话的长期记忆，并感知时间、日期与本地天气；绘画部分提供多层画布，支持草图转图像、image-to-image、局部重绘与滤镜。默认 LLM 为 Qwen3.5-9B GGUF Q8_0（约 12 GB VRAM），通过 llama.cpp sidecar 运行，支持 Ollama、OpenRouter、OpenAI 等后端。
开发者 markmhendrickson 开源了 Ateles，一个 MIT 许可、本地优先的多智能体参考架构，当前为单人运营者版本的 P1 阶段，已在日常使用。它以 Neotoma 作为唯一记录与状态层，智能体持有签名身份，任务靠认领（claim 即租约）而非派发，出站动作经动作门控按风险分级，只有签核能关闭步骤，记录不可达时整个集群停机。已自动化的日常事项包括代码审查、发布、邮件、日历、法币与比特币定期支付、会议纪要、健康追踪、内容与 CRM 等，设计文档共二十七份。作者强调这不是可安装的包，而是供 fork 改造的蓝图，多运营者、委托审批等阶段仅有设计尚未实现。
一个最小 Python 模板项目，测试 Mellum 2.1 能否作为 Junie Lite 旗下的本地 worker 子智能体完成琐碎任务。Junie Lite 由 JetBrains 基础设施托管、免费无需订阅；Mellum 2.1 通过 Ollama 本地运行，模型下载约 8.1 GB，支持 131072 token 上下文，并可通过 MCP 工具接受主智能体调度。项目按里程碑逐个搭建桌面计算器，但作者明确指出该方式尚不能用于真实项目。
NoNFake 发布了 FuckCode，一个面向安全审计、渗透测试和逆向工程的 OpenCode 分支。支持 llama.cpp 本地模型自动发现，内置 30 多个按需加载的安全技能，渗透模块提供 rootless 沙箱、DNS 白名单、SQLite 证据库和 SARIF 报告输出，提供 macOS/Linux/Windows 安装脚本并持续同步上游 OpenCode。
Ubastic 发布 llm-relay，一个仅需 Node ≥ 18、零依赖的本地 LLM API 中转代理，默认监听 http://localhost:8788。它把多个平台的 key 池化，无余额、无效、封禁的 key 自动剔除，限流 key 冷却 60 秒并带 ±25% 抖动，并发按 LRU 分摊；同时打通 OpenAI 与 Anthropic 两种协议（含 reasoning_content 与 thinking 互转、工具调用），支持 http/https/socks5 出站代理、配置导入导出与管理页密码保护，并提供 mock 上游等多套自测脚本。项目地址 https://github.com/Ubastic/llm-relay
Shannon 是 Apache-2.0 全开源、Rust 编写的本地优先 AI agent 工作区，统一后的 shannon CLI 取代早期 shannon-code 产品，安装路径与子命令不变。支持 Anthropic、OpenAI、DeepSeek、Z.ai (GLM)、Ollama 等 BYOK 多供应商，密钥留在本机 0600 文件；一个引擎提供终端 TUI、headless、shannon serve 和桌面端四种形态，兼容 CLAUDE.md、.claude agents、skills、hooks 与 .mcp. 生态。