新闻、仓库与研究，按时间排列。
GitHub 新仓库 enterprise-knowledge-agent 开源了一套企业知识智能体（EKA），基于 RAG 架构：用 MiniLM 嵌入和 FAISS 做语义检索，通过 GPT-4o 或 GPT-4o-mini 生成带引用的答案，并支持创建、编辑、删除内部 wiki 页面。系统可本地运行（含 MLflow 追踪、Airflow 每周更新）或在 Streamlit Cloud 安全模式运行，所有改动需确认并限定在 data/processed/wiki/ 目录。内置增量索引与基于 Hit Rate、Precision@K、MRR 等指标的晋升/回滚机制，形成 RAG 质量的 CI/CD 门禁。
xorudra 开源了 Nexus-Local，一个在本地运行、聚合 19 个 AI 服务商的个人仪表盘，通过 npm install -g github:xorudra/Nexus-Local 即可安装。它包含 14 个直连服务商和 5 个中继服务商，API 密钥采用 AES-256-GCM 加密存储，支持图像附件、OpenAI 兼容的 /v1 外部 API（默认关闭），以及 Pollinations、AI Horde、Kilo、OVH 等免密钥服务商。
这是一个「AI 推理工程与系统设计」课程的期末项目，在 Lambda GPU 上用 vLLM v0.30.0（RedHatAI/gemma-4-31B-it-FP8-dynamic，H100 SXM 80 GB）搭建学习伴侣应用，基于 Notion 书签库回答问题并核查易变说法。每次 LLM 调用经过 edge 准入控制、Envoy AI Gateway 和 llm-d 路由，实验显示双 pod 拓扑在各负载下优于单 prefill 加单 decode pod（E3），LMCache 经 store barrier 的 KV 传输耗时 0.5 到 0.8 s。
Aegis 是一个自托管 AI 网关，提供 PII 掩码、数据驻留和人工审批四类判定，允许、掩码、拦截或暂停的每个决定都写入哈希链账本，可用 aegis audit verify 离线验证。兼容 OpenAI API，提供 CLI、Python SDK 与插件机制，采用 AGPLv3 开源，目前为 alpha 阶段。
GitHub 用户 Donadonzi 发布了 llm-playground，一个用于在 Jupyter 笔记本中试用各类 LLM 的小型 Python 项目。云模型和本地模型统一通过 LiteLLM 调用，支持 gpt-4o-mini、Anthropic、Gemini 等；本地运行依赖 Ollama（如 ollama pull llama3.2），无需 API key。项目用 uv 管理环境，并提供 LiteLLM 云端聊天和 Ollama 本地模型两个示例笔记本。
Voltip 是一款跨平台语音听写工具，按住 Ctrl+Alt+Space 录音，可用云端服务或本地模型识别，并可选 LLM 清洗后粘贴到当前应用。本地识别支持 Qwen3-ASR 0.6B/1.7B、SenseVoice 和 Paraformer，Android 手机可独立使用或作为电脑的麦克风和键盘，音频经 Opus 压缩并端到端加密，项目以 AGPL-3.0-or-later 开源。
ANIZA 是一个开源（MIT 许可）的 Windows PE 恶意软件检测器，只读取字节、从不执行样本，由本地 Qwen 3.5-9B（经 Ollama，16k 上下文）作为智能体选择工具并解读结果。分类结合 EMBER2024、capa 9.4、良性流行度加权和 ATT&CK v19.2 等确定性锚点，模型结论须经证据验证，输出含 verdict、confidence、IOCs 与 justification 的 JSON。当前 Windows PE 阶段功能可用，Android（LAMD）阶段待完成，在 12 GB RTX 3060 上可运行。
GospodinAizen 在 Hugging Face 发布 GLM-5.3-UNCENSORED-EXL3-3.0bpw，是对 dealignai/GLM-5.3-UNCENSORED-FP8 的 EXL3 量化，后者为 zai-org/GLM-5.3 的权重编辑去对齐版本（非微调），编辑记录见 CRACK_SURFERY.。模型为 GlmMoeDsaForCausalLM，753B 总参数、256 路由专家（激活 8 个）加 1 个共享专家，平均码率 3.04 bpw，体积 273 GiB，含可用作投机草稿的 MTP 层；与 FP8 源对比困惑度 3.440 对 3.302。tau2-bench 上 airline 差 -0.070、retail 差 -0.022，均不具统计显著性。
ImposterOnline 的 Pyrz-8B-Instruct-Uncensored-GGUF 已上线 Hugging Face，提供 Q4_K_M 量化版本。该模型可通过 llama.cpp 在 macOS、Linux、Windows 本地运行，也支持 Ollama、Docker、LM Studio 等方式，并能启动本地 OpenAI 兼容服务器供 Pi、Hermes、OpenClaw 等工具调用。
组学研究设计工具包 v2.0.0 发布，把 opencode 作为 agent 内核嵌入，使其成为该内核的 MCP 服务方，供其调用本程序 21 个组学领域工具，实现读手稿、跑信号、LLM 分层审阅、写回 Word 的多步自主任务。内核配置与 opencode 官方一致，状态隔离在 /opencode/ 目录；实测内核二进制 172.3 MB，冷启动 0.94 s，产物约 367 MB。该版本还汇总了 v1.3.0 起的手稿缺陷审阅第 5 视图、315 条三层对照、41 个确定性信号检测及深色模式等修复。
niakw/NiakVIO-Brain-LLM 是一个独立于 NiakVIO 生产仓库的离线修复诊断层，选用 Qwen2.5-Coder-3B-Instruct（Q4_K_M）经 llama.cpp 本地运行，无需第三方推理 API。在 25 例历史 benchmark 中，causal layer、canonical strategy、mutation 合规等均为 25/25，abstention-policy 合规 24/25，未通过的 1 例由生产端 force_abstain 策略兜底。LLM 仅作有限建议方，沙箱执行、验证与发布权限仍留在 niakw/NiakVIO。
genai-io 在 GitHub 开源了终端 Agent 运行时 San，提供单个 12 MB 的原生 Go 二进制，无需 Node.js 或 Python，冷启动约 0.01s，到达模型的 harness 上下文约 2.3k tokens。支持接入 Anthropic、OpenAI、Google、DeepSeek、Ollama 等多家模型，可自定义系统提示词、persona、技能、子 Agent 与 MCP 服务器，并用 san inspector 回放运行记录；其基准测试显示在 claude-sonnet-4-6 上工具调用任务约 3.3s 完成，相比 Claude Code v2.1.112 快 7.9 倍、内存少 7.2 倍，采用 Apache License 2.0。
推荐理由：README 给出了与 Claude Code 同模型条件下的体积、启动、内存和 harness 上下文对比数据，可作为评估终端 Agent 客户端开销的参照。
ibus-voice-ime 是一个 Linux 上的 IBus 输入法引擎，键盘输入复用 Rime（librime + 雾凇拼音），语音输入按 Ctrl+Alt+V 说话、识别后直接上屏，Ctrl+Alt+B 可用免 LLM 后处理的「原文语音输入」。语音识别支持本地 Qwen3-ASR 1.7B（bf16 约需 4GB+ 显存）及云端 MiMo、火山引擎等后端。项目仅在 Fedora 44 Workstation + GNOME（Wayland）+ NVIDIA RTX 4080 上验证过，其他发行版和桌面环境未实测。
该仓库是 Ubuntu 电脑上本地 AI 实验室的知识库，涵盖模型库、Unsloth Desktop、自编译 CUDA 版 llama.cpp、Hermes Desktop、语音输入与代码 Agent。已验证 Qwen3.5-4B Q4_K_M 经自定义 llama.cpp 启动，UI 显示 68.4 tok/s，Qwen3-ASR-0.6B 可识别俄语语音；ASR 与 Hermes 及 TTS 的集成尚未完成，Aider 0.86.2 已安装。
该仓库提供 Qwen3.5-4B 大模型的微调与部署实践内容。包含基于 vLLM 的 Qwen3.5-4B 部署，以及使用 LoRA（结合 ms-swift）的文本微调练习，采用独立 uv 项目管理，涵盖本地模型配置、环境检查和 Jupyter Notebook，并集成 SwanLab。仓库以 MIT 协议开源。
silent-rs 在 GitHub 开源天工（Tiangong），一个基于 Rust 和 Tauri 的个人 AI Agent 智能终端，主程序只负责 Agent 循环、模型接入与沙箱，文件、命令、浏览器、桌面操控、记忆、多智能体等能力全部由插件提供。Computer Use 插件可让 Agent 操作微信、飞书等桌面应用，macOS 与 Windows 完整可用，Linux 仅支持控件树；模型接入适配 DeepSeek V4 接口并支持 ChatGPT 账号（Codex OAuth）登录，沙箱分别用 macOS Seatbelt、Linux bubblewrap、Windows AppContainer 实现。
开源项目 SimpleLLMChat 发布，这是一个 C# 编写的 CLI 和 GUI 聊天/Agent 应用，可在 Windows XP SP3 及以上系统运行。它支持任意 OpenAI v1 chat 兼容端点（如 llama.cpp 和 LM Studio），并提供 RAG 本地知识库检索、图像输入、Markdown 渲染、流式响应和可扩展的工具系统。CLI 可通过 -o 或 --output-only 管道输出结果，便于脚本调用。
freesurf-calories 是一款拍照即可估算餐食热量与蛋白质、碳水、脂肪的应用，无需注册账号，数据全部保存在本地设备。食物分析由自托管的 Llama 3.2 Vision 模型在自有 GPU 上运行，无按张收费的 API 费用，照片处理后立即删除，应用靠少量广告维持免费，订阅可去广告。
GofMan5 在 GitHub 发布 luxury-switchboard，一个把所有 AI 提供商聚合到单个本地端点 http://127.0.0.1:8798/v1 的桌面网关工具，支持 OpenAI/Anthropic 兼容端点、密钥池、按模型路由、用量与成本统计和流式探测测试。工具提供一键 HTTPS 隧道共享模型访问，采用 fail-closed 设计，仅暴露发布的别名且需访问密钥；所有配置与历史存储在本地并加密，MIT 协议开源，提供 Windows、Linux、macOS 安装包和应用内自更新。
推荐理由：这是一个本地网关工具的完整功能与隐私设计说明，读者可以据此评估它能否统一管理多个 AI 提供商的密钥与路由。
AginxOS-next 是一个用 Rust 编写、以 AI agent 为主要用户的黑匣子 ARM 服务器操作系统，人只负责刷机、通电、插网，之后全部操作由 agent 通过 ssh/relay/`agent://` 完成。系统基于 Linux 内核驱动与 Rust 用户态，支持 ed25519 签名的 A/B 分区原子更新，SIP/PSTN 作为 agent 的外呼电话能力。实验机型包括 Google Pixel 5（redfin）和 OnePlus 6（enchilada），服务器级板卡 Panther X2 也是一等公民，平台本身不含任何机型信息，机型差异全部由 devices/ 下的 TOML 配置承担。
GitHub 上线的开源项目 StaticForge（含 Dreamscape 工作区）是一款基于现代 Web 技术构建的 NovelAI API 代理，提供实时 token 计数的提示词工程、图生图、inpainting 遮罩编辑、多视图画廊、多工作区管理与预设 REST API 等功能，面向追求更强组织与工作流能力的重度用户。项目仅限个人使用，须从家庭 IP 访问并设置 PIN 登录保护；按 NovelAI 服务条款第 9 节，公开托管或与他人共享访问属违规，可能导致封号。
GitHub 新仓库 Silo 是一个自托管 Discord 机器人框架，支持可自定义 AI 提供商、高级记忆、实时语音和可扩展架构，可自托管或以 hosted/SaaS 模式部署。技术栈基于 Bun 1.0+、PostgreSQL 和 Redis，AI 侧支持 OpenAI、Anthropic、xAI、Google 及 Ollama/LM Studio 本地模型，并可接入 Langfuse 做请求级追踪。默认响应经有界的 LangGraph 编排层处理，图结构无环、不运行自主 ReAct 循环，并设置了工具调用、网页搜索和媒体生成的数量上限与输出安全 guardrail。
ShiftAboveCtrl 发布开源项目 AI17Z（MIT 协议），一个本地优先的持久自主 AI Agent 平台，将身份、人格、记忆、关系、信念、目标与策略从模型中分离，使更换 OpenAI、Anthropic、OpenRouter 或 Ollama 等模型后 Agent 仍保持同一记忆与语气。数据全部留在本机：Postgres 数据库、浏览器配置、密钥与记忆不上传，无遥测，密钥以 AES-256-GCM 加封。事件不可变、任务可断点续跑，三层由数据库强制的幂等防止重复动作；浏览器渠道通过 CDP 驱动真实 Chrome，遇 CAPTCHA 或二次验证会停下等人处理，无绕过方案。
King-Technical-Consulting 开源的 ws 是一个由单个 Go 二进制、Postgres 和一次登录组成的自托管 AI 工作台。它支持按成本与请求类型路由到本地模型（llama.cpp、vLLM、Ollama）或 Anthropic、OpenAI、OpenRouter 等托管模型，提供可观察的 Docker 沙箱编码模式、长期运行的定时/webhook 触发智能体，并可将 Claude Code 指向 ws 作为网关。项目采用 PolyForm Noncommercial 1.0.0 许可，属 source-available 而非开源，尚未经过独立安全审查。
/u/jesdga95 发布开源（MIT）推理引擎 Basalt，是 Strata 的深度调优分支，仅支持 Qwen3.8 Flash-Next 与 Blackwell 架构。作者在 5090+5060 Ti 上实测 665 tok/s structured、354 prose、64k prefill 7317 tok/s（400W），单 5090 为 585/316；支持最多 8 用户并发（8 流共 623 tok/s）、自研视觉编码器（比 llama.cpp 快最高 3-4 倍）、OpenAI/Anthropic 兼容 API，仅支持 Linux。
推荐理由：作者实测给出了单卡与双卡的吞吐数字和量化选项，可作为 Blackwell 本地推理引擎选型与调优的参考。
noonghunna 发布 benchlocal-cli，一个面向任意 OpenAI 兼容端点运行 LLM 行为评测包的 CLI，采用确定性 verifier 判分而非 LLM-as-judge。v0.9 加入 aider-polyglot-30（基于 Aider-AI/aider 的 benchmark.py，覆盖 cpp/go/java/js/python/rust 共30题），并内置 BenchLocal 的8个 MIT 许可评测包、可选推理套件（HumanEval+、LiveCodeBench v6、GSM-Symbolic、GPQA-Diamond）。
推荐理由：README详述了各评测包、确定性判分器和Docker沙箱机制，可了解如何在CI中给量化模型做可复现的质量门槛。
dsh-ui-usage-billing 是 DSH 的用量计费插件，把计费做成可对账的账本链路：用量从持久化会话日志实时聚合，内置 24 厂商 77 款模型价格并支持自定义单价。计费按当前会话模型自动识别峰谷通道（DeepSeek 分时价高峰 ×2、智谱 Coding Plan 非高峰积分 5 折），支持 DeepSeek / Kimi / 智谱 GLM / 腾讯云 TokenHub 等 7 家官方余额交叉对账，费用按缓存命中 / 未命中分桶，偏差超阈值（0.3 元且 >15%）主动提示。
作者在 i9-13900HX + RTX 5060 Ti 16GB + RTX 4060 Laptop 8GB、32GB 内存的笔记本上，用 Strata 0.1.41 引擎跑 Qwen3.8-Flash-Next Q2_0（62 GB MoE）做了四轮基准测试，并开源了全部脚本与数据。核心结论包括单次测量速度可摆动 8 倍、prompt cache 会把 prompt_n 从 1259 污染到 5、KV cache 复用后多轮 TTFT 从 137.8 秒降到约 0.4 秒、双卡长 prompt prefill 快 8.4 倍、KV cache 不磨损 SSD、q4_0 长文档 perplexity 高 8~12%。
推荐理由：作者推翻自己两版错误方法论后才得出可信数据，给出单次噪声8倍、cache污染等教训，对想做本地基准测试的人有直接可迁移价值。
Devinorium 是一个自托管的 AI 编码智能体 Web UI，后端用 Rust、前端用 Flutter web，通过浏览器操作编码智能体，provider 层可插拔。当前支持 Devin CLI、OpenCode、Codex CLI 和 Grok Code 四种 provider，默认模型为 glm-5-2，支持卫星节点联邦、桌面端打包服务器和全局通知，采用 AGPL-3.0-only 许可证。
xzyozi 发布了 LocalLLM-Feed，一个基于 GitHub Actions 和 GitHub Pages 的本地大模型每日 TL;DR 订阅源，每天从 Hugging Face 抓取 GGUF 模型动态，帮助用户按硬件显存和速度与精度需求筛选模型。后端只提取参数量、量化格式、蒸馏标记等事实，总分由前端根据用户 VRAM 设置在浏览器端动态计算排序；支持一键导出 Bash 环境变量（自动估算 n_gpu_layers）或 Ollama Modelfile。采集条件与打分权重通过 config/ 下的 TOML 配置调整，无数据库和服务器，运行成本为零。演示地址 https://xzyozi.github.io/LocalLLM-Feed/ ，MIT 许可。
GitHub 上的 cpu-slm 项目以简单直观的方式帮助用户理解 SLM 与 LLM 的内部工作原理。工具要求 CPU 支持 AVX2 指令集、至少 4 GB 内存和 100 MB 磁盘空间，支持 Windows、Linux 和 macOS 跨平台运行。应用内置教程与文档，并提供 Wiki 深入讲解 AVX2、Transformer、SIMD 等相关技术。
harn3ss 发布 open-infra，一个完全自托管、兼容 AWS 协议的云平台，SigV4 认证下支持 25 项 AWS 服务。用户可沿用现有 AWS SDK、CLI、Terraform 或写一份 infra.yaml 声明意图，由 GitOps 自动调和托管数据库、对象存储、队列、GPU 推理等资源。平台基于 k3s、MinIO、Knative 等 CNCF 项目构建，按 NIST 800-53 控制框架设计，费用为 $0。
LumaBrowser 正式开源并公开托管在 GitHub 上，发布一年来已有数千次安装。该本地 AI 生态项目内置 LLM/图像/音乐/语音模型的自动引导配置，可按硬件能力自动加载和卸载模型，支持局域网 Web 服务器、多机集群组网、agent 创建、定时与触发任务，以及 JetBrains 和 vs code 插件。此外还提供 RAM pinning 保持模型驻留、自定义 llama cpp 构建保留对话缓存、日历与任务聚合 dashboard、标签页实时共享等功能。
/u/zipzak 在 5090 + 192GB Windows 机器上，对 Qwen3.8-Flash-Next Uncensored（abliterated checkpoint）做了 Strata 0.1.41（Q4_K_S）与 Infernix 2026.10.09.2（NVFP4）的同日 A/B 评测。结果为 Infernix 512k 上下文解码 137.0 tok/s、冷预填充 3,497 tok/s，262k 下比 Strata 快约 23%；两者 PPL 统计持平，视觉功能均可用，作者将 Infernix 作为日常主力。
推荐理由：作者在同一硬件与同一推理契约下对两个推理引擎做同日 A/B 实测，给出了解码速度、预填充、质量和冷启动数据，方法可参考。
开源自托管 AI 工作区 ENZO 更新至 v1.4.0，支持 9 个提供商共 300+ 模型，密钥以 AES-256-GCM 封存在浏览器，无需账号与订阅。v1.4.0 新增聊天内文件转换（PDF、表格在浏览器本地解析）、Google Colab 一键部署与自愈 Docker 拉取；CI 每次推送运行含 44 条断言的黑盒渗透测试和零密钥启动证明，仓库以 Apache-2.0 许可开源。
推荐理由：原文给出了架构、密钥加密方式和CI安全测试的具体做法，对想自托管多模型工作流的读者有可参考的工程细节。
TensorFold 发布 1.0.4，用 Zig 二进制在 Apple Silicon 和 NVIDIA GPU 上直接读取 checkpoint 并通过 Metal 或 CUDA kernel 提供模型推理服务，无需安装 Python 或 MLX。API 默认监听 127.0.0.1:8080/v1，兼容 OpenAI chat completions、completions、Responses 和 Anthropic Messages；已通过认证的模型包括 Nemotron 3.5 Lightning 30B-A3B、Qwen3.8 Flash Next、GLM-5.3-Flash 等，27B 模型可配 DFlash2 drafter，但目前 prompt 处理速度低于 mlx_lm。
推荐理由：一个不依赖 Python 的本地模型推理引擎，支持 Metal 与 CUDA 和多种模型格式，还提供实验性的权重在线学习功能，适合关注本地部署的读者。
SeasonRealms 在 GitHub 发布 SeasonImage，一个围绕 stable-diffusion.cpp 的 .NET 封装库，聚焦简单的文生图工作流。它通过 P/Invoke 包装 stable-diffusion.dll，包内自带 Windows x64 原生运行时，支持 CPU、CUDA、Vulkan 后端，可用 NuGet 安装（dotnet add package SeasonImage）。后续可在同一原生绑定层上扩展 img2img、controlnet、upscaler 等功能。
SeasonRealms 开源了 SeasonLLM，一个围绕 llama.cpp 的 .NET 封装库，用于本地 GGUF 文本生成。它提供模型/上下文分离句柄、流式输出、GBNF 或 JsonSchema 约束生成、模型初始化时加载单个 LoRA 适配器，以及通过 mmproj 加载匹配投影文件的单图多模态问答，支持 gemma-4-E4B、Qwen3.5 等 GGUF 模型，示例使用 ContextSize 8192 并可选 cpu、cuda0、vulkan0 后端。
GitHub 开源项目 DOC-OC v6 用统一视觉语言模型管线替代传统多级 OCR 级联，可离线提取印度多学委会（CBSE、ICSE、UP、Haryana 等）成绩单。优化后的 Gemma-4-E2B 平均延迟从 27.12s 降至 6.28s（4.32x 加速），JSON Schema 遵循率与人名、分数精度均达 100%，VRAM 占用 3.2 GB，每页成本 $0.00。其 C++ GBNF 约束解码使 JSON 语法错误在物理上不可能发生，并通过自愈算术校验总分。
GitHub 开源项目 hifi-llm 是一个轻量级、OpenAI 兼容的反向代理，可将请求按模型名路由到多个 LLM 后端，提供统一的 /v1/* API。它支持 SSE 流式透传、可热重载的 YAML 配置、插件系统，并可通过可选 Bearer token 实现单一全局 API key 认证。