新闻、仓库与研究，按时间排列。
KaletoAI 在 GitHub 开源了 anima-verse，一个 LLM 驱动的角色模拟器，AI 角色可聊天、按米制地图旅行、更换服装和活动，场景经图像生成后端渲染，并可在 Three.js 3D 客户端中行走。项目采用 Python/FastAPI 后端与 React 前端，支持多提供商 LLM 路由、分层记忆整合、意图系统、LoRA 库和 XTTS v2 等语音后端。项目处于 Alpha 阶段，由单人开发者以 vibe coding 方式构建，含成人内容能力但 NSFW 包单独分发，采用 source-available 非商业许可证。
推荐理由：原文详细描述了把 LLM 对话与图像生成作为一等机制整合的架构与路由设计，读者可以借它了解这套活世界模拟器的搭建方法。
开发者 Aqsa Jamali 在 GitHub 发布开源项目 AI Study Assistant，这是一个基于 Streamlit 的云端学习平台，支持上传 PDF 和 Word 文档并用 LLM 对话。项目可在 Gemini Pro 与 Groq Cloud 推理引擎间实时切换，提供 AI Tutor Room、笔记结构化、测验生成和概念解释四模块工作台，代码通过 Git/GitHub 托管并部署在 Streamlit Cloud。
开发者发布 EasyWhisperUI 3.0，为 OpenAI 开源语音识别模型 Whisper 提供接近一键式的本地部署界面。本次更新重做了界面、简化安装并修复大量 bug。应用完全本地运行、免费、开源，支持 Windows 和 Mac，旧版本有 Linux 移植版，靠捐赠维持。
Reddit r/LocalLLaMA 用户实测并排出了能在 10-16GB VRAM、26-32GB RAM 下运行的模型榜单，要求 64k 上下文、每秒至少 10 token，冠军为 Gemma 4 26B-A4B，其后是 Qwen 3.6 35B-A3B (Abliterated) 和 Gemma 4 Instruct 19B-A1B Heretic。测试覆盖速度、连贯性、多语言容错、slop 模式频率和审查程度，并排除了所有 CoT 模型。作者提示 Kobold 无法加载 Qwen 35B 和 GLM 31B，需用 LLAMA 运行。
dgdevel 发布 llmkit，一个 C11 编写的单静态二进制，提供 repl、agent、call、runner 等 9 个命令，用于在 shell 和程序中与 LLM 交互。支持任何 OpenAI 或 Anthropic 兼容端点，内置 web 搜索、文件、进程执行等 13 个通用 MCP 工具，agent 模式可用 --conversation-store 以 l 持久化并恢复会话，定位是低 token 用量的本地 LLM 用户。工具以 MCP 服务器形式接入，支持 stdio、streamable http 和 sse 传输直至 2026-07-28 协议版本，当前版本仅支持文本，以 EUPL-1.2 许可开源。
Yii 官方发布 yiisoft/demo-summarizer，一个可运行的 Yii3 演示项目，支持上传 Markdown、HTML、PDF、DOCX 等文档，提取 markdown、生成本地摘要并跟踪处理进度。单次最多上传 20 个文件、每个 50 MB，文件存入 S3 兼容存储，任务经 yiisoft/queue 处理，默认通过 llama.cpp Docker 服务用 gemma-3-1b-it-Q4_K_M 模型（4096-token 上下文）做摘要，测试可切换确定性 mock 摘要。
Mojeda01 在 GitHub 发布 Resonance Agent Infrastructure，一个用 C 写在 llama.cpp 之上的本地 LLM 推理与 agent 运行时。它以常驻 daemon 方式扫描目录并按需加载 GGUF 模型，通过 Unix domain socket 和紧凑二进制协议通信；每个会话使用独立的 KV cache sequence 保留上下文，流式返回 token 及 TTFT 和 tokens-per-second 统计，并内置工具循环，可执行读写文件和带超时与输出上限的 shell 命令。构建需 CMake ≥ 3.16、C11 编译器和 llama.cpp，产出交互 agent 和 daemon 两个二进制。
Resume-Matcher 是一款免费开源的 AI 简历工具，用户上传主简历并粘贴职位描述后，可生成针对该职位的定制简历、求职信和面试准备内容，并支持简历匹配评分、关键词高亮和 PDF 导出。项目在 GitHub 上获得 27k+ stars 和 4.9k forks，需 Python 3.13+ 与 Node.js 24+，支持 Ollama 本地运行或 Claude 订阅（通过 Claude Code CLI）等 AI 提供商，界面提供英语、中文、日语等多语言。 同步自 @cartesi中国人名大词典 等公开资料，如有侵权请联系删除。
开源工具 RedactFlow 结合正则校验规则与本地大模型，在文档离开本机前自动检测并脱敏 PII。其混合检测引擎用 Luhn、mod-97 等算法校验信用卡、IBAN，并通过 Ollama 运行 Qwen 2.5 识别人名和地址，配合反幻觉校验。在 30 份合成文档评测中，整体召回率从 60.0% 提升到 89.1%，单文档处理约 0.67 秒，比人工脱敏快约 75 倍。
Reddit 用户分享 Project Maya，可在自有 GPU 上本地运行 GLM-5.3-Flash（321B 参数、每 token 约 18B 激活、最高 1M token 上下文，MIT 许可）。作者从原方案的约 10 tokens/s 提升到 30 tokens/s；项目称四张 RTX 4090 上可达 118 tokens/s，单张 RTX 5090 达 30+，自有量化保留 FP8 模型 97.7-99.2% 的 zero-shot 精度，并提供 OpenAI 与 Anthropic 兼容 API。项目地址 https://github.com/mw00/project-maya。
推荐理由：作者给出单卡与多卡的具体 token 速度和量化精度数据，想本地跑 GLM-5.3-Flash 的读者可以据此估算自己的硬件门槛。
wacomctl672 在 Hugging Face 发布 Swift-1.5-Qwen3.8-27B-Uncensored-ninfer3090，这是基于 d0xin abliterated 检查点、面向 ninfer-3090 转换的量化产物，并集成了 z-lab/Qwen3.8-27B-DFlash2。基座为 Alibaba Cloud 的 Qwen3.8-27B（Apache 2.0），指令微调来自 UkisAI 的 Swift-1.5-Qwen3.8-27b。Swift Open License v1.0 规定年营收低于 $1,000,000 USD 的实体可免费商用，超过需与 UkisAI 达成商业协议。
Reddit 用户 /u/zainfear 发布开源 Windows 托盘工具 GamePause，在启动 Steam、Epic、GOG 等游戏时自动卸载 LM Studio/Ollama 模型释放 VRAM，游戏结束后自动恢复。工具支持按游戏配置规则、手动控制和崩溃恢复，工作在模型服务器层面，Rust 编写、MIT 许可、无遥测，代码在 https://github.com/Vkuparin/gamepause-for-local-ai 。
/u/matteiuspi 在两张 96GB Ascend 310P 卡上用 vllm-ascend 跑通 GLM-5.3-Flash（320B 参数 MoE，每 token 约 18B 激活，45 层 288 专家 top-8），经 W2/W3/W4 量化后达到约 8-9 tok/s，已验证单请求最高 311,040 tokens、按 640-token prefill 分块、最多 4 路并发。作者实现了模型权重常驻下的模块热更新加速实验迭代，另在第三张卡上跑通 qwen3.8-flash-next 并支持 YaRN 1M 上下文，还提出将部分权重卸载到 Ascend 的 Ascend Sidecard 设想；作者称 Codex 能协助写融合 kernel，而 Claude 拒绝讨论 Ascend 架构。
GitHub 新仓库 meta-xucong/alchemy-media-agent 发布了 Alchemy 图片生成 Agent 的第一版开发文档，含 36 份 Markdown 文档、OpenAPI YAML 接口草案、Mermaid 架构图和 Python/FastAPI 代码骨架。技术路线采用双层编排：Claude Code/Claude Agent SDK 作为中枢调度，OpenAI Agents SDK 承载高频请求和专业 agents。仓库内置 Docker Compose 与 GitHub Actions VPS 一键部署，默认端口 8017，视频生成已移交给 aiself 独立平台。
mustafa-ozen95 在 GitHub 发布 Nedese Studio，一个 Windows 本地 AI 媒体工作室，覆盖图像、视频、语音、音乐、3D 模型、单片短片生成、口型同步、模型训练与数据采集，全部在本机运行、不外发数据。
推荐理由：原文完整列出了各子系统的模型选型、12 GB 显存实测环境和部署细节，可作为在本地搭全套媒体生成流水线的可复用参考。
开源项目 Candela 提供自托管的用户行为分析平台，支持事件分析、漏斗、留存、群组、看板与告警。它可与 ClkLog 社区版配合使用，共享同一 Kafka 事件流，采用 AGPL-3.0 协议，提供 13 种界面语言，并号称完全由 AI 编写。项目支持单机 Docker Compose 部署，可选的 AI 分析助手默认关闭。
GitHub 仓库 GWAYA（Gwen-Laya Open Model）是一个零信任、fail-closed 的验证层，只有真实编译器和沙箱执行确认成功才接受代码生成模型（如 Qwen / Gwen 系列）的候选代码，无法验证时标记 UNVERIFIED。在 MBPP-sanitized 基准上对 qwen2.5-coder:1.5b，A3（Best-of-3 + 3 轮自修复）在 n=257 复现中 pass@1 提升 +7.78 个百分点（McNemar p<0.001），但未达到预注册的 +8.0 门槛，如实报告为 FAIL；仓库已撤回早期未经核实的 +8.0 以上声明。
HUPI 发布了一个自托管记忆网关，以 OpenAI Chat Completions API 兼容接口架在现有 AI 客户端与 LLM 供应商之间，每轮对话前注入相关记忆、之后持久记录，支持加密、多租户、供应商无关切换与审计。每条记忆独立对照来源核实，所有检索决策可事后查验；Tier 1/2（单用户网关、检索、整合、加密、管理 UI 与 CLI）MIT 开源，Tier 3 团队共享版另行商业授权，项目仍在开发中并附 LoCoMo/LongMemEval 基准。
推荐理由：原文交代了记忆网关的架构、供应商无关设计和三层授权划分，读者可以评估这套自托管记忆方案是否适配现有客户端。
GitHub 上的 dvf-text-to-sql-api 仓库实现面向法国 DVF 房产成交数据（Gironde，2021-2025）的 Text-to-SQL 引擎，输入法语问题，输出答案、澄清问题、"数据无法回答"或拒绝四种行为之一。引擎调用 Claude（默认 claude-opus-5-5）执行只读 SQL，配套 dvf-text-to-sql-eval 提供 143 道带标准答案的评测题，每次改动先过 eval-v1.1，基线打分后才推出 HTTP API；每条语句经 sqlglot guard、只读事务（30 s 超时）和 prepared statement 三层防护，也可通过 Ollama 接入 qwen3:14b 等本地模型。
mandoof1 在 GitHub 发布 HoneySentinel，一个自托管蜜罐与调查平台，仿真 SSH、Telnet、FTP、HTTP/HTTPS 协议并加密记录攻击者行为。分析流水线完全本地运行，包括基于 CIC-IDS2017 训练的 Random Forest 分类器、签名规则和经 llama.cpp 本地部署的 Kev-4B 决策模型与微调 LLM Wolfram；还支持把识别到的攻击者静默转移到网站的诱饵副本。参考服务器评测显示分类器准确率 0.9967，NFR-2 分类在 10 并发内 100% 于 200 ms 内完成。项目标注为 capstone 平台，尚未捕获真实互联网流量。
Postward 开源 postward-creative-mcp，一个完全本地运行的 MCP 服务器，通过 Docker 提供 23 个工具，让 Claude、Cursor、Codex 等助手用自然语言完成视频与图片编辑。底层是 ffmpeg（16 个视频工具）和 ImageMagick（4 个图片工具），全程零网络调用、无需 API key 或账号、无水印无上传，输出附带 filePath、MIME、bytes 和 SHA-256。另有可选的 prepare_for_postward 工具为 Postward 托管版生成、审核与发布流程做元数据交接。
推荐理由：一个零联网的本地媒体编辑 MCP 服务器，用自然语言驱动 ffmpeg 和 ImageMagick，适合关心隐私和本地部署的用户。
Flux AI Image Generation Suite 2026 是一款 Windows 桌面应用，集成 Flux、Stable Diffusion 3（SD3）和 Aurora 三种模型，支持本地运行、无需联网。它提供提示词库管理、分辨率/采样步数/CFG scale/seed 等参数微调及批量生成功能，支持 CPU 和 GPU 加速。推荐配置为 16 GB 内存、RTX 20 系列及以上显卡，通过 Mostway Launcher 一次性安装，无订阅费用，2026 年内计划持续更新。
ggddffdd 在 GitHub 开源 AgentDesktop v4.260.4，一个常驻 Windows 桌面的本地 AI Agent 工作台，含系统托盘常驻、全局快捷键、最多 8 步的多步推理 Agent 循环、45+ 内置工具、多模型智能路由、MCP 扩展和 Agent 军团多智能体协作。技术栈为 Python + PySide6 + OpenAI 兼容 API + Chroma 向量库，内置 DeepSeek、Agnes、硅基流动、智谱 GLM、腾讯混元、魔搭 ModelScope 预设，经脱敏后开源，供学习参考与二次开发，许可证限学习与个人使用。
开源项目 Job-Scout 发布，这是一个隐私优先的 RAG 求职平台，用本地 Llama-3.2-3B-Instruct 和 all-MiniLM-L6-v2 实现简历与职位的语义匹配及求职材料生成，数据不出本地。它基于 Next.js、FastAPI、PostgreSQL（pgvector）和 Redis 的微服务架构，HNSW 索引将查询延迟从约 140ms 降至约 9ms，并支持 Celery 定时抓取 LinkedIn、Indeed 等平台的职位。
开发者 samiZZZ67 在 GitHub 开源 Free LLM API，将 34+ 家免费 AI 供应商与 600+ 模型聚合为一个 OpenAI 兼容的 /v1 端点。网关支持智能动态路由与自动故障转移，遇到 429/5xx 时无缝切换供应商，集成 Google AI Studio（Gemini 2.5 Flash/Pro）、Groq（Llama 3.3 70B、DeepSeek R1）、Cerebras（1,000+ tokens/sec）等，并采用 AES-256-GCM 加密存储凭证及 SSRF 防护。项目支持 Docker、桌面应用部署，可接入 Cursor、Claude Code、Cline 等客户端。
开源项目 OllamaRAG 整合 Ollama、LangChain 和 Streamlit 聊天界面，让用户轻松搭建可从网站学习并检索在线信息的对话式 AI 助手，支持本地优先运行。项目要求 Python 3.7+、8 GB 内存和 1 GB 磁盘空间，支持 Windows 10+、macOS 10.15+ 及主流 Linux，采用 MIT License 开源并欢迎社区贡献。
CCSSNE 在 Hugging Face 发布基于官方 QAT 权重的 HauhauCS 去对齐版 Gemma4-31B，实测 0/465 拒绝，数据集和能力不变。提供 Q4_K_M 主模型（18.7 GB）、mmproj 视觉文件（1.2 GB）和来自 Unsloth 的 MTP 投机解码头（280 MB），经 llama.cpp 测试生成速度约快 53% 且输出一致；支持 256K 上下文与图像输入，兼容 llama.cpp、LM Studio、Jan、koboldcpp 等 GGUF 运行时。
推荐理由：原文给出拒绝率实测结果和 llama.cpp 部署命令，还说明 QAT 4-bit 量化选型理由，可作为去对齐模型的参考样本。
OpenMed 维护者发布 3.0 版本，这是一个 Apache-2.0 开源医疗 AI 工具包，坚持患者数据不出本地、无 API key、不回退云端，Hugging Face 上有 2200+ 开放模型，可用 Transformers、ONNX、GGUF、llama.cpp、WebGPU/WASM 或手机运行。3.0 新增 Patient Journey，把临床笔记、FHIR、HL7、化验 CSV 和影像报告整合为单个患者时间线，约 0.07 秒完成演示；设计上拒绝猜测，99% 身份匹配也不自动合并，诊断冲突和修正值均保留并标记待人工审核，日期缺失不补造，本地模型未下载时拒绝摘要而非调用云端 API。作者说明演示患者为合成数据，摘要管道 3.0 仅支持合成数据。
一个 27B 级推理模型以三值权重形式发布 llama.cpp 版本，语言模型约 5.9 GB，比 FP16 小约 9.3 倍，保留 98.2% 的 FP16 智能水平。14 项 thinking 模式基准平均 84.78，明显高于 IQ2_XXS 的 72.59，接近体积大三倍的 UD-Q4_K_XL；Apple M5 Max 笔记本上约 47 tok/s，支持 262K token 上下文，提供 PTQ1_0 和 PQ2_0 两种 GGUF 打包。
作者更新其针对 Qwen3.8-27B 的 CUDA megakernel 引擎，单张 RTX 3090 上写代码速度 140 tok/s，对比 llama.cpp（含 MTP）的 73 tok/s 快约 1.9 倍。精度方面与 llama.cpp 的 KL 散度为 0.0009，1K 上下文困惑度 2.4274 对 2.4283，作者称无可测质量损失；投机解码为精确采样。仅支持 24 GB 以上 RTX 30/40/50 系列单卡，目前只在 3090 上调优，代码与基准见 https://github.com/L-Forster/open-jet/tree/master/megakernel。
推荐理由：作者补充了与 llama.cpp 的 KL 散度和困惑度对照数据，本地部署用户可据此评估这个 3090 单卡加速引擎的精度与速度取舍。
QuotaFuse 是一个独立的 Apache-2.0 开源本地代理，用于处理 OpenAI Data Sharing 补充 token 流量，提供 Responses / 部分 Chat Completions 代理、SQLite 配额预留和独立的组织级 Usage 收集器，可拦截不确定或超额请求。它采用 fail-closed 设计：无法原子查询官方剩余免费额度，在缺少已确认的注册、项目流量隔离等安全前提时会暂停真实 API 请求，且不提供自动付费回退。需 Node.js 22.13+，通过 `npm run start:local` 等命令运行，并支持 OpenCode / Codex / Claude Code 智能体安装。
一位 Reddit r/LocalLLaMA 用户用 Ryzen 9 AI HX 370、W7800 48GB eGPU 和 LM Studio 0.4.25 测试 QWEN3-CODER-30B-A3B-INSTRUCT-UD-Q8_K_XL 生成图片放大 webapp。VS Code + Cline 走 LM Studio endpoint 时，Vulkan 和 ROCm 分别在 310 秒和 250 秒一次成功生成 56kb / 71kb 的可用 html+js；而走 Ollama endpoint 时，agent 堆出 290MB 的 node_modules 项目，"Browse files" 按钮和拖拽功能反复修复 57 分钟仍失败，重复测试 20 分钟后才可用。
minas2025 在 Hugging Face 发布 Qwen-3.5-2B-StupidChat-Uncensored（F16）模型，可在本地以 OpenAI 兼容服务器或命令行方式运行推理。模型支持通过 llama.cpp、Ollama、Docker Model Runner、Lemonade 等工具拉取使用，也可接入 Pi、Hermes Agent、OpenClaw 等智能体框架。
Gemma4-26B-A4B-QAT-Uncensored-HauhauCS-Balanced-MTP（Q4_K_M，已移除拒绝回复）以 NInfer v3 格式发布，单个 .ninfer 文件 15.88 GiB，逐字节保留原 GGUF 块、不重新量化，并用随附的 MTP draft 头做投机解码。模型为文本模型，支持最多 8 个并发请求、提示词前缀复用、结构化输出、OpenAI 格式工具调用与可选思考模式；在 RTX 3090 上开发测量，权重占 15.6 GiB 显存。
开源项目 Latentry 发布，这是一个运行在本机的隐私优先图像生成 Web UI，可调用自带 diffusers 引擎或 A1111、ComfyUI、diffusers 后端，支持 txt2img、img2img、inpainting 和 3D 骨骼姿势控制。每张图保存时嵌入生成设置，图库支持按 prompt、model:、seed:、steps:>=30 等条件检索并回填参数，内置 WD14 打标签，无遥测、默认只监听 127.0.0.1，需 Node.js 22.19+，MIT 许可。
推荐理由：项目把生成、带嵌入设置的图库检索和 WD14 标签串成一套本地流程，隐私设计的具体做法对想本地跑图的人有参考。
GitHub 开源项目 perplexed-ai-answer-engine 提供 Perplexity 风格的 AI 搜索助手，用大语言模型结合实时网络搜索生成带引用来源的回答。后端采用 Node.js + TypeScript + Express，通过 LangChain 编排网页、学术、图片、Reddit、视频、YouTube 等多个专用搜索 agent，支持流式响应和后续提问；搜索底层用 Docker 自托管的 SearXNG，不依赖第三方搜索 API。项目仅供教育和个人使用。
GitHub 开源项目 daily-pixel（The Warden's Oak）是一款跨越真实日历年的 Discord 叙事 RPG，玩家每天获得两次 d20 掷骰（周末更多）来旅行、休息或行动，缺席的角色会在篝火旁休息。项目分四阶段推进，当前处于 POC 阶段，计划引入 co-op、NPC 基础与 LLM 叙事，底层使用 SQLite，并通过 OpenRouter（含 DeepSeek host pin）调用 LLM，面向约 8 名玩家优化。
llama.cpp 的 probabilistic MTP PR（#27694）已合并，作者提醒用户更新 llama.cpp 尝试。实测 prose 生成解码提速约 14%，最优 draft-n-max / draft-p-min 与 greedy sampling 一致，测试在关闭 thinking 和 ngram-mod 的情况下进行，代码见 https://github.com/ggml-org/llama.cpp/pull/27694。
Adolphsson 发布 DeepSeek-V4.1-Flash-UNCENSORED 的 GGUF 量化版本，基于 dealignai 对 deepseek-ai/DeepSeek-V4.1-Flash（552B MoE，1M 上下文）的权重级 abliteration 结果转换。提供 Q8_0（508 GB）、Q4_K_M（449 GB）、Q3_K_M（374 GB）三种量化及 BF16 视觉 projector，Q4/Q3 为从 Q8 两步 requant，敏感层用 Q5/Q6/Q8；模型推理电路已按 OrcaSAQ 风格做敏感度感知量化，完整 1M 上下文（KV 约 890 bytes/token）。
推荐理由：不只放出去对齐权重，还给出逐量化的拒绝率与 NIAH 实测和 CPU 部署配方，读者可据此评估质量损失。
zzpanic 发布其自建 vllm-radiance 推理构建的最终修订版，针对单张 R9700 GPU 运行 qwen3.8-27b。该版本加入 vllm 启动缓存以避免每次重启重新编译，并实现可用的 kv-offload 功能（vram-sysram-disk，带内存精简），使长上下文多智能体工作可在单卡上运行。作者表示已不求进一步提速，该构建参考了 Launch80 Discord 上多位社区成员的工作。