新闻、仓库与研究，按时间排列。
开源工具 Model Depot 0.6.6 发布，提供 Windows 安装包，采用 GNU GPL 3.0 协议，支持中英文界面。它扫描本机的 Checkpoints、扩散模型、LoRA、VAE 等文件，通过 SHA-256 指纹在 civitai 识别模型并下载更新，为每个模型保存推荐设置卡片，ComfyUI 等程序可通过本地 HTTP API（/api/v1/）读取模型列表。所有数据存储在本地，要求 Windows 10/11、NVIDIA RTX 20 系列及以上显卡，约 9 GB 空间。
Kotatsu 0.8 发布，这个 SillyTavern 的分支首次推出 Android 应用，可用 .apk 在手机上完整运行。新版本带来 Natsumikan 默认主题、开启 sprites 后的视觉小说式点按翻页界面、重新设计的 Card Studio（可从一张图在自己 ComfyUI 上生成整套角色立绘），以及消息分叉后的故事线地图。API keys 和本地网络模型可直接使用，Kimi K3.1 Pro 开箱即用，Claude Code 和 ChatGPT 计划仍需电脑配对；作者表示下一步是新的记忆系统与总结器，且不打算加入跑团、骰子类功能。
推荐理由：作者是项目维护者本人，逐项列出 Android 版、视觉小说界面和角色立绘生成等实际更新，还预告了下一步记忆系统计划。
kakuyo1 在 GitHub 开源了 Lens，一个 Windows 托盘划词工具，选中单词、名字或句子后用更简单的英文就地解释，默认不翻译，支持中英西日四种解释语言切换。内置本地 OCR（Ctrl+Alt+S 框选 PDF、图片或视频画面）、Known/New 生词表与 10 分钟到 60 天的间隔复习，可接入 DeepSeek、OpenAI、Gemini、OpenRouter、xAI、Moonshot、Zhipu、Qwen 或自定义 OpenAI 兼容端点，显示每次请求成本并支持每日预算上限；同步数据经口令加密存入用户自己的 GitHub gist，OCR 与约 168,000 词的词表在本地运行，MIT 协议，仅支持 Windows 10/11 x64。
开源项目 HRAgents（Apache-2.0）为只有一名 HR 专员的团队提供五个智能体，覆盖招聘、薪酬等流程，采用「提取—评分—把关—沟通」管线：LLM（PydanticAI）只做结构化提取，确定性代码打分，重大决策须由真人签字。项目含 1287 项测试、CI 覆盖率 90%，支持 Docker 自托管、完全本地运行，尚无公开发布版。
zhouboshi1998-droid 的 nf-llm-station 仓库提供一套静态站点部署包，包含全球大模型产业动态入口页 index.html 和 SemiAnalysis 研究专题页 sa_index.html。内容由 vault 中的 build_site.py 生成，部署到 Cloudflare Pages，更新需在 vault 重新生成后覆盖提交。
基于开源项目 automated-news，每天在 GitHub Pages 发布最多 20 条西语科技新闻摘要和热门仓库，默认使用 DeepSeek 的 deepseek-v4-flash 模型做筛选与撰写，也可切换为 claude-code。RSS、Hacker News 和 GitHub Trending 抓取去重后，由 LLM 仅做选择和撰写并经 JSON Schema 验证，每期以 JSON 存入仓库，通过 GitHub Actions 与 Eleventy 3 自动部署，无需服务器或数据库。
ChatBud 是一个基于 Flutter 与 Firebase AI 构建的生产级有状态多智能体消息工作区，采用 100% 免费 serverless 架构。其端侧 Grounded RAG 引擎接入 Frankfurter、Open-Meteo 等实时公开 API 并提供带时间戳验证的引用徽章，内置 16 个精选智能体的开源 Persona Hub、Exeter 学术智能体、双层向量记忆，支持 BYOK 在 gemini-2.5-flash、gemini-2.0-flash、gemini-1.5-pro、gemini-1.5-flash 间切换，提供免登录访客模式与桌面/移动响应式布局。
meshkore 在 GitHub 发布 Zaelar，一个自托管的语音优先个人 AI Agent，本地 LiveKit 语音链路由 FlashBrain 在一秒内应答，耗时任务交给基于 Claude Code CLI 的 Brain Worker 后台执行。记忆为单个本地 SQLite 文件（向量、FTS5、图与遗忘机制），每轮蒸馏并夜间整合；支持 Google、Telegram、WhatsApp、Spotify 等连接器，默认模型为 DeepSeek、OpenAI、Deepgram、Inworld 等，需 Python 3.11+ 和约 3 GB 磁盘，采用 Sustainable Use License 1.0，个人使用免费但不可商用。
推荐理由：README 完整公开了双脑架构、SQLite 记忆方案、默认模型表和端口布局，想自托管语音 Agent 的读者可以直接照着部署。
GitHub 项目 Prompt-Engineering-Tutor 是一个基于课程笔记回答提示词工程问题的 RAG 聊天机器人，使用本地 BM25 检索并自动扩展缩写（如 CoT），配合 LLM 流式输出答案及可展开的来源引用。其支持多种答案风格、多供应商回退（Groq、Gemini、OpenRouter、Cerebras）、滑动窗口限流（默认每小时 300 次查询），并提供 Streamlit 界面与单元测试。
作者 /u/Distinct-Pie2389 提交的 Berth 工具支持引擎把权重驻留到系统内存，ComfyUI、vLLM、SGLang 等支持 park 协议的引擎可从内存恢复而非从磁盘重载，仅在测得 RAM 覆盖引擎加余量时驻留，内存不足时优先停掉已驻留引擎。在 RTX 4090 加 64 GiB 内存的参考配置上，经 llama-swap 的单次对话请求（含 lease）从请求到回复：21 GB 对话模型文件已在 page cache 时 5.6 秒，ComfyUI 驻留 RAM 后切换不到 1 秒，ComfyUI 切到 27B 对话模型 13.6 至 16.3 秒；数据与方法见 Strata 的 Benchmarks Repo。
pstreet 的 mistral.rs 部署分支在 upstream 的 CUDA/Metal/CPU 路径之外增加了 AMD ROCm（Strix Halo gfx1151）服务支持，支持 cpu、rocm、cuda 等多种构建形态组合。正文给出 v0.8.2 基准：Q8 prefill 在 GB10/B200/H100 上为 7395.7/27705.6/26220.6 TPS，高于 llama.cpp GGUF Q8_0 的 3973.7/11992.4/11702.1；BF16 decode 多数场景快于 vLLM。上游 mistral.rs 引擎本身支持 45+ 架构、ISQ/GGUF 量化、OpenAI 与 Anthropic 兼容 API、MCP 与内置 agentic 运行时。
Geidorf 开源了 TokenLedger，一款基于 Tauri 2 + React + Rust 的桌面应用，扫描 Claude、Codex、Grok CLI、Gemini CLI 等 20 余种本地 AI 工具的日志，将 Token 用量与预估费用汇总到本地 SQLite 看板。支持 Supabase 可选云同步与多设备聚合、Android 看板、缓存字段分列与自动价格发现，覆盖 macOS arm64、Windows x64 与 Android API 26+，以 MIT 许可证发布。
Local Quench 发布，这是一款面向本地 LLM 的 AI 编码智能体，支持 LM Studio、llama.cpp、Ollama 和 vLLM，代码不出本机，提供 Windows、Linux 和 Android 版本。它针对本地模型常见失误（宣布步骤后停止、改测试直到通过等）设计了 harness 纠偏规则，且每条规则可单独关闭并测量；内置 QuenchBench 基准，还可通过 quenchbench.py 一条命令跑 SWE-bench Verified、Terminal-Bench 2.0、Aider Polyglot 等评测。8 GB VRAM 即可起步，应用自带模型顾问推荐适配显存的模型和量化方案。源码不开放，仓库提供发布包、issue 跟踪和基准脚本。
推荐理由：为本地模型设计了针对常见失误的 harness 纠偏机制，且每条规则都可单独关闭并用 QuenchBench 实测，方法可迁移到自己的本地部署。
whetstone 是一个仅支持 MLX、运行在 Apple Silicon 上的仓库维护 Agent，可对任意仓库添加功能、修复 bug、更新文档或审查维护，并自动提交 PR，当前已发布 v1.8.0。BFCL n=1240 agent 评测中 irrelevance 达 100%（240/240，+9.58pp），总分 90.24%（+1.85pp）；SWE-bench n=75 与 v1.7 基本持平。项目通过 SpecDD .sdd 契约链在写入时约束行为，要求 Python 3.11+、localhost:8000 的 oMLX 服务器和 ≥64 GB 统一内存。
michaeldtimpe 在 GitHub 开源了 LLM 内存计算器 skuld（在线版 skuld.zoleb.com），输入模型名即可估算推理所需的 VRAM 或统一内存。它按注意力类型和 MoE 拓扑分支计算 KV cache，而非套用单一公式，例如 DeepSeek 的 MLA 在 32k 上下文 BF16 下 KV 约 2 GiB，朴素计算会高估到约 107 GiB；另处理 GQA、MoE 总参/激活参数、Qwen 3.5/3.6 混合注意力和 Gemma 滑动窗口。
推荐理由：作者解释了为何按注意力类型和 MoE 拓扑分支计算，并给出 MLA 场景下 2 GiB 对 107 GiB 的对照数据，方法可直接复用。
GitHub 开源项目 llm-structured-output（LLM Output Helper）发布，提供不依赖任何框架的 structured_output() 函数，用定位、修复、校验三层兜底清洗 LLM 输出的 JSON，处理全角标点、聊天前缀和截断等脏数据，支持 ensure_keys 校验、max_retries 重试。v0.2.0 增加可选 Pydantic v2 完整约束校验。定位与修复模块改编自 Agently，按 Apache-2.0 发布，其余代码为 MIT。
psewar 在 GitHub 开源了 Skirnir，一个自托管的 LLM 路由器和 AI 网关，部署在多台 GPU 机器的 Ollama 之前，对外同时提供 Ollama API、OpenAI 兼容接口和 Anthropic Messages API（可接 Claude Code）。客户端按角色而非模型名请求，路由器根据 VRAM 占用、游戏检测、速度和错误率选择节点与上下文档位，支持 Wake-on-LAN、熔断、云兜底层级和共享 agent 记忆；auto 角色由本地决策链自动选角色，链路路由准确率 0.947。当前版本 router 0.1.6、agent 0.8.4，自 2026 年 9 月起在一个 homelab 持续运行，作者强调无稳定性保证。
VecSzn 发布 PolyStrata，一个基于 Strata 的本地推理工具，在普通 PC 的显卡、内存和处理器之间分摊计算，可运行 Qwen3.8-Flash-Next、GLM 5.3 Flash、DeepSeek V4 Flash、LFM2.5、Flint、Qwen3.6-35B-A3B 等十个模型。Qwen3.8-Flash-Next 在 RTX 5070 上以 IQ3_S 量化写入 53 tokens/s，DeepSeek V4 Flash 91 GB 文件在 RTX 5090 工作站写入 56 tokens/s；在 8 GB 显存笔记本上，PolyStrata 读取提示词比 llama.cpp b11540 快 2.7 到 3.5 倍。
推荐理由：仓库给出了各模型在不同量化档位下的读写速度实测，并与 llama.cpp 在同一台笔记本上做了直接对比。
GitHub 上的 ai-dockerfile-generator 项目以 MIT 许可证开源，可使用 Ollama 驱动的 LLM 在本地生成面向生产环境的 Dockerfile，并自带自动化校验与 Docker 构建测试。仓库包含 app、templates 等目录及 requirements.txt 等文件。
ojas1542 在 GitHub 开源 MyInferenceLayerFoundation，一套完全跑在单台 Mac 上的个人 AI 技术栈，用 llama.cpp 本地服务 Qwen3.5 9B（128K 上下文）和 Qwen3 Embedding 0.6B，前置一个 Go 推理层。
开发者 hjongc 发布开源工具 openrouter-endpoint-watch（命令 oewatch），每小时检查 OpenRouter 端点元数据，仅在量化翻转、提供方消失、参数被移除等变化发生时保存快照并逐项报告变化。工具按 profile 输出 ok、degraded 或 blocked 三种路由决策，blocked 时以退出码 7 在花费 token 前拦截运行；仅依赖 Python 3.11+ 标准库，无需 API key。作者因两次事故（2026-09-28 Reka 量化变 unknown、2026-10-08 Parasail 转 fp4 且 NextBit 消失）而开发此工具，仓库每小时自检 z-ai/glm-5.3-flash 并将变更记录到 HISTORY.md。
推荐理由：作者用两次真实的提供方变更事件说明工具价值，读者可以借此理解 OpenRouter 端点元数据波动对依赖固定量化配置的流水线有何影响。
ReVolta 维护者发布 vLLM 分支 0.1.2 版，在 4× V100（SM70、无 NVLink）上实现 DFlash2 投机解码，作者称可能是首个在 Volta 上跑通的案例。drafter 使用 incoai 的 DFlash2 checkpoint，从目标模型 hidden states 起草 8-token 块并由目标单次验证；测试模型为 Qwen3.8 Flash-Next（AWQ）、512K 上下文、FP8 KV 加 CPU offload、TP4 + DCP2。实测单请求英文代码 201 tok/s（对比 163）、英文推理 195（对比 163）、中文 85–101（对比 100–105）、8 并发混合 331（对比 357）；KV 池增大约 10% 至 1.27M tokens。
Reddit 用户在名为 lvgale 的拼凑主机（i7-6700K 加 RX 580、RX 570、GTX 1660 Super、GTX 1070，部分仅 PCIe x1/x2）上，用自研 Slipstream 编排引擎以混合厂商 Vulkan 后端并发运行三个视觉模型：Qwen3.8:27b-vision 达 3.82 t/s，Qwen3.5:9b-vision 达 4.75 t/s，Qwen3.5:2b-vision 达 12.47 t/s，同时处理 OCR 与视觉解析。
Reddit 用户发布开源项目 Proxy Party，将 Claude、Argon、Kimi、ChatGPT、MiMo、Meta Muse 等多个服务的订阅账号（非 API）聚合到一个逆向代理下，每项服务可挂多个账号。项目提供浏览器端 dashboard 便于登录，基于 vibe coding 完成，可 fork 或提 PR。作者指出除 Claude 外，各订阅版输出的限制普遍更严格。
GitHub 上的 xAI-desktop 项目提供了一个本地 Web 应用，通过 xAI 官方 API 以图形界面与 Grok 聊天和生成图像。支持 grok-4.6、grok-4.5、grok-4.3、grok-4.1-fast、grok-4.20-0309-reasoning 等语言模型和 grok-imagine-image-2.0 图像模型，具备 Markdown 流式响应、暗色模式和会话上下文保留等功能。前端用 HTML、CSS 和 JavaScript 构建，后端基于 Deno 2（要求 2.9.6 或更高），用户需自行配置 XAI_API_KEY 后用 deno task start 启动。
开源项目 APUSR 发布，为 AMD APU 提供超分辨率与帧生成，采用 FSR4 派生的 INT8 推理路径，原生支持 D3D12 和 Vulkan 两种 GPU 后端，无翻译层。项目针对 Phoenix、Hawk Point、Strix Point、Krackan Point 与 Strix Halo 平台，可经 FidelityFX、NGX/DLSS、Streamline 兼容接口接入；Vulkan 性能接近 D3D12，NPU 加速处于实验状态暂停，Linux 发行版仍在规划中。
这是一个开源 AI RAG 助手项目，帮助养牛生产者快速查询 INTA 的动物健康技术研究报告，无需手动翻阅分散的 PDF。项目实现了 BM25、Gemini 向量检索和混合检索三种策略，经评估后选定 BM25 部署，在 42 题测试集上 Hit Rate@5 达 90.5%。系统默认通过 Groq API 调用 openai/gpt-oss-120b 生成带来源引用的西班牙语答案，并以 FastAPI、Streamlit、Postgres 和 Kestra 构建完整流水线，不提供诊断或用药建议。
开源项目 rag-qa-assistant 基于 RAG 架构，对自有文档（.txt、.md、.pdf）切块检索并用 Anthropic Claude API 生成带来源引用的答案，支持 TF-IDF 或 sentence-transformers + FAISS 两种检索方式，提供 FastAPI 接口和 Streamlit UI。在 12 道测试题上，TF-IDF 加轻量词干化后 hit@4 达 100%（12/12）、MRR 1.00；无 API key 时可回退展示最佳段落。
SNISHOP 的 snishop-content-production 仓库提供从 Markdown 稿件生成 PDF、Excel workbook 及可选 flyer 的印尼语内容生产流水线，由 Founder & Lead Developer Siraj Nur Ihrom 负责。流水线已可用，但对 SNISHOP-PUBLISHING v2.0 标准的产品认证尚未完成，旧目录中的 150、300、200 prompt 主题包等仍需审计。
Sudobility 开源 ShapeRouter 的后端 API 服务器，这是一个 LLM 结构化输出平台，采用 BUSL-1.1 许可证，基于 Bun 开发。服务支持 OpenAI、Anthropic、Gemini、Groq、Mistral、xAI、DeepSeek、Perplexity、Cohere、LM Studio 共 10 家 LLM 提供商，AI 调用路由使用 sk_live_... 项目 API key 鉴权，管理路由支持 Firebase ID token、shroute_... 个人 key 和 shrouteent_... 实体 key 三种认证方式。
GitHub 上的 agent-backbone 项目将分散在不同 AI CLI 和项目中的智能体组成一个可协作的个人团队，提供通信、协调与经验延续能力。智能体可按名称互发消息，忙碌时排队（默认 30 分钟过期），任务以 GitHub Issues 作为记录；Claude Code、Codex 和 OpenCode 可混编一组，同一能力须在三家 CLI 上通过相同行为测试才发布。它不调用模型、不需要 API key，要求 macOS/Linux、Python 3.11+、tmux 和 uv，API 默认绑定 localhost。
caribeedu 在 GitHub 发布 Roboratory v0.7，一个把 AI 智能体工作流建模成工厂流水线的工具：机器、传送带、信号和闸门组成可复用、可审计的生产线，适用于工单转 PR、事件响应和发布等任务。每台机器运行 headless 的 Claude Code 或 Codex 智能体，输出必须通过 JSON Schema 契约校验才能流转，失败重试超限即停线；流程以 YAML 定义并版本化在 git 仓库，关键闸门由人工放行，界面以像素画呈现整个车间。项目为早期版本，支持 macOS、Windows 和 Linux，采用 MIT 许可，无遥测，headless 引擎、权限请求和自动 intake 仍在路线图中。
推荐理由：原文把多智能体工作流拆成机器、传送带、信号和闸门等具体构件，并给出 YAML 定义与契约校验的落地方式，方法可直接迁移。
开源项目 Septum 是一款隐私优先的 AI 中间件，可在用户将文档和问题发送给 ChatGPT、Claude、Gemini 等云端 LLM 前，本地检测并替换姓名、证件号、电话等个人信息为占位符，收到回答后再本地还原真实值。它内置 17 个法规包（以最严格规则为准），保留不含原始个人数据的审计日志，采用 MIT 许可证开源，支持 docker compose 部署及 MCP server、REST API。
Ashforde OÜ 发布 SetuHQ 0.1.0（AGPL-3.0），一个开源系外行星凌星搜索流水线，用 Claude 驱动的 AI Sentinel 与确定性 Probe 组成审阅小组，以盲编码方式标记 TESS 光变曲线的每个 dip，再做 limb-darkened 拟合、虚警概率与 odd/even 等检验，默认面板为 2 Sentinel 加 3 Probe。在 662 个真实 TOI 的冻结基准上，held-out 完整度为 60%（90/150），低于 2 R⊕ 的行星仅 10%；预注册的双扇区加 FAP<0.001 新规则把 feed 噪声从每 100 目标 27.8 降到 6.1，但完整度从 39% 降到 17%，项目明确说明其结果只是候选线索而非发现。
GitHub 开源项目 AI-Agentic-RFP-Evaluation 是一个 Streamlit 应用，用于按可配置标准对供应商 RFP 回应打分和排名，设计原则是大语言模型只提供判断，所有算术（权重、Peer Performance Index、平局裁决）由 Python 完成。模型引用的每句话都对照 PDF 提取文本校验，标注 verified、partial 或 not found，超长提案按 BM25 相关性压缩并报告覆盖率；支持 OpenAI、Anthropic、Google Gemini、Cohere 等 API，单次最多评估 6 份 PDF，单供应商得分最高 9.70/10、100% PPI 的排名示例已给出。
GitHub 开源 Paper-Screening-Agent，用 LLM 自动阅读论文摘要并按 1-10 评分，分数 ≥4 自动接收、=3 转人工审查、≤2 自动拒绝，支持 200+ 并发多 API 处理与断点续跑。该项目曾筛选 10 场 2025 年 AI 会议论文，接收 5,720 篇、4,421 篇转人工审查，通过编辑 config/prompts.json 可适配任意研究领域。
GitHub 仓库 mvalentsev/awesome-free-ai-coding 汇总了可零成本使用的 AI 编程资源，含 9 个编程智能体、32 个带免费额度的 LLM API、29 项试用和 16 个聚合网关，其中绝大多数无需绑卡。清单每周两次用自动探测核对每一行，探测锚定模型 ID、配额数字或厂商页面原句而非 free 字样，连续 3 次失败或 60 天未通过即移入归档并记录原因，已归档 21 条。仓库还提供 opencode、LiteLLM、Claude Code 和 Codex CLI 的现成配置文件，以及 llms.txt、index.json 和 Atom feed 供程序化消费。
eslam-aboutaleb 在 GitHub 发布 llm-gateway，在 OCI Always Free ARM64 实例（2 OCPU、12 GB RAM）上运行管理员托管的 LiteLLM Proxy，对外提供 OpenAI 兼容的 HTTPS API，集中管理上游模型凭据并按虚拟 key 强制团队访问与支出限额。架构采用 Caddy 做 TLS 入口、PostgreSQL 存储密钥与用量、Redis 做计数与缓存，备份经 Age 加密写入 OCI Object Storage，并支持 LangChain、LlamaIndex、CrewAI 等框架接入。
GitHub 仓库 Demonstracao_Modelo_LLM_RAG 提供一个简单的 Streamlit 空白应用模板供用户修改。运行前需安装 uv，通过 `uv sync` 同步依赖，再用 `uv run streamlit run streamlit_app.py` 启动应用。
开源项目 cautious-crypto-bro 将 Telegram 频道的文字、图片和相册经 LLM 解读后，由确定性代码生成 Strategy V2 交易计划，经人工批准或 AUTO 路由到 Bybit Demo 执行，仅支持 Demo 交易，真实资金主网支持计划在性能评估后作为显式 opt-in 开放。系统通过 Docker Compose 部署，使用 SQLite 状态锁防止多实例写入，每轮轮询最多重试 100 条失败帖文，支持 QR 重新授权 Telegram 会话。