新闻、仓库与研究，按时间排列。
wulinwei959/LiteLLM-Chinese 项目基于 BerriAI/litellm 的 ui/litellm-dashboard，用 next-intl 的 without i18n routing 模式为管理面板引入 zh-CN 本地化，英文保持默认语言。截至 2026-10-13，分支已同步上游 v1.105.0，核心管理页面完成，批次 24 进行中；11308 条测试中 11307 通过（99.99%），Docker 构建已修复，剩余 add_model、Settings、view_logs 等共享组件长尾待汉化。
bernard8209 发布 self-hosted-ai-stack 仓库，用 Docker Compose 一键部署本地 AI 栈，集成 Ollama 推理、AnythingLLM 聊天界面、LiteLLM 网关、Whisper 语音转写、Kokoro TTS、Docling 文档解析和 MCP 工具等服务。默认密码保护并自动生成 API 密钥，支持 NVIDIA CUDA 加速与 linux/amd64、linux/arm64 双架构，另提供最低约 4.5 GB 内存的轻量组合，如 chat-only、rag-pipeline、voice-pipeline 等，并附部署、安全、备份与升级指南。
推荐理由：README 给出了各服务端口、内存占用和轻量组合清单，读者可按 4.5 GB 起的配置挑选需要的自托管方案。
开源命令行工具 arxiv-to-prompt 可将 arXiv 论文下载并展平为单一 LaTeX 源文件，供 LLM 提问使用，通过 pip install arxiv-to-prompt 安装。工具会自动定位含 \documentclass 的主 tex 文件、解析 \input 和 \include，并支持 --no-comments、--no-appendix 去除注释与附录，以及 --token-count 统计 token 数（示例中 33332 降至 18370）。它还提供 --section 按路径提取章节、--copy 复制到剪贴板和 Python API，可与 llm 库配合直接对话论文。
Yicheng Wang 开源 Runner（MIT 许可），一个把 Claude Code、Codex、Antigravity CLI、Copilot CLI、pi 等 CLI 编码 agent 组成可复用 crew 的 macOS/Windows 原生应用，每个 agent 保留自己的 TUI 真实终端，通过共享 mission feed 协作。支持会话后台驻留于 runnerd、分屏标签、桌面通知、MCP 与 skills 统一管理，全部命令可用 runner CLI 驱动；默认内置 coder/reviewer 双角色结对编程 crew，examples/ 另含 QA 三人组、文档团队、狼人杀等可复制的 crew 配置。
推荐理由：README 详列各 CLI agent 的支持矩阵与默认 coder/reviewer 协作配置，读者可据此判断是否适配自己的多 agent 终端工作流。
本地笔记应用 Tessellate（前身为 MemoryMap AI）目前处于 beta 阶段，可下载使用。它通过本地 AI 自动归档、打标签并链接笔记，回答时每句话附笔记引用，数据保存在本机单个 SQLite 文件中，无需账号、云或遥测，支持 Ollama、LM Studio 或 llama.cpp 的 llama-server 作为本地模型。Agent 模式内置 72 个工具和 21 个技能，小模型模式下 4B 模型也可逐步完成任务；改名后旧版需手动迁移 %APPDATA% 数据文件夹。
Shuffle-1992 发布 dsh-connect-zcode 插件，把 ZCode（Z.ai / 智谱 BigModel）作为模型通道接入 DeepSeek Harness（DSH），复用用户自己的套餐额度。插件提供两条通道：Coding Plan 凭据为标准 API Key，可经 zcode provider 直连；Start Plan 赠送额度需逐请求客户端证明，直连实测被风控 3012 拦截（2026-10-10 订正，非验证码 3007），故经 zcode-appserver provider 托管官方 agent 代发请求，零破解、零凭据落盘。
DeepSeek 开放自研搜索 API，底层由 AI 原生的 DeepSeek 搜索引擎提供，每天稳定处理数亿次搜索请求。该引擎索引全球千亿级网页、支持多语言，并通过识别机制过滤 SEO 作弊、GEO 操纵和低质 AIGC。使用方式可参考网页搜索与抓取指南。
GitHub 用户 nullmoth 开源了面向 macOS Sequoia 的 NVIDIA GeForce Metal 驱动，非翻译层，支持 Metal 3 的 argument buffers tier 2、光追、mesh shaders 和 MetalFX，覆盖 Turing 及更新架构（GTX 16、RTX 20/30/40/50 系列），底层用 NVIDIA 开放内核模块加着色器转换到 Mesa NVK Vulkan 路径，项目为 Rust 编写、已有 3k+ stars。配套工具 1401 可在 Windows 上检测硬件、生成 OpenCore 配置并写入 macOS 安装盘。
推荐理由：原文说明了该 Metal 驱动的实现路径和已验证范围，读者可据此评估在 PC 上跑 macOS 跑本地推理的可行性。
hranicka 在 GitHub 发布 llm-gateway，一个 OpenAI 与 Anthropic 兼容的代理，按请求中的 model 字段按需启动和关闭本地模型后端，用顺序切换解决消费级显卡 VRAM 只能装一个量化模型的问题。它支持 /v1/chat/completions、/v1/messages、/v1/responses、图像生成与编辑端点，可代理 llama-server、vLLM、ExLlamaV3、sd-server、ComfyUI 等后端，并利用 ROCm/CUDA/Metal 编译目标与 flash attention 等原生运行时参数。
推荐理由：作者给出了单槽 VRAM 下按需切换模型后端的具体做法，并附 EXL3 与 GGUF 的实测速度和困惑度对比数据。
xbmaxx 发布 workbuddy-bridge，将官方腾讯 CodeBuddy CLI 通过其非交互模式适配为 OpenAI 兼容的 /v1/chat/completions 端点，无需 API key，仅允许 x0.00 免费模型（如 deepseek-v4.1-flash、hy3），并设三层防护防止误耗 credits。项目解析 CLI 文本输出还原原生 tool_calls，覆盖七种实测输出形态；实测相对 DeepSeek 官方 API 每轮增加约 2.4 秒固定开销，来自进程启动、CLI 初始化和额外一跳网络。支持 SSE 流式与 reasoning_content 展示，项目地址 https://github.com/xbmaxx/workbuddy-bridge。
推荐理由：作者实测了桥接层相对 DeepSeek 官方 API 的延迟开销，并给出 2.4 秒固定成本的构成拆解，方便读者判断是否值得本地部署。
TianJinYing2006 在 GitHub 发布 DeepResearch，一个基于 LangGraph 8 节点状态机的深度研究系统，流程为规划、多跳检索（网络搜索 + arXiv + Qdrant 私有知识库）、生成带引用报告、引用校验与有界返工。项目提供引用存在性校验、多源印证与置信度分级防幻觉，OTel 全链路可观测，两阶段评测管道（after 基线 20 题 × 3 轮零异常，引用准确率 78.3%、覆盖度 39.8%，before/after 差值声明为不可判定），并包含账号、配额熔断、多租户 RAG 隔离等生产化能力；作者同时如实披露代码执行沙箱三层防护不构成对恶意代码的隔离。Gitee 仅作国内镜像，权威源为 GitHub。
推荐理由：作者把防幻觉做到图结构层面并公布实测指标与已知沙箱缺陷，评价口径克制，可作为自建深度研究系统的工程参照。
开源全栈平台 Platypus 支持团队在自有基础设施上自托管 AI Agent，可接入 Ollama、vLLM、Qwen 或 OpenAI、Anthropic 等模型。平台内置 Skills、子 Agent、MCP、A2A 端点、Sandbox、Memory、看板与 Triggers，支持多租户隔离，采用 MIT 许可证，可通过 Docker Compose 快速部署。
Qwen3.8-27B-Defiance-Uncensored-MTP-GGUF 将 DavidAU 的 Turbo-Brilliance "AI Construct" 模式套用到 HauhauCS 的无审查 Qwen3.8-27B 权重上，逐 tensor 核对了全部 866 个张量。在 RTX 4090 上以 llama.cpp 测试 IQ4_XS，40 种模式全部正常渲染，instruct 模式解码 86-90 tok/s，131K 上下文占用 21.4 GB；对易回避的提示无拒绝、无附加警告，回答长度达原版 1.4-2 倍。
Zero State 公布 FaustCoder 项目，目标是在 NVIDIA DGX Spark 上训练通过编译器验证的 Faust DSP 代码模型，目前处于规范先行、未实现阶段。v0.1 里程碑聚焦基础设施、契约、数据溯源和基线评测，而非训练好的模型，官方明确尚未建立任何模型质量或硬件兼容性声明。仓库采用拆分授权：specs/ 和 docs/ 使用 Apache-2.0，其余代码、模型权重和数据集归 Zero State 专有许可 1.0。
igorsaevets 在 GitHub 开源 ai-second-opinion，把同一文档同时发给 GPT、Gemini、Grok 4.7、Kimi K3、Qwen 3.8 Max、DeepSeek V4 Pro、GLM 5.3 等多个互不可见答案的模型，展示分歧并机械核验每个引用链接是否存活、是否被真正打开，还能捕获静默拒绝和幻觉引用。工具为纯 Python 零依赖、MIT 许可，任何有终端权限的 Agent（Codex CLI、Cursor、Gemini CLI 等）均可安装，仓库带 AGENTS.md 供 Agent 自行运行评审；实测便宜面板每次约 $0.06，标准 12 模型面板约 $2.5，每个回答含 UNASKED 部分，作者建议在送审文档中植入已知错误以检验模型。
推荐理由：README 给出了各面板实测成本中位数、引文核验和植入错误检验的结果，读者可据此估算接入多模型评审的实际开销。
Muvon Un Limited 发布 OctoHub，一个用 Rust 编写的高性能 LLM 代理，对外提供统一的 OpenAI 风格 API，后端可路由到 OpenAI、Anthropic、Google、DeepSeek、Ollama、OpenRouter、Modal 托管的 vLLM 等 20 多个上游。支持多租户 API key、完整请求响应日志（SQLite/MySQL/PostgreSQL）、按 key 和时间桶的用量统计、模型映射与随机负载均衡、缓冲式 chat SSE、媒体生成端点、per-provider 并发限制、Prometheus 指标和 SIGHUP 配置热重载；提供 6 个平台的静态二进制，Apache-2.0 许可。
GitHub 上的 pyutilz 是一个 Python 工具库，涵盖 DataFrame 操作、数据库、Web/云、系统监控、并行处理及统一的 async LLM 接口（支持 Anthropic、OpenAI、Google Gemini、DeepSeek、xAI Grok、OpenRouter、Claude Code）。核心安装仅含 orjson、numba、numpy、pandas 等 9 个硬依赖，scipy、云 SDK、LLM SDK 等更重的组件通过 extras 分组按需安装，如 pyutilz[llm]、pyutilz[dataframes]。该库要求 Python 3.8+，已在 3.8 至 3.14 测试。
Reddit r/LocalLLaMA 用户报告在 4 x Intel B70（128GB VRAM）、128GB RAM 的容器化 vLLM 环境中跑通 QFN 3.8 FP8，支持 256k 上下文与 MTP，实测 prefill 450 t/s、生成 20 t/s。借助 GLM 5.3 flash 等模型协助修复了多个 2^32 溢出导致的随机崩溃，目前运行基本稳定。
开源库 needtoknow 为 RAG 提供权限感知检索，通过 PermissionedRetriever 让每位用户只取回有权阅读的文档块，核心零依赖。它支持 prefilter、postfilter 和 auto 三种策略，权限服务出错时关闭失败而不放行未过滤结果，并提供 pgvector、Qdrant、Milvus、Chroma、Redis、Elasticsearch/OpenSearch 等向量库适配与 OPA、OpenFGA、SpiceDB、Cerbos、LangChain、LlamaIndex、Haystack、MCP 集成。
推荐理由：原文给出权限过滤在 RAG 检索层的完整实现思路，并用基准数据说明过滤位置对召回率的影响，方法可直接迁移。
ZhiYuan Agent 是一款开源（AGPL-3.0）、本地优先的桌面 AI 智能体，内置免费模型，无需第三方 API key 即可使用，也可通过 llama.cpp 运行本地 GGUF 模型并调节上下文长度、GPU 分配等参数。它能读写文件、执行命令、操作浏览器，生成 PPT、Word、PDF、Excel，并支持从微信、飞书、钉钉等应用接收任务，提供 Experts、Skills 和 MCP 扩展。
rutekit 是一个自托管 AI 路由与网关工具，把多个 provider 账号聚合到一个 OpenAI 兼容端点后面，客户端改个 base URL 即可继续使用。它支持 /v1/chat/completions、/v1/messages、/v1/responses、/v1/completions、/v1/models 五个接口，在方言之间翻译流式输出、tool calls、视觉和推理块；内部含声明式 provider 注册表、账号池配额管理、按请求计量的压缩管道和带保留策略的遥测。项目用 Bun 1.2+ 构建，支持二进制、容器和开发模式部署，MIT 协议开源，代码在 https://github.com/mrizkihidayat66/rutekit 。
推荐理由：README 给出了自建 AI 网关的完整架构、方言转换逻辑和部署方式，想聚合多个 provider 账号的读者可以直接照着部署。
xMind 是 xlang-foundation 构建的通用单智能体与图平台，C++ 后端负责执行、工具、权限与会话，内嵌 xlang3 运行兼容脚本并执行 SQLite I/O，CLI、浏览器 UI 与 VS Code 客户端共用同一本地后端。最新编码验收检查点通过 98 项原生、215 项扩展与 39 项浏览器契约；团队服务器、PostgreSQL、WebRTC 与独立 Electron IDE 保留给闭源 Nexus 产品。
NeiP4n 发布 opencode-plus-plus，一个基于 OpenCode 的终端 AI 编码智能体，面向团队协作，支持 Windows、Linux、macOS 和 Android（Termux）。核心功能包括局域网房间（成员、角色、封禁和共享 DoD，可跨 Windows 与 Linux）、由 orchestrator 分派任务给架构师/开发者/测试者等角色的 AI 团队、以 .opencode/dod.yaml 呈现的 DoD 进度看板、Idea Bank、Markdown 项目笔记、CLI 工具 Hub、可编辑的 Mini skills 按钮、同提供商共享冷却的限速机制，以及 /mobile 手机布局和英俄双语界面。一条命令安装，MIT 许可证。
推荐理由：在 OpenCode 基础上加了局域网多人协作、角色分工 AI 团队和 DoD 看板，覆盖 Windows 到 Android Termux 的安装路径。
isGenAI 团队在 GitHub 发布 CC0 公共领域样本集 ai-image-provenance-checks，包含带和不带 C2PA 清单、生成提示词记录的测试图片及免依赖读取脚本（Node.js 22+）。样本可测试元数据读取器、展示 zTXt 等边界情况，明确不用于检测器基准；也可用 c2patool、exiftool 等开源工具离线读取。
开源项目 OpusFlow 将 Anthropic Messages API 封装为统一网关，支持 Claude Opus 4.8/4.7/4.6、Sonnet 4.6 和 Haiku 4.5 的自动或显式路由，Opus 4.8 上下文窗口为 200K tokens。它提供账户池治理、token 预算硬/软上限、限流时 200ms 内故障转移、基于 Stripe 的计费，以及支持简体中文等四种语言的实时仪表盘。
GitHub 开源项目 Mnemosyne Core 为 AI 助手提供分层记忆架构，包含 30 分钟 Ephemeral Buffer、Working Memory、SOUL.md 人格层、USER.md 用户画像和时间记忆，并通过 Memory Consolidation Engine 写入向量数据库实现跨会话持久性。项目兼容 OpenAI GPT-4、Claude API 及 Ollama、Llama.cpp 等本地模型，提供 React Web 界面和 CLI 工具，支持 47 种语言。最低系统要求为 8 GB 内存、Python 3.9+ 与 Node.js 16.x。
fernando0797 在 GitHub 发布 automated-client-service Monorepo，包含自动化客服后端与 Web 界面。后端基于 FastAPI，集成智能体、RAG、PostgreSQL 及迁移，前端采用 TanStack/Vite，并通过 docker-compose 提供完整本地开发环境，backend/ 还可独立部署到 EC2。
tatekuperus 在 Hugging Face 发布基于 Qwen/Qwen3.6-27B 的多阶段微调与合并模型 Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic GGUF 量化版，作者称其为首个在 8bit 和 4bit 下 ARC-C 超过 700 的该规模微调。去审查由 trohrbaugh 用 Heretic v1.2.0+custom 的 Arbitrary-Rank Ablation 方法完成，拒绝率从原版 99/100 降至 4/100，KL 散度 0.0469；作者给出的基准显示该模型在 7 项基准中 6 项超过 Qwen3.6-27B 基座。
推荐理由：作者给出 Heretic 消融方法与去审查前后拒绝率对比，并附多组基准和第三方实测数据，可核对去对齐是否损伤模型能力。
Reddit 用户 /u/Sanbi_Ai 复盘 Kimi K3 发布三个月后的实际使用状况：全模型 1.56 TB，Unsloth 推荐的最小量化为 594 GB，需约 610 GB RAM+VRAM，装不进 512 GB；1-bit 量化与全模型下一 token 一致率 79%，2-bit 达 90% 但需 861 GB。其在 Artificial Analysis 指数已从 57 降至 44，GLM-5.3（753B）得 45，Step 5 Preview（600B）以 44 追平；自家 API 仅 43 tok/s，AA agentic 基准平均每任务近一小时、超 $10。许可证非 MIT，公司若 12 个月内总收入超 $20M 需与 Moonshot 另行签约。
推荐理由：作者用 Unsloth 量化文档和 AA 数据逐项核算了 Kimi K3 的本地运行门槛、API 速度和许可证限制，信息可直接用于部署决策。
网友在 Quadro M6000 / Tesla M40 上运行 Strata，实测 Prefill 150 tk/s、Decode 25 tk/s，速度不算快、能效也一般，但对本地 LLM 部署意外实用。借助 Strata 全部专家可装入 VRAM，作者仅用 Strata 提升 prefill 速度，未做代码优化，只是将 NVIDIA 架构移植到 Strata 以支持 Maxwell 显卡。
distributedcognition 在 Hugging Face 发布 jialinyyzz/humanizer（gemma-4 12B 微调的 AI 文风改写模型）的 abliterated 变体，用投影式 writer 级消融在 32 层移除拒绝方向，alpha 0.8。实测基座模型在 104 个有害改写提示上拒绝率仅 2/104，消融后拒绝率不变，MMLU-2280 仅降 0.04pp，GSM8K 持平；refusal_directions.pt 支持任意强度秒级重新消融，附 GGUF 量化可在 llama.cpp、Ollama 等运行，Apache 2.0。
推荐理由：原文给出完整的消融方法、拒绝率与 MMLU 前后对比，并诚实指出基座模型本就几乎不拒绝，读者可据此判断去对齐的实际意义。
团队发布 ORL（On-Policy Residual Learning）研究并全量开源，用 on-policy 残差学习和 Adjacent Entropy Contraction 让扩散语言模型在更少前向传播内收敛更多 token。配合自研推理引擎 dlmrt，LLaDA-2.1-mini + ORL 在单张 RTX 5090 上达 2,788 tokens/s（NVFP4），DiffusionGemma 26B MoE 达 7,708 tokens/s（8× B200）；QwenDLM-4B 端到端吞吐提升约 6.9×，HumanEval pass@1 从 82.9% 升至 89.6%，单 H100 上 1,298 tokens/s，快于 DFlash 的 746 和 EAGLE3 的 405。
推荐理由：原文给出各模型吞吐、HumanEval 前后对比和与 DFlash、EAGLE3 的同精度对照，可复现的代码和权重也已开放。
GitHub 仓库 SZTMBABY/dsh-agnes-image 发布，为 DeepSeek Harness 添加 agnes_generate_image 和 agnes_generate_video 两个 Agent 工具，调用 agnes-image-2.5-flash 与 agnes-video-2.5-flash 接口，并带 AI 提示词优化和四标签侧边栏面板。插件不带 API key，密钥只存于用户 %DSH_HOME% 数据目录；无构建步骤，MIT 协议，离线回归 92 PASS，带 key 实测 124 PASS / 0 FAIL，视频端到端生成 4 秒 720P 任务约 181 秒完成。
JoseStud 开源的 LoraAPIBackend 是一个 FastAPI + Vue 应用，用于管理 LoRA 适配器并对图像生成任务排队。demo 无需 GPU、模型下载或 Python 安装，通过 Docker Compose 运行真实 API、PostgreSQL、Redis 和 RQ worker，SDNext 仅以 HTTP 模拟并返回固定 PNG。该工具定位为可信局域网内的单用户应用，不可直接暴露到互联网。
开源项目 cyberkyd01/LMMonitor 是一款 macOS 菜单栏应用，可实时显示 LM Studio 的生成速度、prefill 进度、prefix-cache 复用、上下文占用及 Mac 的 CPU、GPU、内存、磁盘和功耗。它通过 `lms log stream`、`lms ps` 和 REST API 读取数据，无需 root 权限，并在 GPU 显存不足、swap、生成失控（默认超 15 分钟或 20,000 tokens）等情况下发出警告。要求 macOS 13 及以上、LM Studio 0.4 及以上，不读取或存储提示词与回复文本，历史仅保留最新 1,000 次请求。
GitHub 仓库 Tensa 发布 v0.1.0 技术文档，这是一个个人 AI 秘书项目，支持桌面与 Android 多节点同步，可结合本地与云端 LLM 处理文档、邮件、日历和 Telegram。项目遵循 Privacy-first 原则，采用本地模型与 Tailscale，内置 ApprovalStore 与应用白名单，当前阶段开源，开发由 GLM 5.3 在架构指导下完成。
GitHub 上的 Table_LLM_providers 项目整理了一份涵盖免费、freemium 和付费的 18+ 家 LLM API 提供商汇总表，包含 Base URL（支持一键复制）、注册要求与限制（RPM、RPH、RPD）、API key 获取链接、基于作者实测的可靠性评级，以及各提供商的优缺点说明。用户可通过 Telegram 或 Discord 反馈问题或提出建议。
slavabars 在 GitHub 发布开源项目 decision-cascade，一个本地运行的机器原生决策引擎，不生成文本而是让 state 经编码器后由 Noul、Choice、Score 三类决策头返回带置信度的类型化概率结果，无 token 生成、延迟确定。支持 SFT 训练与 RLCD 校准（GRPO 式），内置 ECE/Brier 校准、延迟剖析与级联路由：本地头部先答，低置信度问题按阈值或错误预算升级到外部 SystemOne 兼容服务（如 Cloudflare Clef、Perplexity Decider）。
推荐理由：仓库给出从 SFT 训练、ECE/Brier 校准到延迟剖析的完整闭环和诚实数字，适合想本地化决策引擎的读者参考其评测方法。
Corum Harness 基于 DeepSeek Harness 运行时内核发布开源 Agent 产品发行版，含 dsh 内核、Electron 桌面层、38 个插件与默认配置，当前版本 0.1.0，采用 Apache-2.0 许可。核心能力包括多 Agent 编排、指挥模式、MCP 集成、记忆底座、Ollama 本地模型与文生图，编程工作台为最先落地场景；项目模式已迁出为独立闭源仓，开源仓库只保留任务模式，打包链路目前面向 macOS（Apple Silicon）。
RockIn Local AI Cockpit 是一个独立的开源社区项目，为 Ollama 提供本地 3D 驾驶舱界面，集模型发现、聊天、CPU/RAM/GPU/VRAM 遥测和 Three.js 拓扑于一体。它基于 Node.js 22.12+，经 127.0.0.1:43123 本地 API 连接 Ollama，无需遥测、云账号或 API key，并提供无需下载模型的 Demo Mode，采用 MIT 许可证。