新闻、仓库与研究，按时间排列。
withbuddi 在 GitHub 开源了 buddi 0.1.0-pre.N 预发布版，一个自托管的个人 agent 平台，AI 队友可用工具、按计划工作、有记忆，并在执行重要操作前请求批准，全部在本地运行。每个 agent 是一个含 agent.md 的文件夹，工具按层级审批；支持 Mac（buddi.app、Homebrew）、Linux 一键安装和 npm，采用 Apache 2.0 许可，暂不支持 Windows，Computer 插件仅限 macOS。
推荐理由：原文详细说明了 agent 以文件定义、工具分层审批和本地 Postgres 存储等架构设计，读者可借此评估这个自托管 agent 平台的边界机制。
GitHub 仓库 Lzh-Function/LLM-app 提供在 WSL2 + Dev Container 环境下运行本地 LLM 的一套工作环境，集成聊天、图片提问、网页检索、语音对话、语音作品制作与本地 Codex。环境基于 RTX 5070（VRAM 12GB）、64GB RAM 实测构建，支持 Qwen3.5-9B、Gemma 4、Bonsai 2、Qwen3.8 Flash Next 共 4 个模型，其中 Flash Next 上下文默认 128K，Codex 分别为 Qwen3.5-9B 提供 131,072 token、Bonsai 2 提供 98,304 token。
GitHub 仓库 johnxie/awesome-code-docs 收录以架构图、真实代码走读和生产级模式讲解系统底层原理的教程，每篇统一采用 8 章结构。覆盖 vibe coding 工具、AI agent、RAG、本地 LLM 等方向，涉及 Cline、OpenCode、LangChain、LlamaIndex、Ollama、Vercel AI SDK 等项目。203 篇教程的来源仓库已于 2026-06-01 全部完成核验，共覆盖 214 个独立仓库。
GitHub 上的 LLM-Gateway 是一个兼容 OpenAI 格式的 LLM 网关，应用指向它而非具体厂商，由它校验请求、转发、流式回传并记录用量。网关监听 3000 端口，Postgres 为必需依赖，Redis 可选且断线后可自动重连；支持 fast/smart/balanced 等逻辑名在 Groq 与 Gemini 间回退，提供 mock-429、mock-500 等测试模型，失败调用最多重试 3 次，采用指数退避加抖动。
schowave 发布 llmenu，一款面向通过 LiteLLM 网关调用模型的团队的开源工具：它从网关读取模型列表，把别名与跨供应商重复项折叠，并排显示上下文大小、输入输出价格及来自 Artificial Analysis 的基准分，可按质量或价格排序。选中模型回车后，Claude Code 与 Codex CLI 以该模型直接启动，opencode 与 pi 则由 llmenu sync 写入网关模型、限额与价格配置，且仅改动其自身 provider 条目并保留备份；用户级 ~/.claude 与 ~/.codex 配置不受影响。
推荐理由：面向通过 LiteLLM 网关用模型的路由选型工具，把按价格与基准对比和四种编码工具的配置接线合并成一步。
GitHub 开源项目 JLAIharnessos 构建了一套 AI 医院信息系统，涵盖门诊、住院、急诊、药房、病历质控、DRG/DIP 分组、危急值、互联网医院等模块，数据落 PostgreSQL 并支持重启不丢。项目还包括 RAG 知识中台（向量余弦 0.6 + 关键词 0.4 混合检索）、低代码 Agent 编排与人工在环工单，以及多租户、数据湖仓分层和 K8s/Helm/Istio 部署，后端 1908、前端 844 测试全绿。
GitHub 开源的 Claude Code 技能 agent-router 将每个子任务路由到仍能答对的最便宜模型（Haiku、Sonnet、Opus 或纯代码），并先用廉价答案校验再付费调用强模型。实测中，30 个困难测试用例上 Haiku 配独立 Python 工具达 90/90、每次运行约 US$0.03；无代码工具时其级联以约十分之一成本匹配 Opus；v1.3.1 默认运行四臂全 100%，成本 US$0.0065 对 Opus 的 US$0.199。该技能遵循 Agent Skills 格式，可安装在 Claude Code、Cursor、Antigravity、Codex 与 ChatGPT 桌面端。
该工具包让 Claude、Hermes、OpenClaw、Codex 等智能体通过 OpenAI 兼容 API 使用 Chutes.ai 的去中心化无服务器 TEE 推理，覆盖 Kimi、GLM、Qwen、DeepSeek 等开源模型，由 Bittensor 驱动。Toolkit / chutes-ai 插件当前版本 v1.4.0，Chutes SDK 为 0.6.9；包含使用、构建、运营和部署四条产品线，wave-2 技能经 2026-04-13 真实账户端到端验证后转正，并新增 chutes-tee 证明技能，已对 Qwen/Qwen3-32B-TEE 解析真实 TDX v4 报告（5006 字节、56 个 Hopper GPU）。
Reddit r/LocalLLaMA 用户在编码、数据分析与本地 RAG 等任务上对比了 Qwen3.8-27B 与前沿模型，测试集从 500+ 题精简而来，只保留能区分模型的题目。结果显示 or-qwen-qwen3.8-27b 以 bf16 原始精度运行，or-qwen-qwen3.8-flash-next 未披露量化且最常被截断（单次测试最大 16,384 token，提高到 32k 后仍有过思被截断），iq3 GSQ-RCO 表现不差，mradermacher 的微调版持续出色。作者结论：本地模型的输出仍需 Claude 或 GPT 复核。
GitHub 上线开源项目 Song-Deck，是一个与模型无关的 AI 音乐创作环境，支持 MIDI 生成、音乐转录、编曲、人声合成与制作，核心围绕可编辑的音乐符号表示构建。项目已在 GitHub 公开，可独立于具体模型使用。
GitHub 开源仓库 frankbria/podcaststudiohub 发布了一个基于开源 Podcastfy v0.4.1 的多租户 SaaS 平台 Podcastfy Studio Hub，可将网站、PDF、纯文本转为 2-5 分钟短播客或 30 分钟以上长播客。后端为 FastAPI + Celery + PostgreSQL，前端为 Next.js 15，通过 LiteLLM 支持 100+ LLM 模型，并支持 OpenAI、ElevenLabs 等多种 TTS 与多语言。
一个在 TCS Technology Day 黑客松（M.S. Sheshgiri 工程技术学院，Belagavi）获奖的多智能体零售客服聊天机器人，采用 4-agent 流水线：预处理、PII 掩码（fail-closed，AES/Fernet 加密存储）、双层情感分析（Cardiff RoBERTa 三分类 + Hartmann DistilRoBERTa 七分类，Tier 2 仅在置信度低于 0.70 时触发 LLM 复核）和情感自适应回复。系统用 Ollama 的 llama3.2:3b 100% 本地运行，检索基于 SQLite FTS5（低于 2ms），无需云端 API 密钥。
JonasR-Git 在 GitHub 发布实验性本地原型 web-architect-ai，用 Puppeteer 爬取网站并提取页面结构、内容与表单，经 AI 辅助评审生成迁移蓝图、页面与组件规格，并输出五个 HTML 样稿变体。项目基于 Next.js 16、React 和 TypeScript，通过 OpenRouter SDK 调用可配置模型，会话与资产存储于本地文件系统，支持 USE_MOCK 模拟 AI 响应，尚无 CI 工作流与正式许可证。
作者在 Amazon MASSIVE tr-TR 数据集上对比土耳其语语音助手命令的 60 类意图分类：LoRA 微调的 Qwen2.5-1.5B-Instruct 达到 0.8383 macro-F1，仍比全量微调的 BERTurk（110M 参数）低 1.2 分，且 BERTurk 训练仅 45.5 分钟（Apple MPS）、推理只需单次前向传播。零样本基线仅 0.4049 macro-F1，3.4% 的预测是编造的标签名；LoRA 微调将编造标签从 101 降到 2。其他发现包括按验证 macro-F1 而非 loss 选检查点值 5.6 分、剥离土耳其语变音符损失 3.3 分准确率且 84% 由字母 ı 造成、多语言 tokenizer 对土耳其语每词最高多花 1.9 倍 token。
krishna2700 在 GitHub 发布 multi-model-ai-workspace，一个自托管应用，可在单一界面里与 OpenAI、Anthropic 等多家 LLM 供应商对话、横向对比并跟踪用量。功能包括 JWT 注册登录、逐 token SSE 流式输出、一次向 N 个模型并行发送同一提示词并对比延迟与估算成本、按模型拆分的用量面板，以及按任务标签、成本上限和可用性选择模型并在报错时自动回退的 ModelRouter。新增厂商只需实现 ProviderAdapter 接口；技术栈为 Next.js + FastAPI + PostgreSQL + Redis，支持 Docker Compose 一键部署，MIT 许可。
Repolex 发布了 simonw/llm 仓库的 RDF 知识图谱数据，由 repolex 解析生成，目前为实验性数据且可能随时变更。用户可通过 `cargo install --git` 安装 `rlex` 查询工具，该工具主要面向终端中的 LLM 使用；数据以 gzip 压缩的 N-Quads（.nq.gz）标准 RDF 格式存储，可加载至任意 triplestore 或图数据库，并支持 SPARQL 查询、HTTP 服务器与交互式可视化。
GitHub 上的 ForeSafe.AI 是一个由 6 个智能体组成的自主软件缺陷预测与可靠性分析平台，采用在 NASA PROMISE JM1 基准上训练的 Random Forest + XGBoost 双集成模型，并用 Groq LPU LLM copilot 驱动。系统通过 SHAP 式特征贡献解释划分四个风险等级（最高 Low ≥ 85%），生成重构建议与单元/变异测试计划，并提供 FastAPI 后端、React 18 前端及 Docker 部署。
GitHub 仓库 infodevelop54-creator/LlmCarShell 发布 v2.3.0 版本，仓库包含 app、gradle wrapper、third_party 等目录，使用 build.gradle.kts、settings.gradle.kts 等 Gradle Kotlin DSL 构建文件，并提供 key.properties.example 配置模板与 BUILD_GITHUB.md 构建说明。
Runfusion 开源了 Fusion（MIT 协议），一个由多智能体编排的软件工厂，用自然语言描述任务后由规划智能体生成含步骤、文件范围和验收标准的 PROMPT.md 计划，再经规划、审查、执行、复审循环在独立 git worktree 中完成。支持 npm（npx runfusion.ai）与 Homebrew 安装，可接入 Anthropic、OpenAI、Ollama、Kimi K3 等任意模型，任务看板可在笔记本、服务器和手机间多节点同步，并提供 440+ 预置智能体团队导入、智能体邮箱与聊天室、Mission 层级规划、可视化 Workflow Editor 及 70+ 主题的 Command Center。
推荐理由：开源多智能体编码工厂 Fusion 的完整说明，覆盖规划、审查、worktree 隔离到多节点同步的整套工作流。
mattmuldoon48 开源的 cloudsec-rag-eval 是一套面向云安全指南的本地 RAG 评测系统，基于 OpenAI embeddings 与向量检索，支持带引用的答案生成、recall@k 与 LLM-as-judge 忠实度评测、成本与延迟追踪及回归门禁。官方 25 题评测中，top-5 实验将 recall@k 从 0.9067 提升到 0.9733，忠实度保持 1.0，成本约 $0.05144，默认生成模型为 gpt-4.1-mini。
作者发布推理引擎 Gewell v0.2，新增 Gemma 4 26A4 支持，prefill 比 vLLM 全面快 10-74%，上下文越长优势越大；还提到上下文仅需 0.625x 显存。同版将全精度 EmbeddingGemma 2 的文本+图像总占用（含 8k 上下文）压到 1.13 GiB 显存和 0.93 GB 主机内存，图像嵌入与 sentence-transformers 参考实现的 cosine 达 0.99970（均值），优于 llama.cpp 和 vLLM。31B 模型也获小幅改进：极短上下文大批量 mtp-on 场景 tg 提升 20-24%，多数 kernel 达理论峰值 80-85%。
推荐理由：作者给出了与 llama.cpp、vLLM 的逐项 cosine 对比和 prefill 吞吐数字，可以据此评估这个推理引擎的实际表现。
NuMind 员工 /u/Gailenstorm 发布了 Apache-2.0 的 vLLM 插件，从已在 vLLM 上服务的多模态 LLM 中获取文本/图像嵌入向量，方法基于 E5-V 等论文，用提示词让模型输出单词摘要并取最后解码层的 hidden state 作为嵌入。该插件通过兼容 OpenAI API 的 chat 接口暴露向量，请求设置 max_tokens=1 即可，普通对话与流式输出在同一服务器上不受影响；作者同时提交了希望合入 vLLM 的 PR #57185，并考虑将此流程移植到 llama.cpp。文中说明嵌入质量取决于模型、提示词和任务，专用嵌入模型可能更快更好；插件可用于本地 RAG、语义搜索、图文聚类或在向量上训练小分类器。
推荐理由：作者解释了用已加载 LLM 的最后隐藏状态向量当嵌入的原理和提示词写法，并给出可直接复用的 vLLM 插件与 PR。
开源项目 legal-rag-search 是用 C++17 / Qt 5.15.2 实现的法律文档检索引擎，结合 BM25 与向量语义混合检索并集成大模型流式问答实现 RAG，Embedding 用 BAAI/bge-large、生成默认 DeepSeek deepseek-chat。核心链路（分词、倒排索引、BM25、向量相似度、RRF 融合）全部手写，零重型第三方检索依赖，支持 PDF/TXT/MD 导入与扫描件 OCR，含 23 条标注查询的 Hit@5 / R@10 / MRR 质量对比和 93 个测试用例。
该仓库文档化如何通过 APIMart 的 OpenAI 兼容端点调用快手 Kling 3.0 Turbo（kling-3.0-turbo）的文生视频与图生视频模型。计费按生成秒数并依分辨率定价，完成任务在 cost 字段报告实际扣费，失败任务退款；同一 key 可访问 300+ 图像、视频和语言模型。API key 最低充值 $1，无需月度套餐，任务通过 GET /v1/tasks/{task_id} 轮询，状态为 pending → processing → completed | failed。
1ay1 在 GitHub 发布 agentty，一个用 C++26 编写的开源终端编码 Agent（MIT 许可），定位为 Claude Code 替代品，单个静态二进制 16.7 MB、冷启动约 3 ms，无 Node/Python 运行时依赖。内置混合 BM25 + 稠密嵌入 + GraphRAG 的本地检索引擎，按需取相关代码片段，相比整仓注入可削减 80% 以上上下文；支持 Claude Pro/Max 登录及 OpenAI、Groq、OpenRouter、DeepSeek、xAI、Gemini、Ollama 等多种提供商，可用 ^P 实时切换，Shell 命令默认在 OS 级沙箱中运行，支持 SSH 空气隔离模式、Zed ACP 集成与 Linux/macOS/Windows/Termux 安装。
推荐理由：README给出具体体积、冷启动和RAG架构细节，还能对照Claude Code等工具看出取舍思路。
liushikuan63 在 GitHub 发布 Rust/Tauri 本地 LLM 网关 llm-gateway 0.2.1，将 DeepSeek、GLM、Kimi、通义、OpenRouter、Gemini 及本地 Ollama/vLLM 等端点聚合为一个网址加一个 Key。核心功能包括流式首字节前自动降级、上下文落 SQLite 支持重启与降级后续接、按模型分档与 UTC 峰谷价计费、多模态能力硬约束路由，以及接入内置 Mihomo 内核的 VPN 代理。项目自有代码采用 MIT 许可证，Windows 安装包与完整文档见 https://github.com/liushikuan63/llm-gateway。
APIMart 通过 OpenAI 兼容端点提供 Kling Motion Control（kling-v2-6-motion-control）运动迁移视频生成，按生成秒数计费，支持 480P/720P/1080P 分辨率。任务为异步模式，提交后用 task_id 轮询 GET /v1/tasks/{task_id}，完成任务的 cost 字段返回实际扣费，失败任务退款。充值最低 $1，无需月度套餐。
GitHub 上的 DRYL.Components 是一套约 90 个组件、零 npm 依赖的 Blazor 组件库，将 AI 视为一等 UI 状态，通过统一的 Ai 参数提供 Active、Thinking、Streaming、Generated 等状态视觉，支持实时 token 流式渲染与 Agentic 工具调用动画。库支持 .NET 8、9 和 10，提供 Aurora Glow Cards 等卡片效果、明暗主题切换与 Nebula 等预设主题，API 已为 1.0 冻结，采用 MIT 许可开源。
作者 navthings 发布 airgpt 仓库，一条命令在 Apple Silicon Mac 上完成下载TinyStories/Cosmopedia数据、训练 byte-level BPE tokenizer、预训练 llama 风格小模型并教它聊天，只用 MLX，无需 CUDA 或云端。作者在 MacBook Air（M5, 16GB）上用 hour preset 训练 8M 参数模型 1 小时、55M tokens，val loss 从 2 分钟的 4.09 降到 46 分钟的 2.27，全程热状态保持 nominal，速度约 20k tokens/s，训练后能写出句子并回答提问但会编造事实。
推荐理由：作者公开了在无风扇 MacBook Air 上从零训练小模型的全流程与实测数据，val loss 下降和对话样例都可对照复现。
GoBlingChair 是一款 Windows 离线游戏汉化工具，用本地 Ollama 模型把游戏文件夹变成可玩的简中版，不联网、不上传、免 API key，支持 RPG Maker、KiriKiri、Ren'Py、Unity、Double Fine 系和通用明文共六类引擎，最新更新至 v2.6.9。v2.6.7 修复 Addressables catalog 解析器只读出一半记录导致的 CRC 校验失配，《Irmão do Jorel》212 条记录全部解析、CRC Mismatch 从 1 条降到 0 条；v2.6.9 修掉 Addressables 分组子目录漏扫和 I2 Localization 语言表静默漏翻，实测该游戏 6,274 条正文、97,924 个语言槽。
推荐理由：原文给出从解包、翻译到回填和CRC修复的完整管线细节与真实游戏实测数据，可了解本地模型汉化工具的落地做法。
GitHub 仓库 diego28e/langchain-langgraph-mastery 提供现代 LangChain 与 LangGraph 课程资料，基于当前官方文档教学构建生产级 agent、RAG 系统和 LLM 应用。课程分两部分：Core（模块 00–08）约 14–16.5 周，涵盖 agent、middleware、MCP、LangGraph；Pro（模块 09–14）约 11–12.5 周，涵盖 multi-agent、Deep Agents、语音（Groq Whisper 与 Orpheus）、LangSmith 评测及 FastAPI + Docker 自托管部署。
GitHub 开源项目 ai-resume-assistant 基于 FastAPI 实现简历分析：上传简历与岗位 JD 后，由 JD 分析、简历分析、匹配评估、优化建议四个 Agent 顺序协作，结合 RAG 岗位知识库生成匹配评估与改写建议。知识库含 52 条文档，Embedding 用 512 维中文语义模型，检索基于 FAISS。LLM Provider 支持 DeepSeek（默认）/ OpenAI / Coze 三种可切换，工作流失败时逐级降级到单 Prompt 再到 mock 兜底。
zeozeozeo 开源了 x3，一个 Discord（并支持 Matrix）的 LLM 角色扮演与工具机器人，支持 SillyTavern 角色卡、人格创建编辑、/impersonate、语音与图片生成、文档读取和 HTML/SVG 渲染。内置复杂的模型路由器在视觉与文本模型间权衡以降低成本，追求最大缓存命中并优先路由到最便宜的供应商；提供代码解释器（可用 gVisor 沙箱加固）、RAG 世界记忆、对话摘要延续上下文、/chatlog 导入导出，以及基于本地 MiniLM（约 20MB，ONNX 运行）的智能续聊触发。仓库地址：https://github.com/zeozeozeo/x3。
推荐理由：这个 Discord 角色扮演机器人把 SillyTavern 式人格卡搬进聊天软件，还内置视觉与文本模型的自动路由来压低运行成本。
独立研究者因预算限制把原计划用 64 张 H100 的 21B MoE（总参数 20.99B、激活 3.36B）预训练改在单张 GH200（$2.29/小时）上完成，并整理成论文。Benchmark MFU 从 21.1% 提至 50.7%（13 个测量点），真实数据训练 MFU 为 48.9–49.1%（10.9B tokens），附代码、基准记录与训练日志（https://github.com/DW-dev-UE/LLM-from-scratch/tree/main/apex3），论文见 https://zenodo.org/records/23316135。
开源本地 LLM 聊天前端 LocalLightChat（LLC）现已集成 Agents、MCP 和 RAG，无需安装、无依赖，可在老旧硬件上运行。其智能体系统经过 token 效率优化，可在较小上下文窗口下处理大文件，RAG 系统支持 Qwen3 等嵌入模型，另提供 NPX Supergateway 的独立替代方案及基于 ComfyUI 的图像编辑，并支持主流图像模型的自动绑定检测。
GitHub 上的社区维护目录 coreclaw-api-directory 收录 118 个公共 CoreClaw Workers，覆盖 11 个用例类别和 29 个数据源，提供 REST 与 MCP 集成调用方式。Workers 可用于电商、社交、搜索、招聘、金融等领域，从公共网页提取结构化数据，目录通过 Store 端点发现 Worker，运行需 API 鉴权。
GitHub 开源项目 Cuzor---RAG 构建了完整的 RAG 管线：用户查询由 Ktor 接收，FastAPI 生成嵌入向量，PostgreSQL 通过 cosine 相似度比对工单并按置信度返回结果。项目将嵌入生成拆分为独立 Python 微服务（采用 BGE-M3），并加入 3000-token 分块、pgvector 的 HNSW 索引以加速相似度检索，每 24 小时以最大 batch size 50 重扫待处理工单。导入一年工单后，Ktor、Python 嵌入服务与 PostgreSQL 总内存占用约 1.2GB。
炎劍剪輯（Flameblade Cut）0.1.0 预览版发布，在本地完成 AI 生成影片、剪辑、字幕、配音与导出，无需上传、积分或月费。AI 生成通过本机 ComfyUI 调用 LTX-2.5（NVFP4 主模型），建议 NVIDIA RTX 50 系列、16 GB 显存以上及 64 GB 内存；字幕采用本地 Whisper 语音识别，配音支持 Windows 内置语音、Azure Speech 与 OpenAI 语音，导出最高 4K MP4。软件以 MIT 授权开源，支持繁体中文、简体中文、English 与日本語。
AshTypescript 0.18.0 发布，要求应用声明 AshTypescript.Manifest 模块并注册到 manifest 配置，同时要求 Ash 3.27+。新版本支持在字段选择内直接对 has_many/many_to_many 关系做分页、过滤与排序，顶层 filter/sort/page 传参不可用时改为返回描述性错误而非静默忽略。`mix igniter.install ash_typescript` 可自动创建该模块并完成配置。
pineforge-4pass 在 GitHub 开源 PineForge v1.5.0，一个 C++17 回测与前向执行引擎，配 pineforge-codegen 将 PineScript v6 翻译为 C++ 策略。验证计分板显示 7,989 个分级探针（含 309 个公开参考策略与 680 个社区脚本）中 7,983 个达 excellent、6 个 strong、0 个 below strong，对标 TradingView 共 4,776,328 笔交易；基准测试显示中位数速度达 PyneCore 的 36 倍（807k bars/s）。
推荐理由：原文给出与 TradingView 逐笔对齐的 7,989 探针评分明细和跨引擎基准数据，回测一致性论证可复核、方法透明。