Zest 发布:本地模型服务器 + 智能体 + 友好 GUI 三合一
Zest 是一款面向本地大模型新手的开源工具,打包 Lemonade server(内含 llama.cpp 后端)与 Pi agent,提供无需命令行的图形界面。它内置 128k 上下文等合理默认值,提供在 10GB 到 26GB VRAM 上实测过的模型推荐,下载 appimage 即可使用,完全开源。
新闻、仓库与研究,按时间排列。
Zest 是一款面向本地大模型新手的开源工具,打包 Lemonade server(内含 llama.cpp 后端)与 Pi agent,提供无需命令行的图形界面。它内置 128k 上下文等合理默认值,提供在 10GB 到 26GB VRAM 上实测过的模型推荐,下载 appimage 即可使用,完全开源。
开源项目 genzen 上架 GitHub,定位为个人工作区,用于制作、对比和整理 AI 图像与视频。项目依赖 Vercel(托管、数据库、图像)和 FAL(生成),可选接入 Anthropic 提供 AI 功能;运行 pnpm local:up 会自动检测缺失项并提示或生成。仓库面向 AI 智能体协作,提供 docs/OVERVIEW.md、本地开发参考及 CLAUDE.md 等文档。
开源项目 Arclight(luo0629/Arclight,MIT License)面向 AI 漫剧创作,用编剧与导演 Agent 实现「故事 → 剧本 → 分镜」的生成链路,每步均需人工审核。项目基于 LangGraph checkpoint 保存进度、支持中断恢复与失败重试,前后端采用 React + FastAPI + PostgreSQL + Celery,当前提供故事文本创作产品,图片、配音和成片生成仍在开发中,默认 Mock Provider 无需模型密钥即可演示完整流程。
GitHub 新仓库 DubTool 是一个命令行工具,可将英文视频本地转写、用 LLM 翻译为越南语、经 edge-tts 合成语音并对齐原时间轴,最终输出带越南语字幕的配音 MP4。流程分 7 个可断点续跑的阶段,转写用本地 faster-whisper,翻译默认 Gemini(Fast 模式用 gemini-3.5-flash-lite,Accurate 用 gemini-3.8-flash),也支持 Ollama 和 Anthropic。Windows 桌面应用尚在开发中。
NCCong1411 在 GitHub 发布房地产 AI Dashboard Agent 项目,Demo 已部署在 AWS Lightsail,采用 Docker Compose、PostgreSQL 和 HTTPS。应用通过 OpenAI Responses API 调用 gpt-6-luna,用越南语对话创建和编辑房地产数据仪表盘,支持七个 KPI、SQL allowlist 编译器、只读执行器、ECharts 图表和带审批发布流程的 draft 管理。本地栈为 Next.js App Router(端口 3000)加 FastAPI(端口 8000),示例数据为 Faker 生成的 16 表、2,203 行合成数据,采用 CC0 1.0 许可。
GitHub 新仓库 Multi-Agent-Based-Video-Generation-Project 实现了短视频制作多智能体流程的内容规划阶段:校验输入条件、生成 3 场景本地模板 JSON 草稿并支持审批。项目在 Python 3.12 下无需额外包或 API 密钥即可运行,审批记录含时间戳和 SHA-256 哈希,场景时长总和需在目标 ±10% 以内。当前阶段尚未接入 LLM、CrewAI、视频生成、TTS 和 FFmpeg 组装。
Astrix 是一个 local-first 的 DevOps 验证引擎,基于源码级依赖影响(AST blast radius)选择测试,用 AxLang 编写策略并经内嵌 OPA 引擎评估为 Rego v1,还可通过 MCP 暴露分析工具,支持 Claude Code、Cursor 和 VS Code。它提供 astrix CLI、astrixd daemon 和 GitHub Action,astrix verify --fix 最多尝试 3 次修复,并在禁网的 Docker 沙箱中验证改动。项目仍在积极开发中,生产使用前需审查策略与生成的变更。
loosephoto 发布 hermes-freeagent-bind,一个通过 MCP 为 Hermes Agent 添加子 LLM 咨询、出典检索和思考记录的 Python 服务器,含 11 个工具,支持 18 家推理提供方(Nous、OpenRouter、NVIDIA NIM、Hugging Face、Groq 等)与 24 个检索源,默认使用 Free 模型和免费额度。主 LLM 保留最终判断权,检索与思考笔记无需推理后端即可使用,咨询需 Nous 代理或 API key。服务器按提供方设置并发闸门以规避 429,支持 HTTP 模式多客户端共享单进程,面向科学与编程领域,医学与生物除外,要求 Python 3.11 以上且无额外依赖。
LinTzuTang 在 GitHub 发布 Local Agent Lab,一个基于 Ollama、LangChain 1.x / LangGraph、自建模型网关和 PostgreSQL 的 Streamlit 工作台,可对 107 个本地模型做能力标注、一键下载和最多六模型同题对比,并内置九个 LangGraph 多智能体工作流与本地语音助手。近期更新包括级联、轮次、全双工三种语音对话模式,本地神经 TTS(Kokoro-82M、Qwen3-TTS 0.6B 等)与 TTS 基准,前端模型定为 Gemma 4 12B(7.7 GB,十模型七对话测试全对且无编造)。
推荐理由:作者在单台 Mac 上跑通本地 LLM 评测与多智能体演示,并给出各环节在 M5 Pro 上的实测延迟与吞吐数据。
GitHub 开源 Agent Inspector,一个通过 React 前端经 HTTP 逐次调用 llm-agents-from-scratch 中 LLMAgent.SupervisedTaskHandler 的 get_next_step()/run_step() 的开发调试工具,以单个 PyPI wheel 打包 Python (FastAPI) 后端与 TypeScript 前端并提供 agent-inspector CLI。
wlee374 发布 sumgrep,用 LLM 为仓库中每个函数生成一段英文摘要并建立向量索引,支持按含义搜索并返回函数名、文件和行号指针,可经 MCP 接入 Claude Code。依赖 Docker 上的 Qdrant、Ollama 的 bge-m3 嵌入和本地摘要模型(默认 qwen3.5:9b,约 9 秒/函数),也可用 Claude Haiku 5.5(约 $1-2/4000 函数)。在约 4600 函数的 Go 代码库上用 55 个标注问题实测,25 个手写问题 MRR@10 为 0.81,30 个 Agent 真实提问仅 0.47;摘要模式在 top 5 命中 93%,优于代码模式的 53%。支持增量索引、.sumgrep 文件迁移和团队共享服务器。
推荐理由:作者用 55 个标注问题实测了摘要检索与原始代码检索的差距,真实 Agent 提问的 MRR@10 只有 0.47,数据可直接参考。
s1000d-stack 是一个个人开源项目,提供让 LLM 正确读取 S1000D 技术文档并按项目业务规则(BREX)校验与创建的 MCP 服务器、共享库和技能。已完成两个阶段:s1000d-core 0.3.0、brex-mcp / verify-mcp / reader-mcp 0.2.0 及 experiential-manual-model 0.1.0 已发布在 npm,writer-mcp 为规划中。该项目与 ASD 无关联,S1000D 规范文件需自行从 s1000d.org 获取。
开源项目 Talvio 让用户用语音操控电脑,支持在任意应用中按住快捷键听写,语音转文字默认在本地运行,内置 transcribe.cpp 引擎和 Parakeet 0.6B、Nemotron 3.5、Canary 180M Flash、Cohere Transcribe、Whisper Medium 共 69 个模型可选,云端为可选项。它还提供 AI 清理、语音命令、会议双轨录音转写,手机 App 可当无线麦克风和遥控器,支持 Windows、Linux 与 Android,macOS 版本尚在开发中。
Rx 推出自研编码智能体 rx-agent,并可通过一套 provider 配置启动 Claude Code、Codex、OpenCode、Pi、DeepSeek Harness 和 Kimi Code,其余 harness 运行各自原生 CLI。安装需 Rust、Bun 和 pnpm,模型目录缓存于 ~/.recall/catalogs/,有效期为 1 小时;Kimi Code 的 provider 密钥以 secret-only 权限存入其本地 config.toml。rx-agent 支持 read/write/edit/bash 工具、MCP(stdio 和 Streamable HTTP)、ACP,以及上下文预算临近时自动压缩会话。
GitHub 仓库 pollux0971/llm_learning-card 提供一套桌面学习卡片系统的规格与开发骨架,不含实现代码。系统包含两张常驻桌面卡片:教学卡每次教一个 100 字内的概念,考试卡按 1 / 7 / 30 / 90 / 180 天的固定骨架复习。仓库以 contracts/ 契约、Gherkin 规格即测试、6 个 Claude Code skill 和 standalone.json 为核心组织原则,供配合 Claude Code 开发使用。
开源项目 Harness Mate 提供端到端智能体平台,把跑在本机上的 AI Agent(默认对接 Hermes Agent)变成人人可通过浏览器使用的 Web 产品,无需迁移上云。平台支持实时会话、双向文件传输、流式输出、账号体系和 OpenAPI,技术栈为 Vue 3 + Flask + Go WS 网关,可通过 Docker Compose 一键部署,采用 MIT 许可。
GitHub 仓库 charetterat/awesome-agent-motion-skills 收录了七个针对 Claude Code / Codex / Cursor 等编码 Agent 实测过的动效技能,覆盖美术画廊动画、UI 过渡、产品视频、连续镜头、口播解说、迪士尼动画原则和动效打磨。每个条目附 Star 数快照(2026-10-27)、渲染栈、npx 安装命令、适用场景与限制,例如 video-shotcraft 含 152 张运镜配方卡、transitions.dev 提供 43+ 可复制的 UI 过渡配方。仓库声明独立于 Anthropic 和各技能作者,并通过脚本验证链接可达与安装语法、依赖和可复现执行。
me217 发布 Home Assistant 集成 One Shot 0.8 早期版本,用自然语言向 Assist 描述一次性任务,由 LLM 生成计划、用户确认后由 HA 自身触发器执行一次并自动删除。支持状态、数值、时间、日出日落等多种触发条件,最多 5 步动作、默认 24 小时最长 14 天过期,确认后 LLM 不再参与,HA 重启后仍可恢复;需 HA 2024.10+ 和支持 tool calling 的 LLM 对话代理,可通过 HACS 安装。
推荐理由:原文详细说明了确认流程、触发类型与安全限制,读者可以据此判断这个一次性自动化方案是否适合自己的 Home Assistant 环境。
EinaasKharsah 在 GitHub 开源了一个完全本地运行的客服 Agent,基于 10 张 Q&A 卡片回答客户问题,用 Ollama 里的 qwen2.5:3b 做决策与回答,bge-small-en-v1.5 做嵌入、bge-reranker-v2-m3 做重排、Qdrant 做向量库。核心设计是
推荐理由:作者用逐步评测数据解释每个设计取舍,比如让 LLM 理解、代码路由把准确率从 80% 提到 88%,方法可迁移到类似的小型客服 Agent 项目。
qte77/gha-issue-triage 是一个 AI 驱动的 issue 分诊 GitHub Action,可检测重复 issue、基于 LLM 评分相关性、分析可行性并自动打标签,还会发布一条重跑时原地编辑的置顶总结评论。v0.4.0 默认模型为 @cf/meta/llama-3.3-70b-instruct-fp8-fast;因 GitHub Models 已于 2026-07-30 退役,需自行配置 api_base 与 llm-api-key 或 ANTHROPIC_API_KEY。项目采用 Apache-2.0 许可证。
kcoaguila-dev 发布 Veraxi,一个实验性混合 GraphRAG 参考架构,将 Neo4j 知识图谱与 Qdrant 向量检索通过 Reciprocal Rank Fusion 融合,为 LLM 提供基于工具的自主访问以减少多跳查询幻觉。后端为 FastAPI,前端为 Flutter,支持通过 MCP 端点暴露 mcp_build_lazy_dossier、mcp_merge_rank 等工具,并采用两阶段 JIT(Lazy)GraphRAG 管线,纯 CPU 下每 500 页书摄入不到 2 分钟。
推荐理由:作者给出了 Neo4j 加 Qdrant 用 RRF 融合的完整实现和评测脚本,还诚实标注了小语料测试的局限,便于读者评估是否复用。
eehrich 发布 ScarabHive,一个完全基于插件、自托管的 LLM Agent 框架,Agent 通过 YAML 定义模型、提示词和工具,可运行在 Web UI、CLI 或 OpenAI 兼容 API 之后。内置约 75 个插件,支持每个 Agent 独立模型配置与回退链、MCP 与 Agent Skills 标准、OpenTelemetry 追踪,可接入 OpenAI、Anthropic、Gemini、DeepSeek、Ollama 及 vLLM、llama.cpp 等 OpenAI 兼容服务;项目处于 beta 阶段,采用 Apache 2.0 许可证。
这是应用 AI 工程师 Alex Castillo González 的简历,主打 Python 检索与智能体系统及评测层,其 GDPR 问答 RAG 项目要求每条陈述标注来源条款并在语料外时拒答,评测工具已发布为 ragcite 库。自 7 月以来在 101 个项目合并 429 个 PR(86% 被采纳,中位 16 小时合并),含 LangChain.rb 31 个、Mirascope 23 个、Haystack 13 个等。
GitHub 上的开源工具 ai-statusline 用 Rust 编写,为 Claude Code CLI 提供实时状态栏,显示模型、token、费用与 git 状态,支持 26 个可定制组件和 11 个内置主题。零运行时依赖,二进制约 1.0 MB,在 Apple M1 上渲染耗时低于 1ms,采用 MIT 许可证开源。
IvanMurzak 发布的 Unity-MCP 插件通过 MCP 将 Claude、Cursor、Windsurf 等 AI 客户端接入 Unity Editor 与运行时,用于自动化工作流、生成代码和调试。它内置 70 多个跨项目资产、场景、脚本、测试等类别的 MCP 工具,支持基于 Unity 版本和项目插件自动生成 Skills,并可用 Roslyn 动态编译执行 C#;区别于同类工具的是它能在编译后的游戏内运行 LLM,实现实时 AI 调试和 NPC 行为驱动。
GitHub 上的开源项目 RouteMesh 是一个基于机器学习的提示词复杂度分类器和动态 LLM 路由器,通过分析问题的认知难度进行路由分配。它将简单任务导向快速、低成本模型,把复杂任务导向前沿推理模型。
GitHub 开源项目 ThoughtTree 是一款面向 LLM 的图结构对话工具,把对话组织成有向无环图(DAG),可分支探索 “what if” 场景、并行比较各分支回复。目前支持 macOS,默认使用 Codex(需安装 @agentclientprotocol/codex-acp 适配器),也可使用 Claude Code,Gemini 已不再提供。应用提供 Tauri 与 Rust GPUI 两种桌面前端,图片单张限 5 MB、最长边 8000 px、每次提示词最多 20 张。
开源 Rust 命令行工具 EngArg 可从一条论断构建扩展的 Toulmin 论证,检查后果性反驳并给出验证前提所需证据,支持 markdown、outline、prose、json 等输出格式。默认接入 OpenAI Responses API,可通过 `--model` 和 `--service-tier` 请求 GPT-6.1 Sol 的 Ultrafast 模式,并支持 `--reasoning-effort` 从 low 到 max 五档推理力度设置。默认混合工作流执行六次调用,`--mode single --max-calls 1` 提供低成本评估基线,所有请求经审计记录保存。
开源项目 findr 是一个每 4 小时自动运行的实习岗位机器人,从 Jobicy、SimplifyJobs、Internshala 抓取约 500 条职位,用 Groq 免费额度托管的 openai/gpt-oss-120b 按 0–10 相关度打分,并通过 Twilio WhatsApp Sandbox 推送每个分类前 5 条。项目用 Python 3.12 编写,由 GitHub Actions cron 免费调度,SQLite + MD5 去重,支持 India/Abroad 分组和城市级优先级,当前仅支持单用户。
一个基于 Python 的多智能体工具,使用 OpenAI LLM 起草并发布 GitHub PR 审查。它通过 llama-index workflows 串联三个智能体(上下文收集、评论撰写、审查发布),并调用 GitHub API 获取 PR 数据和提交审查。配置 OPENAI_API_KEY、GITHUB_TOKEN 等环境变量后运行 python agent.py 即可使用。
作者在自建网关时发现 tool calling 本质仍是提示词里的普通文本。Qwen3 的 chat template 会把工具 JSON 放进 system prompt 的 <tools> 标签之间,模型以普通 token 写出 <tool_call> 块,由 vLLM、llama.cpp 或托管 API 解析成 tool_calls 字段,结果再以 <tool_response> 标签的用户消息回传;闭源模型同理,Anthropic 文档写明 Claude Opus 5.5 会在工具定义前加 286 token 的隐藏 system prompt。
开源 Elixir 库 Lotus 发布,为 Phoenix 应用提供可直接挂载的 BI 引擎,包含查询编辑器、图表、仪表盘,无需额外部署 Metabase 或 Redash。它通过统一的 Lotus.Source.Adapter 契约支持 PostgreSQL、MySQL、SQLite,以及 ClickHouse 和 Elasticsearch 等数据源,默认只读并支持三级可见性控制。AI 查询生成、解释与优化支持自带 OpenAI、Anthropic 或 Gemini 密钥,另提供可连接 Claude Code 的 MCP server,无需 LLM key。
qbcli 是 Cecilio Books 的 QBD→QBO 迁移 CLI,通过 Intuit SDK 和 API 迁移公司文件,技术栈为 TypeScript 7、Node 24、Biome 2 与 pnpm 12,无构建步骤,以 node bin/qb.ts 运行。项目规定客户端数据不入 git、零第三方运行时依赖,QBD 侧目前只读,QBO 写入仅限带确认 Plan hash 的 Apply 流程。该指南定义了命令规则、按需阅读的文档地图、ADR 决策机制及基于 GitHub Issues 的智能体工作流。
ch1lam 发布开源编码智能体工具 AICE,以单个 Go 二进制文件支持 macOS、Linux 和 Windows,面向长期维护的代码库,聚焦可读性、可测试性与后续改动成本。它支持 OpenAI、Claude、DeepSeek、Kimi 等模型或自定义 OpenAI 兼容端点,可读写文件、运行 shell 命令和测试,并通过 MCP 与 Agent Skills 扩展工作流。项目采用 Apache-2.0 许可证,会话与配置格式在稳定版发布前可能变动。
开源工具 semula 是一个假 LLM 服务器,首次遇到新提示词时由 Claude Code 或 Codex 订阅生成答案,之后重放只需几毫秒,可离线免费使用。它提供 OpenAI Chat Completions API 兼容、record/replay 模式、分层匹配与近失审查队列,replay p95 低于 15 ms,默认用 SQLite,采用 Apache License 2.0。
GitHub 开源的 owl 是基于 Mario Zechner 的 pi(pi-mono,MIT 协议)改造的桌面优先编码 agent,去掉 TUI 终端界面,改为以桌面应用为主入口。其核心包含 JSON/WS 桥服务器、React 聊天前端和 Tauri 壳(Windows 程序),通过 OWL_CODING_AGENT_DIR 环境变量与已安装版 pi 完全隔离。项目不内置权限边界,桌面端权限确认为逐次授权,需更强隔离时可自行容器化。
snowsky 在 GitHub 发布 YourFinanceWORKS,一个多租户财务 SaaS,用 AI 自动化发票、报销 OCR、银行对账和商业智能,并提供基于 MCP 的自然语言业务查询助手。技术栈为 FastAPI + PostgreSQL + React + TypeScript,采用 AGPL-3.0 与商业许可的拆分授权模式;作者是一名 DevOps 工程师,借 AI 辅助独立构建该项目以验证独立 SaaS 仍具竞争力。
LLM Load Balancer(llmlb)是一个集中管理系统,为跨多台机器的多个 LLM 推理运行时提供统一 API 端点,支持 Ollama、vLLM、LM Studio、llama.cpp、xLLM 等 OpenAI 兼容服务器。其功能包括基于 TPS 的自动负载均衡、离线端点自动检测、GPU 感知路由、实时监控 WebUI、7 天请求历史记录,并可通过 openai:、google:、anthropic: 前缀代理云端 API,还支持 TTS、ASR 与图像生成的 OpenAI 兼容接口。
RGlabs84 的 DLNE 是面向 VS Code、VSCodium、Cursor 和 Theia 的免费编码助手,由志愿者 GPU 组成的集群驱动,新用户有 100 次免费对话,之后通过出借空闲 GPU 换取继续使用。2.4 版新增 coding member 机制,8 GB 以上显存加约 22 GB GPU+系统内存的机器可整模型自答编码请求,并额外提供约两个 agent 槽位;公共集群现跑 Qwen3.6-35B-A3B(UD-IQ3_S 量化,65,536 token 上下文),请求用 X25519、ChaCha20-Poly1305 端到端加密,密钥在编辑器内先脱敏,.env 等文件永不外发。
Cost Guard 是一款本地运行的 CLI 工具,用于监控 OpenCode 的提示词、会话的模型用量、成本与账号配额,并提供实时 Watch 模式。它按 input、cache read、cache write、output(含 reasoning)统计 Token Mix 与 CCost,支持模型成本对比与历史会话查看。工具仅依赖 Python 3.11+、无需第三方包,可选接入 Copilot 配额、OpenAI 订阅、Claude Code、OpenRouter/DeepSeek 及 MiniMax Token Plan。