方向
Agent 框架、工具调用与运行循环，以及它们和人格、记忆系统怎么接。
1,880 条精选近 30 天 1,875 条共收录 7,246 条
elang2 发布 agent-budget-semantics 工具，对 11 个 AI agent 框架做差分测试，发现在同一任务、同一声明预算=3 下，实际消耗从 LangChain 的 3 次（525 tokens）到 Agno 的 10 次（3505 tokens），token 差距达 6.7x。测试通过确定性 mock LLM 与请求账本作为基准，识别出本地停止、客户端拒绝、协作式请求三种执行机制，并推动 OTel GenAI 语义约定 PR #439 因跨框架计数不可比而被作者撤回；工具支持 pip 或 Docker 安装，可接入 CI。
推荐理由：用同一 mock 负载实测 11 个 agent 框架的预算计数语义，读者可借其方法审视自己框架的预算与遥测数据。
spenceclark 在 GitHub 发布 Vessel，一个轻量的本地优先 LLM 流量观测代理，把客户端 base_url 指向单个二进制即可获得捕获、搜索、指标、重放和私有 UI，捕获流量仅存本机。支持 OpenAI、Anthropic、Ollama 及任意 OpenAI 兼容后端的路由与标签，重放可一次扇出最多 8 个变体并对比响应，提供 1–5 评分榜单、CSV/JSONL 导出和只读 MCP 端点，提供 Homebrew、winget、Scoop、Docker 安装方式，MIT 协议。
推荐理由：开源的本地 LLM 流量观测代理，读者可以借此在不改客户端的情况下捕获、重放和对比多后端请求。
karmise 发布 local-llm-lab，一个本地 AnythingLLM 环境加 Python 自动化框架，用于测试 LLM 和 RAG 工作流。框架提供分层 API 客户端、工作区生命周期、文档检索、两个生成模型的对比检查、本地 RAGAS 评测与人工标注判分控制、16 例 golden 数据集、对抗与偏见回归场景及 Playwright UI 场景；组件含 AnythingLLM、Ollama、Qwen3.5 4B、Qwen2.5 7B、BGE-M3 和 LanceDB，通过 ./lab.sh 管理环境，GitHub Actions 运行离线检查。
推荐理由：这个本地 RAG 测试框架把 API 分层客户端、上下文捕获、RAGAS 评测和人工校准的判分控制串成完整流程，做法可直接迁移。
Earheart 是一款开源本地听写工具，按全局快捷键（默认 Ctrl/Cmd+Shift+Space）说话即可把清理后的文本粘贴到当前聚焦的应用，无需集成即可用于 Claude Code、Codex、Cursor 等。语音用 NVIDIA Parakeet TDT 0.6B v3 在本机转写，Qwen3 4B Instruct 2507 在本机去除口头填充词和false starts，默认完全本地、无遥测和账号，也支持指向任意 OpenAI 兼容的转写或清理端点。支持 Windows、macOS（Apple Silicon）和 Linux，提供实时转写悬浮条、技术名词词典、暂停续录、本地历史和自动更新，MIT 协议开源。
推荐理由：这是一个开源语音听写工具，语音识别和文本清理都默认在本机运行，适合关心隐私又想用语音给编码智能体写长提示词的人。
srvsngh99 发布 Krill，一个 Mac 原生 LLM 运行时兼 coding agent，单一 Swift + MLX 二进制支持文本、视觉和语音，无需 Python。内置 agent 循环（工具、文件编辑、web fetch、权限）、OpenAI/Ollama/Anthropic 兼容 API 和浏览器手机 UI；对 Ollama 的对比称连续批处理约 2 倍吞吐、Gemma-4-E2B 上 TTFT 约 5 倍、峰值内存约 3 GB 对 8.8 GB。支持 krill pull 一键下载 46 个聊天与多模态模型，可接入 OpenCode 免费模型和 Codex 订阅，项目为 MIT 许可的早期版本。
推荐理由：把推理引擎和 coding agent 合进一个 Swift + MLX 二进制，与 Ollama 的对比数据和架构说明写得具体，可作本地 Agent 部署参考。
regnant-io 在 GitHub 发布开源编码 Agent Bubbly（MIT 协议），完全在本地运行，支持 Anthropic、Ollama、Gemini、OpenRouter 等模型，提供桌面应用、终端 CLI 和可 headless 运行的 HTTP+WebSocket 后端三种形态。线程可在本地目录、SSH 远程主机或克隆的仓库中工作；工作流要求每阶段有验证证据才能结束，watcher 机制避免长构建轮询烧 token，关闭窗口最小化到系统托盘后后台线程继续运行，并内置 48 个按需注入的技能、AES-256-GCM 加密凭据保管和分级权限与审计日志。
推荐理由：README 讲清了这套本地优先编码 Agent 在验证、后台等待和失败如实报告上的设计取舍，方法可借鉴到自己的 Agent 工程里。
作者 /u/stereohype 在 pi coding agent 中接入 Halogen 0.17.1 提供的 NPU 端点，让 Strix Halo 上的 Qwen3.8 Flash-Next（125B MoE）承担搜索、去重扫描、判断分支和 Prompt injection 初筛。同一 bug 修复任务 13.6 分钟 vs 不用 NPU 的 18.7 分钟，本地解码 64 tok/s、首 token 约 0.03s，可替代约 95% 的云端调用，最难的少数任务仍交给 GLM 5.3 或 Opus。
推荐理由：作者在同一 pi harness 下实测 NPU 加速搜索路由等环节，用同一任务横向对比本地 125B 与多档云端模型的表现。
Rice00 发布 DSH 插件 dsh-tree-view 1.0.0，把编辑旧消息或自带按钮分叉出的会话版本画成一棵树，侧栏始终只留一条主线。插件点击节点即可切换版本，支持长段折叠、多分支并行、已归档版本留在树上变暗显示，不删不改写会话内容，唯一写入的持久事件是带 ignorable 标志的 message-tree/version 标记；已验收 DSH 0.1.5-rc.2、0.1.7-rc.1 与 0.2.0-rc.1，可从 npm 或 GitHub 安装，MIT 许可，仓库 fork 自 dsh-plugin-message-edit。
推荐理由：插件作者亲自说明了树形视图的分叉实现与归档边界，读者可以据此评估它对会话数据的侵入程度。
GitHub 用户 Rishabh775 开源了 Optimus（jarvis），一个本地优先的个人 AI 助手，在 Ollama（本地）与云端模型间混合路由，默认云端为 longcat-2.5-preview-free，代码任务路由到 Kimi K2.7 Code，失败时回退到 mimo-v2.6-flash（$0.14/$0.28 per 1M tokens）。语音链路为 faster-whisper STT、openWakeWord 唤醒词（误触发率约 0.1%）和 edge-tts，内置 23 个工具覆盖记忆、shell、文件、网页、邮件、日历和 Home Assistant，每轮工具调用上限 12 次，并提供破坏性命令黑名单与确认门等安全防护。项目采用 MIT 许可证。
推荐理由：仓库完整给出了语音管线、混合路由、唤醒词训练和安全防护的具体实现，想自建本地语音助手可以直接复用这套做法。
AtomiJD 在 GitHub 发布 jdBasic，一个带字节码 VM 和 APL 风格数组运算的 BASIC 解释器，内置图形、GUI、声音、Web 和本地 AI。它提供 MCP 服务器，Claude Code、Cursor、Cline 等客户端可在程序运行中通过 jdb_eval 改变量、用 jdb_recompile 热替换修改后的 SUB 而不重启程序。支持经 LLVM 编译为独立 .exe，内置 llama.cpp 运行本地 LLM，解释器可跑在 RP2350 和 ESP32-S3 上，--target=kernel 还能编译成可裸机启动的 x86-64 操作系统。
推荐理由：作者本人展示了通过 MCP 让 Claude Code 在程序运行中改写 SUB 并热替换的方法，对想做 AI 结对编程的读者有直接参考价值。
elephant-memory 是 DeepSeek harness（dsh 0.2.x）的插件，实现 Victor Taelin 的 UniiChat 规格，把同文件夹内每段对话汇成一份持久记忆，每轮以固定大小摘要开头，agent 可用 zoom、recall_search 等工具逐层展开到原话。摘要由会话自身的模型在后台写入，要求上下文窗口至少 65,536 tokens。一次 201 轮实测（deepseek-flash 官方 API）显示每轮输入中位 98.4% 命中缓存，turn 等待中位 5.1 秒，总花费 $2.82，其中写摘要占 74%；7 个逐字回忆问题全部按原文答对。
推荐理由：README 给出了 201 轮实测的缓存命中率和写摘要成本数据，读者可以据此评估这套长记忆方案的真实开销。
作者开源了用于构建 RL 环境的 Seahaven 框架，以《楚门的世界》中的虚构小镇命名，MIT 协议，基于 Python 3.14+ 与 SQLite，全部本地运行。框架为每次运行提供独立 SQLite 实例、可复用 fixture、时钟与随机种子控制、状态 diff 日志，支持并行数百实例，兼容 OpenEnv 与 MCP，可发布到 Hugging Face；示例 Stripe World 含 24 张表和 155 个 API 操作，官方 Stripe SDK 可直接对接。
推荐理由：作者把可重置、可评分的 RL 环境层抽成开源框架，给出了每轮独立 SQLite 实例、状态 diff 和可复现性的具体做法，便于迁移到自己的 agent 评测。
ArmadAI 是一个开源 AI 智能体编排工具，用一个 Markdown 文件定义一个专用 agent，支持 Claude、GPT、Gemini 等 provider 及 Claude Code、aider 等 CLI 工具的统一调用。提供 Direct、Blackboard、Ring、Hierarchical 四种编排模式、pipeline 串联、TUI 与 Web 面板、SQLite 成本追踪和 shell 补全；采用 PolyForm Noncommercial 1.0.0 许可，商用需联系维护者。
推荐理由：原文给出完整的 agent 定义格式与四种编排模式说明，读者可以直接照着 Markdown 模板搭建自己的多智能体工作流。
yogthos 在 GitHub 发布 chiasmus，一个让 LLM 通过 MCP 使用 Z3（SMT 求解器）、SWI-Prolog（含 library(clpfd)）和 tree-sitter 代码分析的 MCP server，npm 安装命令为 npm install -g chiasmus。它用模板流水线把自然语言问题转成形式化逻辑并给出数学意义上的验证结果，支持 RBAC 规则冲突检测、依赖约束求解、污点流追踪、死代码与影响分析等场景；chiasmus_graph 的可达类分析基于 O(V+E) 图算法，42 文件 TypeScript 仓库开启缓存后热命中约 2.5ms，对比冷解析约 170ms。
推荐理由：README 用 chiasmus 自身代码库做了 grep 与调用图分析的对比，读者能看出传递性问题在什么场景下值得用求解器。
作者 /u/Slight_Analysis_5414 在 RTX PRO 6000 上用 vLLM 0.29.1rc1 nightly + Qwen2.5-1.5B-Instruct 与 Ollama 0.40.1 + qwen2.5:7b（Q4_K_M）各跑 96 次，共 192 次 live 测试，验证其确定性执行守卫 CLIM Agent Guard。结果为 80/80 未授权操作被拦截、16/16 合法删除被执行并验证，无守卫时伪造授权等场景 32/32 全部执行。守卫不读提示词、不用第二个 LLM 评审，只对照宿主状态检查工具调用的授权、目标和重复提交。
推荐理由：作者用 192 次本地实测给出确定性行为守卫的前后对照数据，还记录了 vLLM 与 Ollama 在 tool_choice 上的行为差异，可作工程参考。
GitHub 上的 gribanoveu/kibo-agent 是一个桌面编码 Agent，基于 Tauri v2、Rust 和 React，可读取和搜索代码、编辑文件、运行命令和测试，提供 Agent、Plan、Ask 三种模式，支持 OpenAI 兼容提供商（DeepSeek、OpenRouter、自有网关）和 Anthropic 模型。代码索引与内置 embedding 模型在本地离线运行，俄语提问可匹配英文代码；命令审批按行为分级，rm -rf、git push --force 等始终需要确认；文件只有在读取且 hash 未变后才能被编辑，写入前展示 diff；MCP 服务器和 Claude Code 格式的 skills、hooks 可直接粘贴配置。许可为 GPL-3.0-only，文档为俄语。
推荐理由：仓库完整说明了三种工作模式、按命令风险的审批机制与本地语义搜索实现，开发者可以据此评估是否适合自己接入自选模型。
Celmis-labs 在 GitHub 开源了自托管代码智能平台 Celmis（AGPL-3.0，ee/ 目录除外），基于仓库索引构建符号图，提供跨仓库问答、PR 审查、依赖审计与 CycloneDX SBOM、告警触发修复等功能，并通过 MCP 暴露 51 个工具。官方实测从 git clone 到六个服务健康运行为 197 秒，单次 PR 审查成本 $0.118，在 Martian Code Review Bench 离线集 50 个 PR 上排名 17/50，并发布了对 79 个被判误报发现的逐条审计，其中 33 个为金标集未收录的真实缺陷。
推荐理由：官方仓库把告警到 PR 的修复闭环讲得很具体，还附带基准结果与误报审计，适合评估自托管代码智能平台时参考。
GitHub 项目 foreman-sh 基于 herdr 提供一个 shell harness，把编码智能体分为两种角色：brainer 负责读代码、规划并撰写 brief，但被 guard 拒绝写入仓库；executor 通过 hw 领取 brief，在各自的 git worktree 和分支中工作并自动汇报。支持 Claude Code 与 OpenCode 执行器、engram 记忆、Spec Kit 和 gentle-ai 框架模式，提供 cockpit 面板、hw done 验证、hw reap 清理等命令，MIT 许可，要求 macOS 或 Linux（Windows 用 WSL2）。
推荐理由：原文讲清了规划者禁写仓库、每个任务独立 worktree 和报告回传这三层机制，是多智能体协作工作流可直接复用的工程参考。
Timerise 开源 assistant-knowledge-sync（v0.1.0，MIT），一个教 Agent 保持 Next.js App Router 站点 AI 聊天助手与站点内容同步的 Agent Skill。技能会把页面文案以逐字节方式移入页面与助手共读的数据模块，更新助手知识包、可搜索语料与站点地图，写入路由和"不引用未发布数字"等护栏，并用单元测试、渲染检查和 live 探针验证。
推荐理由：作者从自己交付过的实现提炼出这套技能，五条硬规则和测试、探针验证方式写得具体，可直接用于站点 AI 助手的知识同步。
coderback 团队在 Cambridge University x Arcade AI Hackathon 期间发布了开源 AI 工具包 Thespis，首个模块 Thespis Cast 让游戏 NPC 拥有可验证的信念与记忆。事件写入只增账本作为唯一真相，NPC 依据来源与置信度形成可错可撤回的信念，语言模型只负责措辞且每句台词必须引用账本与信念引用，由代码校验后才播报。实测数据显示 91 次模型回复中 0 次通过校验被拦截、10 条规则预测路线全部按预期结束、模型判定 50 条台词中 50 条在角色内，另附同核心的第二款游戏 The Manor Mystery 演示与在线试玩链接。
推荐理由：游戏拥有唯一真相账本，语言模型只能引用经过代码校验的账本事件说话，给可信 NPC 谎言提供一套可迁移的架构做法。