方向
Agent 框架、工具调用与运行循环，以及它们和人格、记忆系统怎么接。
1,886 条精选近 30 天 1,881 条共收录 7,271 条
GitHub 项目 kvscope 发布，包含一个 KV cache 感知的 LLM 推理网关和它的数字孪生调度模拟器，网关订阅 vLLM 的 KV 事件、维护全局前缀索引并按策略路由请求，孪生用网关记录的真实流量做影子评估、保真度检查和容量规划，再通过控制接口热切换策略。实测在 RTX 5070 上双 Qwen3-0.6B 实例中，从 round_robin 切到 prefix_affinity 后前缀命中从 78.0% 升至 87.6%，TTFT p90 从 15.6 ms 降到 9.9 ms；作者同时指出模拟器可比较策略与命中率，但绝对延迟低估 2 到 4 倍，不能用于预测真实延迟。
推荐理由：作者给出模拟器与真实集群在命中率和策略排序上的对照数据，也如实标注绝对延迟低估 2 到 4 倍的边界。
solid-ai-dev 发布 solid-ai-templates 3.0，通过可组合模板层（core、backend/frontend、stack）为 Claude Code、Cursor、Copilot、Codex CLI 等智能体生成 AGENTS.md 和 CLAUDE.md，统一团队编码规范。3.0 将 stacks、平台、流程层和访谈移至 fork（如 imbra-ai-templates），上游只保留共享引擎与策略，含 39 个正交模板。第 4 轮基准（2026-10-17）显示 39 行手写文件在两次运行中表现最好，弱模型下模板生成文件反而降低隐藏测试通过率，安全收益仅为信号级，且所有文件都使生成代码变大。许可证为 CC BY 4.0。
推荐理由：仓库自带第 4 轮基准数据，对比无文件、模板生成与 39 行手写文件的效果，结论是混合而非一边倒，可作参考。
MaxKharlan 发布 next-experiment，一个在 Nebius Token Factory 上诊断微调失败原因并做因果验证的智能体。它先按概率排序可能病因，用最便宜的探针和 fix/control 对照实验确认病因，确认后才在批准后重训。演示案例中 Qwen3-0.6B 因学习率 1e-5 过低只答对 14% 的 200 条 held-out 查询，4 个 Post-training job 证实病因后重训达 42.5%，全程约 $0.075。基准在 13 个 Token Factory 任务上对比四种方法，Next Experiment 9/9 找到病因、0 误报，成本比 ReAct 低 30%。仓库含 HTTP API、调查回放页面、权重探针与完整文档，Apache 2.0 许可。
推荐理由：原文给出基准对比数据，这个诊断智能体以低 30% 的成本达到与 ReAct 相同的病因定位成功率，方法可迁移到自己的微调排查。
CFD 研究者 Stefano Zaghi 开源 llm-wiki，让 LLM 作为有状态编译器把论文、书籍和网页一次性编译成 lint 过、交叉链接、记录矛盾的 wiki，格式为 Google Open Knowledge Format v0.1。不依赖向量数据库和嵌入检索，每个概念一页、统一符号表、每条论断标注出处并区分已发表文献与假设，矛盾按来源记录而非按新旧裁决。
推荐理由：仓库把 LLM 当有状态编译器一次性整理科学文献，给出 OKF 格式、矛盾记录协议和可复用的建库流程。
Albasha0x0 发布 Corvus，一个让 Agent 通过 MCP 读取、追踪、对比和修补编译程序的 MCP 服务器，支持 .NET 程序集及 PE、ELF、Mach-O 原生二进制。单文件自包含、无需安装运行时、默认不执行所读内容，原生分析覆盖 x86、x64、ARM32、ARM64，可选 IDA 或 Ghidra 作反编译器，共含 165 个工具和 15 个提示词，支持 Claude Code、Cursor、VS Code 等众多客户端。项目仍在活跃开发中，接口可能在版本间变动。
推荐理由：项目自述内置 .NET 反编译与原生二进制分析引擎，无需安装运行时，结果按 token 预算分页，适合让 Agent 直接做逆向。
Sitor AI 发布开源工具 Frametell（帧言），输入一句话或笔记、PDF、幻灯片等材料即可生成带字幕的 1080p 讲解视频。导演 Agent 先产出分镜供用户确认，再写解说词、用 ElevenLabs 或火山引擎 TTS 配音、逐页绘制并自检，示例成片 72 秒耗时 12 分 52 秒、成本 $1.59。支持 macOS（Apple Silicon）本地运行，兼容 Anthropic、OpenAI、Google、DeepSeek、OpenRouter 等 API，采用 AGPL-3.0 许可。
推荐理由：原文给出了实际运行的成本与耗时数据，并说明其通过驱动成熟视频引擎而非从零生成来稳定产出，方法可复用。
chinkan 在 GitHub 开源了 RustFox，一个用 Rust 编写、可自托管的 Telegram AI 智能体助手，以单个二进制文件分发，cargo install 后约 2 分钟完成设置。它运行 agentic 循环调用沙箱工具（文件读写、命令执行、经 MCP 的网络搜索），用 SQLite 加向量 RAG 做持久记忆，支持技能与子智能体、多 Bot 多人格、cron 任务调度、运行时模型切换与 fallback 链，默认走 OpenRouter，也可接本地 Ollama 或任何 OpenAI 兼容端点，并内置 Web Portal 和自我升级功能。
推荐理由：原文完整列出了工具调用、SQLite 加向量 RAG 记忆、多 Bot 人格隔离等实现细节，可按需自部署到 Telegram。
rskulles 发布 ButterKnife，一个本地网络聊天客户端，可连接 Ollama、LM Studio 及任何 OpenAI API 兼容服务器（vLLM、llama.cpp），也可接入 Anthropic key 使用 Claude。每平台单文件、无需 Docker 或数据库，聊天数据留在本机；Code 标签页为自有模型提供类似 Claude Code 的编码智能体，模型读项目、改文件、跑测试，每步需用户批准，兼容 .claude/ 目录的 commands 和 skills。支持手机扫码多设备同步、双模型对比、/image 生图、Whisper 语音输入、上下文接近上限时自动摘要旧对话。
推荐理由：原文详细列出了连接 Ollama、LM Studio 等本地模型服务器的配置步骤和 Code 编码智能体的权限机制，便于判断是否适合自托管。
开发者 /u/siliconlotus 发布了 SillyTavern 扩展 WorldsApart，用相关性评分替代 ST 核心的 World Info 条目选择机制，GitHub 地址为 https://github.com/siliconlotus/st-worldsapart。作者自测 92 个分级场景显示，在 10k 预算下实际进入提示词内容的 F2 得分从 0.27 提升到 0.51。
推荐理由：作者给出91个分级场景下相关性得分从0.27升到0.51的实测数据，可借此判断这个 ST lorebook 替换系统值不值得装。
Pigeon-Home 在 GitHub 发布 Homing Pigeon，一个通过邮件通道让 Muse、Grok、ChatGPT、Claude、Gemini、Copilot 等云端 SI 在本地机器上执行任务的个人远程开发 agent。runner 轮询 IMAP 并验证 HMAC-SHA-384 签名后以特权用户执行任务，结果回传供 SI 迭代；Oracle 机制以 HMAC 签名证明返回答案而不泄露原始输出，支持 bubblewrap 执行隔离与扩展系统。项目明确警告持有共享密钥者即拥有机器完全控制权，建议使用一次性账户并阅读 PROTOCOL.md。
推荐理由：原文给出了完整的威胁模型、HMAC 签名机制和三种安全档位配置，读者可以据此评估把云端 SI 接入本机的实际风险。
quintonmiller 发布 Tailored AI（TAI），一个模块化的个人 Agent 运行框架，通过 tai CLI 安装后即可启动 HTTP API、内置 UI、cron 与 autopilot，并接入 Discord 或 Slack。各运行面（模型、工具、Agent、渠道、任务后端等）均有接口与注册机制可替换，插件为普通 npm 包；支持 Ollama 等 OpenAI 兼容本地模型，默认绑定 127.0.0.1:3000，提供 Docker 多架构镜像（amd64+arm64），本地 LLM 实测含 devstral-small-2（约15GB）与 qwen3-coder:30b（约18GB）。仓库地址：https://github.com/quintonmiller/tailored-ai
推荐理由：README 给出了从安装到 Docker 自托管的完整命令和配置示例，模块边界与插件机制也写得清楚，便于评估是否自用。
hung-yueh 发布 react-native-litert-lm，让 React Native 应用在 iPhone 和 Android 上通过 LiteRT-LM 与 Nitro Modules 端侧推理 Gemma 4 等模型。核心卖点是内存安全：loadModel() 预检权重加 KV cache 开销、运行时追踪 RSS、上下文溢出预警和确定性 unload()，避免 1–4 GB 模型被 iOS Jetsam 或 Android LMK 杀掉。支持 GPU（Metal/OpenCL）与 Android NPU、投机解码、JSON Schema/正则约束输出、typed 流式事件、工具调用、EmbeddingGemma 2 端侧嵌入，以及单引擎多会话。
推荐理由：README 给出了与 react-native-executorch 和 llama.cpp 的逐项对比表，读者可据此判断手机端跑 Gemma 4 该选哪条路线。
taylormartins 发布开源工具 LocalFlow，在 Windows 上按 Caps Lock 即可听写，Whisper 转文字后由可选的本地 LLM（经 Ollama）或内置规则清理填充词与口误，音频和文本不出本机、无需账号。RTX 4070 Ti 用 large-v3-turbo 实测 21 秒语音约 1.7 秒转写加 0.6 秒清理，约 12 倍实时；无 GPU 时回退 CPU 转写和算法清理，另支持手机听写、语音命令模式和自定义角色语气改写。
推荐理由：README 对清理链路的设计写得很实，包括防止 LLM 抢答的四道防线、延迟实测和 VRAM 争用排查，方法可迁移到类似本地语音工具。
PersonalClaw 开源发布自托管个人 AI 智能体系统，集成多会话聊天、自主目标循环、分层长期记忆、知识库、技能与定时自动化，全部经由单一网关进程和自持 Web 仪表盘，MIT 协议、无遥测。当前为 v0.2.2 pre-1.0，0.x 更新可能引入破坏性变更且无自动数据迁移，官方建议每次更新前运行 personalclaw snapshot 备份；默认模型为 SmolLM2-135M-Instruct（138 MiB，可离线运行），支持 Ollama 本地模型与 MCP 双向连接，Windows 仅支持 WSL2 或 Docker。
推荐理由：README 明确列出当前能力与十一类不适用场景，并给出 pre-1.0 无自动迁移的备份方法，适合自托管前评估。
marmixes 在 GitHub 发布 agent-prompt-builder，一个把目标转成精确提示词的技能，支持 Claude Code、OpenCode、Hermes、OpenClaw、Codex 及本地模型，覆盖构建、调试、研究、ML、infra、安全等任务类型。核心机制包括 7 条硬规则（事实须验证或标 UNVERIFIED、每条需求可测试、明确停止条件等）、结构化模板（ROLE/TASK/CONTEXT/VERIFICATION 等块）、命令行工具 apb（无需 agent，兼容 llama.cpp、vLLM、Ollama 等 OpenAI 兼容 API）、lint 脚本 lint_prompt.py（Python 3.8+ 无依赖）和 12 项行为评测。
推荐理由：开源的提示词构建技能，附 lint 脚本和 12 项行为评测，事实须标注来源或 UNVERIFIED，规则可直接复用。
adeelahmad 发布 aloop（Aladdin's Loop，前身 agentic-agile，当前 v0.12.0），把一行意图转成计划、测试优先、门控验证的软件交付，支持 Claude Code、Codex 和 OpenCode 三种宿主。流程为用户批准计划后由隔离 git worktree 中的廉价 worker 执行，RED/GREEN/结构审查等确定性 hook 门控决定验收，模型不能自行宣称完成。实测示例包括 11/11 检查通过耗时 11m10s 花费 $0.65 等；一个约 17K 行 Go 后端用约 155 万输出 token 完成，其中 76% 由 Sonnet 4.6 承担，输入缓存命中 99.9%。
推荐理由：原文给出多组可复现的实测数据，包括检查通过数、耗时和成本，读者可以据此评估这套门控循环在自家工作流里的可行性。
Matvel007 在 GitHub 发布 browser-agent 1.0.0，一个 Chromium 浏览器侧边栏 AI 助手，可读页面、点击、输入、切换标签页，并通过 DevTools Protocol 检查 console 和网络、搜索网页。支持 RouterAI、OpenAI、DeepSeek、Gemini、Anthropic 及 OpenAI 兼容端点等任意提供商，提供 29 个可单独开关的浏览器工具；工具输出有界，大数据存为 IndexedDB artifacts，完整聊天记录不会被压缩删除，/compact 只添加摘要卡片。需 Node.js 22.12+ 或 24/26+，MIT 协议开源。
推荐理由：开源的浏览器侧边栏 Agent，29 个工具均可单独开关，上下文压缩保留完整聊天记录，适合想本地控制浏览器自动化的用户。
开源工具 LLM-Usage-Desktop-Widget 在 Linux 顶栏、macOS 菜单栏和 Windows 任务栏显示 Claude 与 Codex 订阅的会话/周限额百分比与重置倒计时，75% 变黄、90% 变红。它复用 Claude Code 和 Codex CLI 已存的登录凭证，无需配置，token 只发给对应服务商；支持 deb/pkg/exe 安装包与 install.sh 脚本，另提供 --widget 浮窗、--once 终端输出和 --interval 刷新间隔等选项。
推荐理由：开源工具把 Claude 与 Codex 的用量限额直接显示在系统状态栏，复用 CLI 已存登录、无需配置，并给出各平台安装与 Bedrock 接入细节。
dave-holden 发布 proxytoolpatch 仓库，提供 FastAPI 代理 proxytool 和纯 Python 修复库 toolpatch，把小模型以原始文本泄漏的工具调用在传输途中修复为结构化调用，opencode、pi、curl 等任何 OpenAI 兼容客户端无需改动即可使用。
推荐理由：给出了在本地模型前加代理层修复泄漏工具调用的完整方案，含架构图、启动顺序和配置示例，方法可直接迁移复用。
GitHub 开源 RustyRAG，一个 Rust 编写的单二进制 RAG 服务器，检索、重排、生成全流程控制在 1 秒内，无 reranker 时 TTFT 低于 200ms。在 Open RAG Bench 3,045 题上用 qwen-3-235b 做 LLM-as-judge 评测，开启 Jina Reranker v3 后通过率 94.5%（失败 167/3,024），关闭后 91.6%（失败 253/3,020），重排增加约 100ms TTFT 和约 370ms 总延迟。
推荐理由：README 给出了同一套 3,045 题基准下开关 reranker 的通过率与延迟对比，读者可据此自行权衡精度和速度的取舍。