方向
Agent 框架、工具调用与运行循环，以及它们和人格、记忆系统怎么接。
1,880 条精选近 30 天 1,875 条共收录 7,246 条
Sylphx 发布开源工具 lockdocs，读取 npm、PyPI、crates.io、Go 的各类 lockfile，从本地已安装包的文档与类型声明中按精确版本回答问题，提供 MCP 服务与 CLI，MIT 协议。工具用 BM25 加 32 MB 本地嵌入模型做混合检索，答案按 token 预算打包并附 package@version 路径引用，支持离线缓存与私有包。在 105 道版本敏感问题上，lockdocs fetch 得 96/105，Context7 匿名 API 得 77/105，其中旧主版本题 38/45 对 19/45；fetch 后中位延迟 58 ms，Context7 为 2,583 ms。Pro 版以每席位每年 120 美元提供私有源读取和升级差异报告。
推荐理由：官方仓库给出 105 题版本敏感基准，与 Context7 对比后旧主版本题正确率高一倍，延迟和配额数据也可直接核对。
ntatschner 发布 Loadout CLI，一个为 Claude Code 和 Codex 启动编码智能体的工具，启动前可预览将加载的指令及其 token 成本。内置 104 个专家配置，示例任务编译出 2,403 tokens（占 12,000 预算的 20%）；支持团队多智能体协作、跨机器记忆、浏览器 dashboard 与无障碍预设，通过 loadout protect 将智能体文件挡在仓库之外，原生支持 Windows、Linux 和 macOS。
推荐理由：原文给出了编译上下文的 token 占比、内存 hook 的实测数据和多轮团队运行的花费，读者可以据此评估这个启动器的实际开销。
zhe97396-tech 发布 ghstars，将 GitHub Star 仓库导出为 Markdown 文件并建 SQLite/FTS5 索引，无需向量数据库或 240 MB 嵌入模型即可毫秒级检索。工具支持中英文搜索，可选调用 LLM 生成 3-5 个中文场景标签和中文描述，提供 CLI、MCP server、Skill 三种方式供 AI Agent 调用，仅需 Python ≥ 3.11 标准库，Markdown 为唯一事实来源、索引可随时重建。
推荐理由：作者详述了中文场景标签、加权检索和分类防漂移等设计取舍，做本地知识库工具的读者可以借鉴这些可迁移方法。
hivecommons 发布开源工具 rationguard，用于检测 AI Agent 输出中的合理化模式（如 "Standing by for instructions""Too complex to fix"），并自动发送反驳让 Agent 继续工作。工具内置 15 个默认借口模式，源自 Hive 多智能体系统在生产环境中观察到的 49 个借口，归为 False Completion、Complexity Dodge、Deferral、Lane Confusion、Partial Credit 五类；支持通过 pluk 实时监控 tmux 会话、作为 Claude Code Stop hook 检查每轮响应、或生成防御表注入系统提示词三种用法，还支持自定义借口学习，Apache-2.0 协议。
推荐理由：README 给出 49 个生产环境中实证观察到的借口模式和完整用法，可作为治理 Agent 消极怠工的可复用方法。
mnemonic-proxy 作者在 AgentLongBench 上用 Qwen3.8 Flash Next（IQ3_XXS、Strata 0.1.40、单张 RTX 4070 Ti 12 GB）对比四种方法：归档加 recall 工具的 proxy 得 86/100，全窗口 69，LLM 摘要 47，截断 49。第一轮因题目歧义各方法都接近随机（proxy 52、summary 56），在每题加一句澄清后重测，proxy 对 summary 合并配对检验 p=7.6e-9，对全窗口 +17 分（90% CI [+7, +26]）；128k 下全窗口 32/50 的回答撞到 3,072 token 推理预算。
推荐理由：作者用预注册的两轮测试区分了题目歧义与真实差距，并给出各方法的置信区间、耗时和显存数据，局限也写得很清楚。
adieladaniel 发布 OneForAll-Agent v2，一个任务无关的浏览器 Agent 运行时，v2 在 v1 单用户原型基础上加入组织、角色、PostgreSQL 存储、任务队列、持久审批、加密凭据库和组织记忆。系统不用 LangChain，runner 约 700 行单文件，仅靠 PostgreSQL 的 SKIP LOCKED 队列和 LISTEN/NOTIFY 实现跨进程协作；写入和不可逆操作由代码而非模型判定风险并触发人工审批，成功声明需经只读独立审计员复核。
推荐理由：作者用确定性替身模型做了负载测试并给出各档吞吐、恢复与隔离数据，读者可以据此评估这套无框架 Agent 运行时的实际结构表现。
trailhq 发布 Trail-Code（原 graft），为 Claude Code、Cursor、Codex 等编码智能体提供自学习上下文层，含 tree-sitter 构建的代码图谱 graft map 和从对话中自动保存的 learnings。SWE-bench Verified 50 题上 Claude Sonnet 5 从 27 题提升到 33 题，token 减少 23%；162 次自建基准显示成本降 32%、时间降 60%、工具调用减 46%，PocketBase 15 个真实任务成本降 21%。CLI 经 npm 安装，MIT 协议开源，learnings 通过 git 共享、无需服务器。
推荐理由：原文给出 SWE-bench Verified 与 162 次自建基准的前后对照数据，读者可以据此判断这个上下文层在成本和正确率上的实际收益。
GitHub 仓库 qibin0506/llm_trainer 发布，是一个基于 PyTorch 与 DeepSpeed 的 LLM/VLM 训练框架，覆盖 Pretrain、SFT、DPO/ORPO/SimPO 到 PPO 与 GRPO 的完整流程，支持 8 种 GRPO 变体算子（grpo、bnpo、dr_grpo、cispo、dapo、luspo、sapo、vespo）。框架内置 Muon 优化器自动混合参数分组与多学习率比例调度，通过分块交叉熵、Active Token Filtering 和生成/评估分块降低显存峰值，支持多轮 Agent 强化学习交互与奖励折叠，并适配 NVIDIA CUDA、华为昇腾 NPU、寒武纪 MLU 和 Apple Silicon MPS 后端。
推荐理由：原文完整给出了从预训练到 GRPO 的训练流程与关键显存优化手段，读者可以对照自己的硬件环境判断哪些模块可直接迁移。
luftpause 在 Agent harness 与推理引擎之间增加运行时层，记住每次工具调用暂停的运行，让续接请求优先于批量任务调度。在一块 8 GB 笔记本 GPU 上引擎饱和时，交互式运行吞吐经代理为直连 SGLang router 的 2.0 倍、经 MCP 子 Agent 为 2.7 倍，批量吞吐分别损失 9% 和不变；关键在于严格运行亲和性把运行固定在持有其 KV cache 的副本上。支持 OpenAI 兼容代理与 MCP 两种接入，提供 spawn/await 子 Agent、运行日志恢复、预算与工具审批，已列入官方 MCP Registry，采用 Business Source License 1.1 并在发布四年后逐版本转为 Apache 2.0。
推荐理由：作者给出饱和负载下的对照实测数字和准入策略拆解，能看出调度收益来自哪一层，而非笼统跑分。
melnikaite 在 GitHub 发布自托管离线优先语音助手 voice-assistant，全部运行在本地硬件，无需云端 API key，多数任务可断网使用。默认栈为 LocalAI（llama.cpp）跑 Qwen3-VL-8B-Instruct 32k 上下文、whisper.cpp 流式 ASR、Coqui XTTS-v2 流式 TTS（6 秒样本克隆家庭成员声音），并带 WeSpeaker 说话人识别、语义记忆、个人条目库和 AppleScript/视觉回路的桌面自动化；破坏性操作由提示层、静态分类器和点击过滤三层只读闸门拦截。代码 MIT 协议，XTTS-v2 权重为 Coqui CPML 非商用许可。
推荐理由：项目文档给出了完整的技术栈选型、离线边界和桌面自动化的三层只读防护设计，想自建本地语音助手可以参考其架构取舍。
/u/HauntingMoment 在 r/LocalLLaMA 报告，单工具的裸 IPython harness 在 Terminal-Bench Lite 上用 Qwen3.5-9B 追平了 QwenCode、OpenHands、opencode、Pi 等更重的生产级 harness。测试发现小模型 agent 的大部分随机性来自环境噪声而非模型本身，各 harness 约 25-30% 的调用用于读文件，工具使用更多反映系统提示词而非模型；OpenHands 因默认硬编码 temperature=0.0 最稳定，但同一任务 20 次试验的通过率仍在不同任务间大幅波动。
推荐理由：作者用多 harness 对照实测定位了小模型 agent 波动的来源，并给出约 40 行正则归一化工具输出这一可复用的降噪方法。
tashfeenahmed 发布 FreeLLMAPI，将 34 家提供商的 635 个免费模型端点聚合为单一 OpenAI 兼容 /v1 API，宣称合计约每月 74 亿 token 免费推理容量。路由器按速度、能力、可靠性评分选模型，429/5xx 时自动冷却并切换下一家，按 key 跟踪 RPM/RPD/TPM/TPD 以不超各免费档上限；密钥 AES-256-GCM 加密存于本地 SQLite，目录每日两次从 freellmapi.co 拉取签名更新，免费版滞后 30 天，Premium 实时目录 $19/年。
推荐理由：原文给出了聚合 34 家免费档位的具体规模和路由、限流跟踪机制，读者可以据此评估自建免费推理池的可行性。
kuchris 在 GitHub 发布 openinterview，面向 Apple Silicon Mac 的本地低延迟语音识别与 AI 面试练习工具。支持 MLX Whisper、NVIDIA Parakeet 或 Apple SpeechAnalyzer 在设备上转写通话双方，最终延迟约 1–2 秒，音频不出本机；可识别技术与行为面试问题并忽略寒暄，通过 OpenCode（如 DeepSeek）或任意 OpenAI 兼容服务生成可口头表达的简短答案，并按导入的 CV 和目标岗位定制。支持英语、日语、简繁中文和粤语，会话可本地保存回放，需 macOS 14.2+。
推荐理由：开源的 macOS 面试练习工具，本地转写双方通话并按 CV 生成口头答案，隐私设计和延迟数据写得具体。
al2m4n 发布 TheYgent，一个自托管、无代码的 AI Agent 编排平台，通过可视化画布组合 LLM 步骤、工具、MCP 服务器、RAG、路由和人工审批节点。内置本地推理支持 llama.cpp、Apple Silicon 上的 MLX 和 NVIDIA GPU 上的 vLLM（实验性），也可接入任意 OpenAI 兼容 API；默认无遥测、可完全离线运行，发布版本不可变可回滚，并提供 Claude Code AI 网关与面向编码 Agent 的 MCP 服务器。许可证为 Sustainable Use License，自用免费，商业化转售或托管服务需授权。项目地址：https://github.com/al2m4n/TheYgent
推荐理由：原文完整列出了可视化编排、内置本地推理和隐私架构等能力，还给出部署方式与许可证条款，便于评估是否自托管。
GitHub 项目 kvscope 发布，包含一个 KV cache 感知的 LLM 推理网关和它的数字孪生调度模拟器，网关订阅 vLLM 的 KV 事件、维护全局前缀索引并按策略路由请求，孪生用网关记录的真实流量做影子评估、保真度检查和容量规划，再通过控制接口热切换策略。实测在 RTX 5070 上双 Qwen3-0.6B 实例中，从 round_robin 切到 prefix_affinity 后前缀命中从 78.0% 升至 87.6%，TTFT p90 从 15.6 ms 降到 9.9 ms；作者同时指出模拟器可比较策略与命中率，但绝对延迟低估 2 到 4 倍，不能用于预测真实延迟。
推荐理由：作者给出模拟器与真实集群在命中率和策略排序上的对照数据，也如实标注绝对延迟低估 2 到 4 倍的边界。
solid-ai-dev 发布 solid-ai-templates 3.0，通过可组合模板层（core、backend/frontend、stack）为 Claude Code、Cursor、Copilot、Codex CLI 等智能体生成 AGENTS.md 和 CLAUDE.md，统一团队编码规范。3.0 将 stacks、平台、流程层和访谈移至 fork（如 imbra-ai-templates），上游只保留共享引擎与策略，含 39 个正交模板。第 4 轮基准（2026-10-17）显示 39 行手写文件在两次运行中表现最好，弱模型下模板生成文件反而降低隐藏测试通过率，安全收益仅为信号级，且所有文件都使生成代码变大。许可证为 CC BY 4.0。
推荐理由：仓库自带第 4 轮基准数据，对比无文件、模板生成与 39 行手写文件的效果，结论是混合而非一边倒，可作参考。
MaxKharlan 发布 next-experiment，一个在 Nebius Token Factory 上诊断微调失败原因并做因果验证的智能体。它先按概率排序可能病因，用最便宜的探针和 fix/control 对照实验确认病因，确认后才在批准后重训。演示案例中 Qwen3-0.6B 因学习率 1e-5 过低只答对 14% 的 200 条 held-out 查询，4 个 Post-training job 证实病因后重训达 42.5%，全程约 $0.075。基准在 13 个 Token Factory 任务上对比四种方法，Next Experiment 9/9 找到病因、0 误报，成本比 ReAct 低 30%。仓库含 HTTP API、调查回放页面、权重探针与完整文档，Apache 2.0 许可。
推荐理由：原文给出基准对比数据，这个诊断智能体以低 30% 的成本达到与 ReAct 相同的病因定位成功率，方法可迁移到自己的微调排查。
CFD 研究者 Stefano Zaghi 开源 llm-wiki，让 LLM 作为有状态编译器把论文、书籍和网页一次性编译成 lint 过、交叉链接、记录矛盾的 wiki，格式为 Google Open Knowledge Format v0.1。不依赖向量数据库和嵌入检索，每个概念一页、统一符号表、每条论断标注出处并区分已发表文献与假设，矛盾按来源记录而非按新旧裁决。
推荐理由：仓库把 LLM 当有状态编译器一次性整理科学文献，给出 OKF 格式、矛盾记录协议和可复用的建库流程。
Albasha0x0 发布 Corvus，一个让 Agent 通过 MCP 读取、追踪、对比和修补编译程序的 MCP 服务器，支持 .NET 程序集及 PE、ELF、Mach-O 原生二进制。单文件自包含、无需安装运行时、默认不执行所读内容，原生分析覆盖 x86、x64、ARM32、ARM64，可选 IDA 或 Ghidra 作反编译器，共含 165 个工具和 15 个提示词，支持 Claude Code、Cursor、VS Code 等众多客户端。项目仍在活跃开发中，接口可能在版本间变动。
推荐理由：项目自述内置 .NET 反编译与原生二进制分析引擎，无需安装运行时，结果按 token 预算分页，适合让 Agent 直接做逆向。
Sitor AI 发布开源工具 Frametell（帧言），输入一句话或笔记、PDF、幻灯片等材料即可生成带字幕的 1080p 讲解视频。导演 Agent 先产出分镜供用户确认，再写解说词、用 ElevenLabs 或火山引擎 TTS 配音、逐页绘制并自检，示例成片 72 秒耗时 12 分 52 秒、成本 $1.59。支持 macOS（Apple Silicon）本地运行，兼容 Anthropic、OpenAI、Google、DeepSeek、OpenRouter 等 API，采用 AGPL-3.0 许可。
推荐理由：原文给出了实际运行的成本与耗时数据，并说明其通过驱动成熟视频引擎而非从零生成来稳定产出，方法可复用。