内容形态
开源仓库与工具：人格工程、记忆系统、去对齐脚本、推理与微调工具链。
2,053 条精选近 30 天 2,046 条共收录 8,532 条
holger81 在 GitHub 发布 mcp-proxy-server，一个面向 LLM 的 MCP 网关，把多个上游 MCP 服务器（stdio、HTTP、SSE）收敛为单一端点，只暴露 searchToolsForDomain、searchTool、callTool 三个元工具。支持按域分组工具、为每个上游服务器写入最多约 12k 字符的 llm_context 引导、内置 /admin 管理界面与 API token 认证，提供 Docker 和 docker compose 部署方式。
推荐理由：原文给出把大量 MCP 工具收敛为 3 个元工具的网关方案，含域名分组与 per-server llm_context 的具体配置方法，可复用于多 MCP 服务器部署。
Veto 仓库开源，可将现有 OpenAPI 服务转为 AI Agent 可搜索和调用的工具，由 Veto 检查策略、对破坏性调用要求人工审批并先行解析凭据，再执行 API。模型通过 search、describe、invoke 三个能力访问服务，支持 MCP、`veto serve --` 的 JSON lines，破坏性删除在获批前不发起上游 HTTP，trace 会隐去密钥；安装支持 brew 和 go install，项目处于 1.0 前阶段，公开 API 可能变动。
推荐理由：原文讲清了如何给 Agent 的 API 调用加策略审批与凭据管控，包括破坏性操作挂起等可复用的机制细节。
作者 jameswniu 开源了一套自主广告生产流水线仓库，包含 LangGraph 图、门禁、探针和标注样本，广告在自身检查通过前不许花一分钱。评测对像素和音频而非文本打分，10 个命名门禁阈值全部由标注的通过/拒绝样本对推导，无需账号、密钥或 GPU 即可复现。质量评测基于 Prolific 上 90 名评审的 450 次盲投，四引擎路由的 picks 平均胜率 52%，低于总是选 Seedance 2.0 的 59%，十支真实产品 spec 广告在 Omni Flash 上约每场景六十美分。
推荐理由：作者把评测同时用作路由和花钱前的门禁，并公开了阈值推导方法，读者可以复现这套无人值守投放的可检验做法。
CarlosCaPe 发布开源项目 Octorato（MIT 协议），用 ~/.claude 纯文本文件夹为 AI 编码助手提供持久记忆、规则和操作记录，含 240+ 技能指南和 160+ 角色卡，支持 Claude Code 和 Cursor。每条规则绑定自动检查，每次回答附收据；v8 加入 Kernel 为每次运行提供日志、身份和步数分钟上限；v9 由未写代码的第二助手对需求逐条判定是否完成，标记完成的推送需附新收据，否则本地检查拒绝推送。客户端项目用密封文件夹相互隔离，防止信息串扰。
推荐理由：原文用前后对照讲清了一个纯文本规则文件夹如何给 AI 助手加记忆、隔离和校验，方法可直接克隆复用。
Ganesh1110 在 GitHub 上开源了 DynoLLM，一个面向本地 LLM 的基准测试、并发压测和硬件遥测平台，支持 Ollama、vLLM、LM Studio 和 llama.cpp。平台原生测量流式 TTFT、tokens/s、并发饱和极限、GPU VRAM 与功耗，提供 tok/s/W 能效分析和带安全熔断的 watchdog，前端为 React 仪表盘，后端 FastAPI，采用 MIT 许可证发布。
推荐理由：README 详细给出 TTFT、并发压测、功耗遥测等指标的计算方式和四种流量模式，读者可以据此判断是否值得为自己的本地 LLM 部署引入这个压测平台。
cckyros 在 GitHub 发布 decision-lite，一个以 MCP server 形式复刻 TypeSafe Jev 请求/响应契约的决策层，复用其公开工作流而非未公开的模型内部。支持三种可插拔后端：默认的 cactus-needle（121M 本地模型，~30MB，免费但非英文 confidence 不可靠）、laya（~643MB 多语 checkpoint，输出真实每选项分布）、以及任意 OpenAI 兼容端点（verbalized / sampling / logprobs 三种模式，如经 Ollama 运行 qwen3:0.6b）。
推荐理由：README 直说复刻的是 Jev 的接口契约而非内部模型，并列出各后端校准缺陷和基线数据，判断冷静。
Singingmen 在 GitHub 开源 git-layered-memory，为 AI coding agent 提供跨会话、跨 AI、可检索的长期记忆，纯 markdown + git 实现，零依赖、零数据库、不调用 LLM。方案按是否进注入把记忆切成四层，注入层只留索引与稳定事实，全文沉到检索层用 git grep 按需捞；实测迁移后注入层从 215268 码点降到 8804 码点（预算 15000），一条 2897 字符的新决策入库只增加 23 码点注入预算。项目附 memory-init、memory-lint、memory-split、memory-find 四个脚本和 168 项对抗性测试。
推荐理由：README 给出四层记忆分层的完整设计依据与迁移前后实测数据，读者可以直接复用这套纯 markdown 加 git 的 agent 记忆方案。
neo805 发布 dsh-effort-router，一个 DSH（DeepSeek Harness）插件，按 trivial/standard/engineering/hard 四级任务分类为每步自动路由推理强度，并提供 Auto 级别注入而非第二套选择面板。机制包括工具报错与重试触发升级（每任务设上限）、降级需连续两次静默判定、能力钳制映射到目标模型词汇表（如 high 到 ultra），并为无 reasoningEfforts 表的 llm-pi-ai 自定义模型在启动时经解析门补填默认表。拦截器 fail-open，无推理元数据的模型不发送 reasoningEffort，自动路由永不发出 off 以避免污染后续思考请求。
推荐理由：原文完整讲清了按任务难度分级调度推理强度的策略设计，包括升降级、迟滞和自定义模型补表等可直接复用的机制。
wang29a 在 GitHub 发布 grill-me，一个每轮只问一个问题的 Agent Skill，用于攻击用户已成形的主张而非给建议，支持设计、学习、决策三种模式。核心机制包括不许安慰、不接受模糊答案、先分类原话推断假设再开口，结束产物将严重度与置信度分开列出。Skill 是一个 SKILL.md 文件，可装入 Claude Code 或 DSH 的 skills 目录使用。
推荐理由：作者公开了拷问式 Agent Skill 的完整机制与迭代中被打回的教训，读者可以直接安装复用并借鉴证据标注做法。
Joakimpalm-Zen 发布 xyntetik-runner 1.0.2，一个纯 C 编写的单文件本地推理引擎，支持 Linux、macOS 和 Windows，兼容 GGUF 与 OpenAI、Anthropic API，Apache 2.0 开源。工具可仅读模型文件前几 MB 判断是否装得下，在 72 次测试中 70 次命中真实 GPU/CPU 分层且从不乐观；--kv k8v4 将上下文缓存压到约 41%，空闲时 63 GB 模型仅占 35 MB 内存（llama-server 为 60.8 GB）；被截断的工具调用仍可解析，LoRA 可直接在量化文件上训练，Qwen3-4B 4-bit 工具调用准确率从 0.69 升至 1.00。
推荐理由：README 给出可复现的实测数据，读者可以拿这些数字与 llama.cpp 等现有推理引擎做具体对比。
mrwogu 开源了 factory-droid-openai，一个本地运行的网桥，把 Factory Droid 模型以 OpenAI Chat Completions 和 Responses API 格式暴露在 http://127.0.0.1:8787/v1，可在 VS Code、Cursor、Continue、Aider、Zed 等任何支持自定义 base_url 的工具中使用 GPT-5.4、Gemini 3.1 Pro 等模型。
推荐理由：原文给出多模型工具调用方言的完整解析表和 fail-closed 处理策略，对自建本地 API 网桥的人是可借鉴的工程参考。
Enclave Labs 发布 Ontos 0.1.0，首个公开发布的 in-VPC 知识图谱运行时，从企业数据中抽取类型化实体与关系，通过 MCP 接口供 LLM 智能体查询，支持权限感知遍历、双时态有效性与合规级审计记录（对齐 EU AI Act Article 12 的 ≥12 字段、≥6 个月留存）。可通过 pip install enclave-ontos 安装，PDF 摄取提供 pypdf（零网络调用）与 llamaparse（字节离开 VPC）两种后端，存储后端支持 Neo4j、NetworkX、Neptune，采用 Apache-2.0 许可证。
推荐理由：原文给出知识图谱运行时的完整架构与部署方式，读者可以据此判断如何在 VPC 内为 LLM 智能体提供带审计的知识层。
GitHub 项目 n1dlee/friday-mobile 发布了 Android 语音助手 Friday，模仿钢铁侠中的 F.R.I.D.A.Y.，说出唤醒词后可语音完成闹钟、通话、短信、音乐、日历等操作。项目采用 Vosk 离线关键词唤醒和 ResNet34 本地声纹验证，只响应主人声音；约 40 个日常命令在手机本地毫秒级执行，其余交给 Groq 上的 gpt-oss-120b/20b LLM Agent（24 个工具），学会的短语下次可跳过模型。需要免费 Groq API key、Android 8.0+ 64 位手机，界面和语音支持俄语和英语，项目处于 preview 阶段，MIT 协议开源。
推荐理由：原文完整给出了架构、隐私设计和命令路由机制，读者可以照此搭建一个只认主人声音的本地手机语音助手。
santanu20 在 GitHub 发布 web-search，一条查询可分发到 DuckDuckGo、Brave、Google、Wikipedia 等 8+ 搜索后端，抓取并清洗整页内容，可选接本地 LLM 生成带引用的答案，每条引文都对照原页面校验，全程无需 API key。它既可作 CLI 输出 JSON，也可克隆进 opencode、Claude Code 等 Agent 的 skills 目录，通过 SKILL.md 提供模式目录与输出契约。实测（2026-10-07，qwen3.5:9b，24 核 CPU，9 次运行）显示 90%±14 的引用可溯源，每次约 20-30 个来源、每题约 6-7 分钟；证据窗口方式在 A/B 对比中优于头部截断。
推荐理由：作者给出了实测数据，90%±14 的引用可溯源到原页面，并对比了证据窗口与头部截断的 A/B 差异，便于评估是否可用。
zhongkaifu 发布 TensorSharp，一个面向本地 GGUF 模型的 .NET 10 推理引擎，支持 CLI、浏览器聊天和 Ollama/OpenAI 兼容 API，后端覆盖纯 C# CPU、CUDA、Metal 和 Vulkan。能力覆盖文本与推理、多模态输入、嵌入向量、Qwen-Image-2.1 图像生成与遮罩编辑、MiniMax-H3 带音频视频生成，以及含沙箱代码执行的 Agent Skills 和受限子智能体。
推荐理由：原文给出与 llama.cpp 同硬件同文件的逐项对比数据和多后端覆盖说明，读者可以据此评估这个 .NET 本地推理引擎是否适合自己上手。
PaoloMassignan 在 GitHub 开源 Tokli v0.1.0（Apache-2.0），这是一个本地透明代理，可降低 Claude Code、Codex 等 coding agent 发往 Anthropic 和 OpenAI 的 token 与成本，并报告节省量和对应压缩器。首个可用切片 S1 支持 Anthropic Messages 加无损压缩器 _minify；README 明确风险：E5a 实测文本压缩节省仅 8.1%，且 agent 输入多为约 10% 价格的 cache reads，实际节省可能很低甚至为负。
推荐理由：作者本人发布的本地代理工具，README如实列出实测压缩率、prompt cache 成本等风险数据，可借此了解 coding agent 省token方案的边界。
marinsokol5 在 GitHub 发布 am-i-nerfed，一个本地逻辑谜题自测工具，以 CLI 和 Agent Skill 形式判断模型当天是否被降智。任务由随机种子在本地生成，默认中等难度限时 180 秒，支持 Claude Code 和 Codex。2026-10-05 的初步横评中 gpt-6-astra 以 85.0% 排名第一，claude-opus-4-6 因从未在截止前保存答案得 0 分；作者还观察 to Anthropic 模型难以遵循简单指令、Fable 5.1 因安全分类器误拦无法可靠测试，以及 Anthropic 推理速度比 OpenAI 快约 4-6 倍。
推荐理由：工具让用户在自己的订阅环境里用私有任务自测模型当日状态，作者还附上了十三款模型的初步横评结果。
作者开源 steadybatch 工具，用于可靠地通过各厂商 Batch API 跑数百万条 LLM 请求，价格约为常规一半。它为每个请求分配稳定 ID 并检查是否全部返回，按 JSON Schema 校验响应，坏行单独重试而不重跑整批，进度写入 SQLite 以便崩溃后续跑，并按发送顺序返回结果。支持 OpenAI Batch API、Gemini batch mode、Anthropic Message Batches API 和自托管 vLLM，AWS Bedrock 在路线图中；仓库还附一个跨厂商批量 API 的开放基准 harness，比较成本、耗时、失败模式和可复现性。项目尚不在 PyPI，需从 GitHub 安装，Apache-2.0 许可。
推荐理由：原文讲清了批量 API 常见的漏行、坏 JSON、不可复现等问题及逐行重试与断点续跑的处理方法，可迁移到大规模结构化提取任务。
GitHub 开源工具 agent-inspect 发布，把 TypeScript AI Agent 的运行记录转成本地 JSONL 执行树、确定性轨迹检查和可离线验证的 Evidence v2，无需账号、collector 或默认上传。支持 view/check/bundle 等 CLI 命令与 LangChain、LangGraph、AI SDK、OpenAI Agents JS 适配器，当前版本 6.31.16，要求 Node.js >=20，采用 MIT 许可，trace 默认只记元数据并默认启用写入时脱敏。
推荐理由：原文讲清了从本地 trace 采集、CI 轨迹检查到离线证据分享的完整用法，读者可以照着把它接进自己的 TypeScript Agent 工作流。
开源项目 qunqin24/Pulse 发布，这是一款免费的 macOS 用量监控工具，可在屏幕边缘以环形图显示 Claude Code、Codex、Cursor、GitHub Copilot、Grok、DeepSeek、Kimi Code 等 77 个 AI 编码服务的配额余量。工具基于 Swift 和 SwiftUI 构建，需 macOS 14 Sonoma 及以上，支持 Apple Silicon 与 Intel；无自有后端，直接使用用户已有的各服务登录凭据，数据本地处理，手动输入的密钥加密存储。
推荐理由：开源的 macOS 用量监控工具，覆盖 77 个 AI 编码服务的配额显示，数据全部本地处理，适合同时订阅多家编码工具的人。