跳到正文
  1. GitHub · 灵魂体仓库58

    dkruyt 开源 privacy-llm-gateway:逐请求判定提示词走云端还是本地模型

    dkruyt 在 GitHub 开源了 privacy-llm-gateway,一个隐私感知的 OpenAI 兼容 LLM 网关,对每个 model auto 请求在本机做两级检查后决定路由到云模型还是本地模型。规则检测器查找邮箱、IBAN、信用卡号、各类 API 密钥、JWT 和内部机密标记等,命中即强制走本地并固定会话;本地分类器对整段对话(含 PDF 附件)按可配置类别打分,仅在确信公开且各类别得分都低时放行公共上游。任何失败一律路由本地、不回退公有云,敏感会话粘滞,客户端无法选择公共模型。

    推荐理由:作者给出本地检测器加分类器的双层隐私审查设计和失败即走本地的路由保证,适合关注敏感数据不出内网的团队参考。

  1. GitHub · 灵魂体仓库56

    peymanpro 开源 AI-Evaluation-Engineering V1.1 评测工程框架

    peymanpro 在 GitHub 发布 AI-Evaluation-Engineering V1.1,一个供 AI 系统做测量、对比与回归测试的中立于提供商的评测层。V1.1 新增带类型化的 Agent 轨迹回放与任务/步骤成功分离分析、对抗性安全回归用例、配对 bootstrap 置信区间的发布决策 compare(evaluate_release_candidate,含 Bonferroni 校正与 PASS/FAIL/INCONCLUSIVE/INVALID_EVIDENCE 四种判定)、方向感知回归门控、失败记录转回归套件的 JSONL 失败记忆,以及质量/成本与质量/延迟权衡前沿分析和可审计证据包。

    推荐理由:作者把评测当工程学科来设计,给出了配对 bootstrap、回归门控和失败记忆等可复用做法,对搭建 AI 评测体系有参考价值。

  2. GitHub · 去对齐工具与仓库63

    HaikeiLabs 发布 Agentware:Agent 工具调用策略执行与审计中间件

    HaikeiLabs 发布 Agentware,一套支持 Go、Python 和 TypeScript 的 Agent 工具调用策略执行与审计中间件,每次工具调用经过单一拦截点,按声明式规则执行 allow、deny、filter 并生成追加式审计记录,结构在更换框架或模型时保持不变。它让发起任务的人类主体穿越每层子代理委派仍可追溯,记录调用触及的资源(如表、桶、端点)并沿委派链归因 token 成本;配套的 Kei 为仅存元数据的控制平面,客户内容、凭证和索引不进入 Kei,SDK 已发布至各语言公共 registry,当前版本 0.12.0 要求 kei-proxy 不低于 v0.3.0。

    推荐理由:它把审计记录做成跨框架不变的统一结构,让人类发起者在多层子代理委派后仍可追溯,这个资源级血缘思路可迁移到其他 Agent 治理场景。

  3. GitHub · 去对齐工具与仓库55

    RegLens 开源:面向信用社员工的监管合规 Copilot 与幻觉评测

    NYU 的 Sai Akhilesh Vangala 开源了 RegLens,一个基于联邦消费银行法规的信用社客服 Copilot,语料为 2026-10-02 固定版 eCFR,含 2371 段、2495 个引用分块和 2276 条引用边。模型只提议,确定性代码把关:引用必须是工具返回段落的逐字子串、日期必须来自计算器、争议一律转工单,未支持内容被扣留转人工。评测显示 Copilot 配置在 43 题黄金集上答对率 0.94、97% 回答附有已验证引文、未支持声明为 0,单题成本 $0.0013;检索实测发现混合检索(BM25+dense RRF)反而低于纯稠密检索,引用图更适合作为 Agent 工具而非排序信号。全部评测含重试共花费 $0.47,项目以 MIT 许可发布。

    推荐理由:作者用同一套 43 题黄金集实测了闭卷、无验证器 RAG 与带验证器 Agent 四种配置,检索与幻觉数据齐全,可作 RAG 验证设计的参照。

  4. GitHub · 灵魂体仓库58

    esinecan/mcp-inspector-as-mcp-server:让 LLM 检测和测试其他 MCP 服务器的工具

    esinecan 发布了 mcp-inspector-as-mcp-server,一个基于 MCP SDK v2 的精简 MCP 服务器,可让 LLM 直接检测、调用和测试其他 MCP 服务器的工具、资源与提示词。v2.2.0 支持会话管理、事件缓冲、协议时代协商(可判断目标服务器是 legacy 还是 modern 无状态协议)、mcp-cli 命令行、OAuth 认证、Web 搜索路由、Windows 守护进程与桥接等能力,并支持人类通过 insp_inject_steering 或 HTTP API 实时注入引导消息,实现 human-in-the-loop 的 MCP 调试工作流。

    推荐理由:原文把 MCP 检测功能整合成单一 MCP 服务器和 CLI,并详细说明了协议时代协商、会话管理与人类介入机制,方法可直接复用。

  1. GitHub · 去对齐工具与仓库67

    Regression Firewall 开源:为 AI 编程智能体捕获未请求行为回归的守护层

    Tong-bit-art 在 GitHub 开源了 Regression Firewall,一个面向 AI 编程智能体的行为回归安全层,在智能体改代码前后捕获 HTTP 状态、CLI 输出、退出码和公共 API 等可观测行为,对照声明的意图做结构化 diff,输出 EXPECTED/UNEXPECTED/UNCERTAIN 分类、0-100 风险分和 PASS/REVIEW/BLOCK 判定,全程无 LLM 参与、结果确定性可复现。工具要求 Python 3.9+,尚未上架 PyPI,需克隆仓库安装,唯一运行时依赖是 PyYAML。

    推荐理由:工具在 AI 编程智能体改代码前后捕获可观测行为并给出确定性判定,附真实仓库与留出集评测数据,可评估其检出能力。

  2. GitHub · 去对齐工具与仓库63

    MCP Gateway:用 9-17 个元工具替代上百个 MCP 工具定义的 Rust 网关

    Mikko Parkkola 发布 MCP Gateway,一个单二进制 Rust 网关,把 MCP 服务器和 REST API 聚合在 9-17 个元工具的紧凑表面之后,通过 gateway_search_tools 和 gateway_invoke 按需发现并调用后端工具。每个 MCP 工具定义约耗 150 token,20 个服务器 100 个工具约 15,000 token;实测中元路径完成任务反而多用 1.2-16.1% 输入 token 并多一轮,价值在于目录容量、策略与路由。支持约 8ms 热重载、工具投毒校验、SHA-256 能力固定、多租户身份传播和 A2A 适配,内置 110+ 能力,采用 PolyForm Noncommercial 1.0.0 许可,商用需授权。

    推荐理由:README 附带实测基准,说明网关省下的是目录容量而非完成任务时的 token,读者可据此判断是否值得引入。

  3. GitHub · 灵魂体仓库68

    ClaimCheck 发布本地优先的 LLM 假名化网关

    saasclawai-org 在 GitHub 发布 ClaimCheck,一个本地优先的 LLM 假名化网关,单个自包含二进制提供两种模式:MCP server 供 Cline、Cursor 等客户端调用 read_sanitized 等工具,LLM proxy 对 OpenAI 兼容请求在线路层脱敏、响应时还原。占位符如 [FEIN_1]、[SSN_2] 稳定可逆,映射 vault 只存本机;内置 regex 识别器覆盖 SSN、信用卡、API 密钥、PEM 私钥等,可选本地 BERT ONNX NER 层捕捉自由文本人名组织名。作者明确说明局限:不覆盖 PDF/DOCX 等二进制格式和非英文文本,vault 未加密,MIT 许可下无任何担保。

    推荐理由:原文给出了假名化工具的两种工作模式、可识别的 PII 类型清单和明确不覆盖的范围,便于评估是否适合本地脱敏工作流。

  1. GitHub · 灵魂体仓库64

    inferencegod 开源 autonomy-loop:双终端 Claude Code 对抗式构建-评审循环插件

    inferencegod 在 GitHub 发布 MIT 协议的 autonomy-loop 插件,让同一仓库上的 2-4 个 Claude Code 终端以 git baton 方式轮转 builder 和对抗式 reviewer,共享状态写入 LOOP-STATE.md。核心约束包括冻结不变量门禁、无编造规则、覆盖率棘轮、资金路径变更强制人工放行,并按 T0-T3 信任分级控制无人值守自动晋级;作者自述贡献在约束组合而非循环模式本身。

    推荐理由:这个 Claude Code 插件把对抗式评审、冻结不变量和防幻觉约束打包成一键安装,价值在于约束设计而非循环本身。

  2. GitHub · 灵魂体仓库56

    开源自托管 AI Agent 平台 Chatter 发布,集成 Telegram 与桌面端控制

    NikitaCherepov 在 GitHub 开源了多平台 AI Agent 系统 Chatter(AGPL v3.0),Agent 跑在服务器上,通过 Telegram bot 与 Electron 桌面端连接同一账号,可一键分享给朋友或家人。系统包含 backend-api、desktop-app、Telegram bot、admin-panel、chatter-manager、webapp-notes 和可选 voice-service,各组件以 Docker Compose 编排;模型定价自动从 OpenRouter 拉取,内置 Pinecone 向量记忆、语音唤醒与 TTS、智能家居、邮件、网页浏览、多角色聊天和 Runbook 等功能,支持按用户设预算限额。

    推荐理由:原文完整给出了组件结构、安装命令与安全机制细节,读者可以直接评估这套自托管 AI Agent 平台是否值得自建。

  1. GitHub · 去对齐工具与仓库59

    Flightdeck 开源:面向生产与编码 Agent 的自托管观测与控制平面

    flightdeckhq 在 GitHub 发布 Flightdeck,一个自托管的 Agent 观测与控制平面,可实时展示每个 Agent 的 LLM 调用、MCP 事件和工具调用时间线。

    推荐理由:原文给出了传感器接入方式、SDK 覆盖矩阵和已知限制,读者可以据此评估这套自托管 Agent 观测方案是否适配自己的技术栈。

  2. GitHub · 去对齐工具与仓库67

    Unsponsored 开源 Chrome 扩展:用 SponsorBlock 加自选 AI 跳过 YouTube 赞助片段

    Myrhex-x 发布开源 Chrome 扩展 Unsponsored(unsponsored-0.2.0.zip),优先用 SponsorBlock 共享列表跳过 YouTube 视频里的赞助口播、频道周边推销和求订阅提醒,没有标记的视频再用用户自选 AI 读字幕找广告,支持 OpenAI、Claude、Gemini、Grok、DeepSeek、OpenRouter 及 Ollama 本地模型,还能在 YouTube 出现 Skip 按钮时立即结束广告。实测 60 个 SponsorBlock 标注视频,本地 qwen2.5 7B 检出 75%、误跳率 10%、免费,Grok 4.3 检出 90%、误跳率 0%、每视频约 $0.0073。

    推荐理由:开源浏览器扩展自带实测数据,对比本地小模型与商用 API 在跳过赞助片段上的检出率和成本,方法可复用。

  3. GitHub · 去对齐工具与仓库68

    aios-core 开源:面向 AI Agent 的本地优先类操作系统运行时

    tonythetiger168 发布 aios-core,一个本地优先、模型无关的 AI Agent 运行时原型,提供调度器、按 Agent 的权限、SQLite 持久记忆、沙箱代码执行和 MCP 客户端/服务端支持。项目处于早期 alpha,目前仅接入 Claude,也可通过 OpenAI 兼容接口使用 Ollama、vLLM 等本地模型;内置不可信内容标记与污点策略、技能摘要锁定、审计日志和注入攻击测试套件,README 附有各防御组合下攻击通过情况的测试结果表。

    推荐理由:README 附带注入攻击测试结果表,逐项展示污点策略与权限范围各自挡住了哪些攻击,安全边界与未竟事项也写得诚实。

  1. GitHub · 灵魂体仓库70

    Hermes Labs 发布 LintLang:面向 AI Agent 指令与工具接口的本地静态 linter

    Hermes Labs 发布 LintLang,一个本地确定性静态 linter,可在 Agent 运行前检查 MCP 定义、系统提示词、SKILL.md、参数 schema 等 Agent 配置,标记含混工具选择、缺失边界、schema 缺口等问题。扫描不调用模型、无网络访问,结果可复现并支持 JSON/SARIF 输出和 GitHub Actions CI 门禁;其发现已并入 bytedance/deer-flow PR #5656 和 bytebase/dbhub PR #447。项目含 1100 项通过测试,但作者明确表示尚未发布真实项目上的准确率和误报率数据。

    推荐理由:一个不调用模型的确定性静态检查工具,能在智能体运行前抓住工具描述含混和 schema 缺陷,还能接入 CI 门禁。

  2. GitHub · 去对齐工具与仓库62

    docx-anonymizer:在本地对发往 ChatGPT/Claude 的 docx 和 PDF 合同做匿名化的 Chrome/Edge 扩展

    Sitimlab 开发的开源 Chrome/Edge 扩展 docx-anonymizer 在用户向 ChatGPT、Claude 等聊天服务附加 .docx 或带文本层 PDF 时拦截文件,在本地识别 21 类个人与商业数据(含 INN、KPP、IBAN、护照、电话、邮箱、公司名等)并替换为占位符后上传,保留格式、表格、脚注和页眉并清除元数据;AI 回复可用仅存于本机的替换映射还原回真实名称。可选 NER 模型基于 rubert-tiny2 在 WikiANN ru+en 上微调,导出为 ONNX int8(约 30 MB)经 onnxruntime-web 在本地运行,WikiANN ru 测试 F1 为 PER 0.916、ORG 0.762、LOC 0.861,20 页合同全流程约 2.2 秒。

    推荐理由:README 给出了 NER 模型在 WikiANN 上的 F1、处理耗时和零网络请求的验证方式,隐私声明有测试支撑而非口号。

  1. GitHub · 去对齐工具与仓库57

    ai-detector:基于 Tauri 与 Vue 3 的 LLM API 真实性检测桌面客户端

    LingLingDayo 在 GitHub 发布 ai-detector,一款检测大语言模型 API 真实性的桌面客户端,用于识别中转服务商掺水、降级或货不对板的行为。内置两种检测方式:模型测试向目标 API 发送 3 道挑战题,用 Hellinger 距离与多维特征频数算法比对 ModelTrace 基准模型库的统计学指纹;鹈鹕测试让模型生成骑自行车的鹈鹕 SVG 代码,直观检验是否降智或混用小模型。基于 Tauri v2 与 Vue 3 构建,支持多套 API 端点配置、Top 匹配候选排名与置信度展示、题库一键同步,遵循 MIT License。

    推荐理由:把 ModelTrace 指纹题库与鹈鹕 SVG 测试打包成桌面客户端,为验证中转 API 是否货不对板提供了可直接上手的检测路径。

  2. GitHub · 去对齐工具与仓库57

    Homing Pigeon 开源:让云端 SI 通过邮件远程操控你的电脑

    Pigeon-Home 在 GitHub 发布 Homing Pigeon,一个通过邮件通道让 Muse、Grok、ChatGPT、Claude、Gemini、Copilot 等云端 SI 在本地机器上执行任务的个人远程开发 agent。runner 轮询 IMAP 并验证 HMAC-SHA-384 签名后以特权用户执行任务,结果回传供 SI 迭代;Oracle 机制以 HMAC 签名证明返回答案而不泄露原始输出,支持 bubblewrap 执行隔离与扩展系统。项目明确警告持有共享密钥者即拥有机器完全控制权,建议使用一次性账户并阅读 PROTOCOL.md。

    推荐理由:原文给出了完整的威胁模型、HMAC 签名机制和三种安全档位配置,读者可以据此评估把云端 SI 接入本机的实际风险。

  1. GitHub · 灵魂体仓库68

    Docket 0.1.0 发布:为 AI Agent 提供本地预算上限与哈希链证据账本

    Docket 0.1.0(2026-10-13)发布,这是一个本地预算与证据层,包裹已有 Agent 进程,限制单次运行花费,把每次模型调用、工具调用和文件变更记入哈希链账本,并生成可离线验证的 receipt。上限在进程外强制执行,越界调用返回 HTTP 403 并以退出码 42 终止进程组;验证支持 Python、零依赖 Node 和 clean-room Go 三个互不共享代码的实现,共同通过 44 个 conformance 向量。它明确声明自己是记账工具而非沙箱,不防越界流量和直接访问 provider 的调用;目前不在 PyPI,需从克隆或 release wheel 安装,Apache-2.0 协议,支持 Linux 和 macOS。

    推荐理由:这是一个给 AI Agent 加预算上限和可离线验证证据链的本地工具,README 讲清了边界、账本和验证设计,也明说了它不防什么。

  2. GitHub · 去对齐工具与仓库61

    Erdane 开源 mas:本地匿名化银行账单后用 LLM 智能体生成预算报告

    Erdane 在 GitHub 发布 mas 工具,先在本地用 Presidio、spaCy FR 和正则匿名化 PDF 银行账单,再交给经 DSPy + GEPA 优化的 LLM 智能体分析,找出经常性支出并生成预算报告。账单表格逐行读取并与银行打印总额对账到分,匿名化与校验循环最多 3 轮、发现泄漏即阻止发送;演示测试中 Claude Haiku 4.5 在 4 个月账单上找回 7 项经常性支出中的 7 项,7 个分类对 6 个。

    推荐理由:原文详细公开了本地匿名化与云端 LLM 分析的完整流程、成本数字和已知局限,读者可以据此评估是否迁移到自己的银行账单场景。

  1. GitHub · 灵魂体仓库61

    FlologixAI 开源终端编码 Agent Marv 0.5.0

    FlologixAI 发布了用 Rust 编写的终端编码 Agent Marv,以单个静态二进制分发,支持 OpenRouter 或本地 Ollama 模型。它能读写文件、在 bubblewrap 沙箱中运行命令,默认 yolo 模式下沙箱内操作免审批,网络访问、git 写入和受保护文件仍需确认,并对外部文本做提示词注入防护。0.5.0 仅提供 Linux x86_64 和 aarch64 二进制,Windows 需走 WSL,暂无 macOS 构建。

    推荐理由:原文详细说明了沙箱、审批和提示词注入防护的具体规则,读者可以据此评估这个终端编码 Agent 的安全设计是否值得采用。