跳到正文
今天10月27日周二3 条
  1. arXiv · cs.AI58

    CoSA 论文提出 LLM Agent 技能冲突攻击,新增 5% 技能使违规率升至 58.45%

    论文提出 Conflict of Skills Attack(CoSA),在不改动现有 Skills 和运行时权限的情况下,向 Agent 技能池注入少量新 Skills 即可放大策略违规。CoSA-Bench 覆盖招聘、金融、IT 和商业共 288 个任务,在五个 LLM 和三种 agent harness 上,新增技能不超过原池 5% 就把违规率从 35.02% 提高到 58.45%。作者还开发了在关键动作前检查信息流与授权的 harness 级防护,在 OpenClaw 招聘任务上把违规率从 65.28% 降到 6.67%,正常任务完成率基本不变。

    推荐理由:论文给出技能组合导致违规的四种机制和可复用的 harness 级防护方法,对 Agent 生态安全设计有参考价值。

  2. GitHub · 灵魂体仓库73

    mcp-doctor:为 MCP 服务器与 AI 智能体工具提供评测和防护的开源工具

    vishalhabib99 在 GitHub 开源 mcp-doctor 0.35.0,对 MCP 服务器做静态扫描、模糊测试和实时调用防护,覆盖 Python、TypeScript、Go 和 Rust,可在 CI、pre-commit、Claude Code、Codex 和 Cursor 中运行。工具检测在 805 个真实服务器上找到 15,755/15,977 个工具,修复已合并进 ha-mcp、telegram-mcp(111 个工具一次 PR)等 58 个仓库共 61 项;guard 能识别写入未落地的假成功、schema 参数被忽略和提示词注入导致的密钥外泄,并给 PR 输出 SHIP / FIX-FIRST / BLOCK 结论。

    推荐理由:这个 MCP 服务器检查工具用真实服务器上的召回测量和上游合并修复来支撑结论,读者可以直接借用它 catching 假成功和提示词注入泄露的思路。

  3. GitHub · 灵魂体仓库62

    mcp-doctor:毫秒级审计 MCP server 与 AI agent 工具清单的开源工具

    Ranjith Rosan 发布开源工具 mcp-doctor,可在毫秒级审计 MCP server 或 AI agent 工具清单,在上线前发现不安全工具、损坏 schema 和 token 膨胀问题。工具通过纯 ast.parse 静态检查 Python MCP server(FastMCP、官方 mcp SDK、@tool 装饰器)及 MCP tools/list、OpenAI、Anthropic JSON 清单,不执行不可信代码,Python 3.11+ 零外部运行时依赖。

    推荐理由:审计工具覆盖 shell 注入、SSRF、路径穿越和 token 开销四类问题,规则表和示例报告齐全,部署 MCP server 前可直接复用。

10月26日周一
  1. GitHub · 灵魂体仓库65

    cfgaudit 开源:扫描 Claude Code 等 AI 编码助手配置的安全审计工具

    GitHub 上的 cfgaudit 是一个 AI 编码助手配置文件安全审计工具,首先支持 Claude Code,检查违反最小权限原则或暴露敏感文件的设置,每条发现映射到 OWASP GenAI LLM Top 10 2026,并提供 OWASP MCP Top 10、AISVS 1.01 和 AVE 行为分类的次级映射。支持 Homebrew、go install、预编译二进制和 Docker 安装,输出 JSON、SARIF 2.1.0 和 Code Climate 格式,可接入 GitHub Code Scanning 与 GitLab Code Quality。

  2. GitHub · 去对齐工具与仓库53

    LLMSecTest 0.4.0 发布:pytest 插件对运行中的 LLM 应用跑 OWASP LLM Top 10 (2026)

    wehnsdaefflae 发布 LLMSecTest 0.4.0,一个 pytest 插件形式的 LLM 安全测试工具,对运行中的端点执行 OWASP LLM Top 10 (2026) 全部十个类别的攻击探测,输出 CI 可读的 SARIF v2.1.0 报告。覆盖提示注入、敏感信息泄露、供应链、模型投毒、RAG 间接注入等,支持 JailbreakBench/AdvBench 红队集、CVSS v4.0 评分、CycloneDX SBOM,可离线读取 Chroma/FAISS 向量库检测嵌入反演与多租户隔离问题;当前为 pre-alpha,由德国 BMFTR 通过 Prototype Fund 资助(资助号 16IS26S10)。

  3. GitHub · 灵魂体仓库23

    Cal Poly SLO 开源 CANARY:面向工具调用 LLM Agent 的提示词注入测量与隔离评估框架

    Cal Poly SLO CS + AI Club 在 GitHub 开源 CANARY,一个用于测量和隔离工具调用 LLM Agent 中间接提示词注入的受控评估项目。它将“模型提出的不安全行为”与“系统实际允许的效果”分开记录,并量化每种防护措施对正常任务的代价。实验仅使用本地虚构 fixture 和 fake sink,无网络外发;开发模型为 claude-haiku-5-5,备选 gpt-6-luna,防护方案包括 D1_POLICY_GATE 和 D2_DATAMARKING。

  4. GitHub · 去对齐工具与仓库42

    Iago:开源 Python CLI 越狱与护栏绕过测试工具

    Iago 是一个 Python CLI 渗透测试工具,对自有模型批量运行 guardrail 绕过技术库,多轮重复试验并生成含加固建议的渗透式报告。每次测量给出 95% CI,提示词泄露按预埋密文评分,伪造历史攻击带安慰剂对照,还通过实际 tool call 测试 agent。默认目标是 Ollama,也支持经 --authorized 测试 Anthropic API。

  5. Reddit · r/LocalLLaMA22

    LocalLLaMA 用户寻找可检测间接提示注入的小型本地分类器(支持英德语)

    一位 Reddit r/LocalLLaMA 用户在构建本地 agent 系统(主 LLM 运行于 24 GB GPU),希望找一个在 agent 处理工具结果前快速筛查间接提示注入的分类器,支持英文和德文(含混合语言与 OCR 噪声文本),要求单条检测远低于 1 秒、可开源、阈值可调、误报低。其已尝试 Prompt Guard 2 86M、PIGuard 和 StackOne Defender,但尚无模型被验证对德语有效,正在征集模型推荐、微调数据集与防御 adaptive attack 的经验。

  6. Reddit · r/LocalLLaMA36

    Reddit 用户 OpenJev 竞技场:让 LLM 互相格斗还可发送心理攻击提示词

    Reddit r/LocalLLaMA 用户发布了一个让 LLM 对战的竞技场:每个模型作为格斗者读取游戏状态,在 move、block、punch、kick、fireball 中选择动作,并支持“心理攻击”——向对手的下一次提示词注入消息,尝试诱导对手误判,但不改变实际游戏状态。平台提供战斗回放与决策记录,每份配置有独立 rating 记在昵称下,注册赠 1 美元,可玩 100 场以上。

10月25日周日
  1. arXiv · cs.AI55

    研究评测五个 LLM 对虚假信息的抵抗:口头判断与实际行为脱节

    arXiv 论文(arXiv:2610.33962)评估五个大语言模型在 196 条构造的虚假通知和 204 条改编的存档攻击下的行为,发现模型在被其评为不可信的通知上仍以 27%–99% 的比例发出有害工具调用。去掉先评分的步骤使有害执行平均上升 15 个百分点,说明可信度引导本身改变了被评测的行为;简单预警在五个模型中的四个显著减少有害执行,但也会损害合法任务完成,基于生成虚假通知的微调保护则随模型和协议不同而有差异。

    推荐理由:论文用 196 条虚假通知与 204 条真实攻击测试五个模型,指出可信度评估本身会改变模型行为,评测协议设计值得关注。

  2. GitHub · 灵魂体仓库49

    TrustRAG:可溯源、防幻觉与提示词注入的 PDF 问答 RAG 项目

    TrustRAG 是一个开源 RAG 项目,针对"chat with your PDF"工具的幻觉、不可验证答案和文档内隐藏提示词注入问题,答案全部来自检索段落并逐条标注页码引用,用第二个模型对每条陈述做事实核查,并给出 🟢🟠🔴 信任分。在其自建的 5 份政策文档、71 个问题的评测中,检索 recall@4 达 100%、MRR 0.97,幻觉率 0%,30 个注入攻击 100% 被移除且无误删,每题平均耗时 6.6 s。技术栈采用 Claude Sonnet 5.5(回答)与 Claude Haiku 5.5(核查/OCR/扫描)、ChromaDB 与 all-MiniLM-L6-v2 本地嵌入,支持 Claude 订阅或 Anthropic API,并提供 Docker 部署。

  3. GitHub · 灵魂体仓库59

    AgentShield 开源发布 v0.1.0:面向 LLM 应用与 AI Agent 的行为安全测试工具

    TroubieD3v 在 GitHub 开源发布 AgentShield v0.1.0,一个测试 LLM 应用、AI Agent、RAG 系统和工具调用安全性的工具,关注 Agent 实际做了什么而非回答文本是否可疑。包含 12 个模块、46 个场景定义扩展为 60 个可执行用例、12 类攻击(含直接与间接提示词注入、工具滥用、内存投毒、跨租户 RAG 泄露),映射 OWASP LLM 与 Agentic Top 10。

    推荐理由:面向 Agent 的安全测试不只看文本回答,而是核对工具调用与实际行为,46 个场景映射 OWASP LLM Top 10,方法可迁移到自己的 Agent 测试。

10月24日周六
  1. GitHub · 灵魂体仓库56

    sundi133 开源 llm-shield AI 护栏平台,内置 19 条 guardrails

    sundi133 在 GitHub 发布开源的 llm-shield,一个部署在应用与 LLM 之间的 AI guardrails 平台,内置 19 条覆盖输入安全、输出质量和 Agent 安全的护栏,采用 CPU 快速护栏先行、LLM 护栏按需运行的两级并行流水线。支持基于 Redis 的多租户护栏策略与限流配额,提供基于角色的工具授权、MCP 工具校验、跨工具数据污点追踪、目标漂移检测和工具 kill switch 等能力,可用内置 Qwen3-8B 后端跑在 RunPod,或作为网关代理任意 OpenAI 兼容 API,并附 NIST AI RMF / OWASP LLM / ISO 42001 合规映射文档,MIT 许可。

    推荐理由:开源 AI guardrails 平台,19 条护栏分两级流水线,覆盖多租户策略、工具授权、数据污点追踪和目标漂移检测,可按清单对照自己的 Agent 安全需求。

  2. GitHub · 灵魂体仓库59

    新加坡国立大学开源 trace-and-gate:邮件 Agent 间接提示词注入防御对比实验

    新加坡国立大学 ESP3201A 课程项目 trace-and-gate 在 GitHub 开源,针对能收发邮件的 LLM 邮件助手,对比溯源追踪与策略检查两类防御对抗间接提示词注入的效果。Qwen3-8B 本地实测中,无防御基线攻击成功率 33.0%,Dual-LLM 为 2.1%,溯源追踪 D1 为 0%,策略检查 D2 为 1.0%,D1h 在套件 v2 复测中攻击成功率 0% 且正常任务完成率与基线持平(87.5%)。项目含 Docker 沙箱环境、LLMail-Inject 真实攻击采样与 AgentDojo 桥接,第 10 周将加入冻结防御后编写的 held-out 攻击集。

    推荐理由:项目给出了五种防御配置的攻击成功率与正常任务完成率对照数据,可用来比较溯源追踪与策略检查这两类防注入思路的代价。

  3. GitHub · 灵魂体仓库65

    开源 Python 库 wardowl 2.0 发布,为 RAG 提供权限感知检索

    wardowl(2.0 前名为 needtoknow)是一个开源 Python 库,把 OpenFGA、OPA、Cerbos 等权限系统接入 pgvector、Qdrant、Pinecone 等向量库的搜索内部,每次命中再复核并故障时关闭,保证 LLM 提示词只含用户有权读取的文档。基准测试在 57,600 个真实 chunk 上经 33,000 次检索无一次越权返回,pgvector 上 recall@10 保持 0.949 以上;百万 chunk 场景下中位延迟 3 到 21 ms,每秒最多可服务 126 次请求。

    推荐理由:项目给出基准数据说明在搜索内做权限过滤可保住召回率,对搭建企业内部 RAG 的团队是可参考的做法。

  4. GitHub · 去对齐工具与仓库22

    dahchenoor-cmd 开源 AI 红队测试作品集仓库:对抗性机器学习评估与防御实践

    dahchenoor-cmd 在 GitHub 发布 AI 红队测试作品集仓库,系统化整理对抗性机器学习评估、攻击 PoC 与防御缓解措施,覆盖本地及企业级 LLM 架构。仓库包含 10 个模块,从环境搭建到企业模拟审计,基于 Ollama、vLLM 运行 Llama-3、Mistral、Qwen 等开源模型,使用 garak、PyRIT 等工具,并对照 OWASP Top 10 for LLM Applications(2026)、MITRE ATLAS 与 NIST AI 100-2e2025 等标准。所有测试均在本地容器化环境中进行,数据全部为合成数据。

  5. GitHub · 去对齐工具与仓库62

    Warden 发布:拦截 MCP 工具调用的 Mac 安全网关

    dbalchunas2-pixel 发布 Warden,一个原生 Mac 应用,作为 MCP 客户端(Claude Desktop、Claude Code、Cursor、Windsurf、Cline)与 MCP 服务器之间的安全网关,拦截每个工具调用并决定是否执行。决策管线含正则规则引擎(<10ms)、NVIDIA Nemotron LLM 分类(经 Nebius Token Factory)、启发式回退与熔断器,全部 fail-closed,并记录 JSONL 审计日志。内置对抗评测(seed 1337,22 次攻击+6 个良性对照)显示攻击检出率 100%、误报 0%、平均判定延迟约 3.5s;洪泛测试 30/30 拦截且仅 3 次调用消耗 LLM 预算。

    推荐理由:原文给出完整决策管线和可复现的对抗评测数据,包括100%攻击检出率、0%误报和约3.5秒平均延迟,便于评估其实际拦截能力。

  6. GitHub · 去对齐工具与仓库51

    LLM-Security-Evaluation:基于 Groq API 的异步提示词注入与系统提示词泄露测试工具

    OmarAhmedTHE25th 在 GitHub 开源了 LLM-Security-Evaluation,一个通过 Groq API 评估提示词注入与系统提示词泄露抵御能力的异步对抗测试工具,命令形如 python main.py --model openai/gpt-oss-20b 或 --model llama-3.3-70b-versatile。测试类别映射 OWASP LLM Top 10(LLM01、LLM02、LLM06)与 MITRE ATLAS 技术(AML.T0051、AML.T0024、AML.T0046),覆盖注入、角色扮演指令覆盖、系统提示词与密钥泄露、检索文档隐藏指令及工具参数注入等。

  7. Reddit · r/LocalLLaMA58

    Reddit 用户取证量化模型推理链幻觉:海盗分金谜题、虚构注入与幽灵系统提示词

    Reddit 用户 /u/Consumerbot37427 报告其本地 Qwen3.8-Flash-Next MoE 的 Q4/Q8 混合量化版本在 Opencode 长任务中,推理链出现三类凭空编造内容:海盗分金谜题出现 7 次、虚构的 Windows/PyQt6 会话恢复注入在同一轮内被模型自导自演地防御 5 次、以及一段幽灵邮箱预批准系统提示词,而这些文本均不存在于实际输入中。作者用 SQLite 持久化历史做取证,提出判别方法:在全部历史中检索可疑文本的首次出现位置,若首现于助手输出即为模型虚构,若首现于工具或抓取内容才是真实注入;并给出一段可直接粘贴的排查提示词供其他用户检查自己的 opencode 历史。

    推荐理由:作者用持久化 SQLite 历史做取证,给出区分量化幻觉与真实注入的可复用判别方法,附完整排查提示词。

  8. GitHub · 去对齐工具与仓库41

    SasanLabs 发布 LLMForge:OWASP VulnerableApp 的 AI/LLM 漏洞实验模块

    SasanLabs 发布 LLMForge,OWASP VulnerableApp 生态中专门用于 AI/LLM 漏洞练习的 FastAPI 应用,通过 Ollama 连接真实本地模型而非模拟响应。项目提供 5 个渐进式实验:提示词注入 10 关、间接提示词注入 4 关、BOLA 医疗聊天机器人 3 关、RAG 上下文投毒 3 关和 RAG 敏感数据暴露 4 关,映射至 OWASP LLM01/LLM04:2025 等标准。默认聊天模型为 phi3:mini,嵌入模型为 nomic-embed-text,经 nginx facade 挂载在 /llmforge 路径,采用 Apache 2.0 许可。

10月23日周五
  1. GitHub · 灵魂体仓库51

    Sentinel 在 GitHub 开源:LLM 应用与 AI Agent 的安全网关

    shahardalva 发布了 Sentinel,一个位于应用与 LLM 提供方之间的反向代理安全网关,客户端把 SDK 指向网关即可使用,真实的 Anthropic 上游密钥不出网关。当前已实现按客户端鉴权、流式转发、并发与请求体上限、分阶段超时和每请求 JSON 结构化日志,仅支持 POST /v1/messages;提示词注入与敏感数据检测、MCP 工具管控等在 Roadmap 中。项目仅用 Go 标准库,Apache 2.0 协议。

  2. GitHub · 去对齐工具与仓库61

    TaintGate v0.1.0 开源:面向 LLM 智能体的信息流防火墙

    guru-bharadwaj20 发布 TaintGate v0.1.0,一个让标签随值流动、用确定性 Datalog 策略审查每次工具调用的 LLM 智能体信息流防火墙。受信任 planner 只见可信请求,不可信内容由无工具提取器转成带标签值,MCP 网关在副作用前询问策略引擎并输出可解释的 allow/deny 与带 Merkle 证明的审计日志。AgentDojo v1 对比在 Qwen2.5-0.5B-Instruct CPU 环境下完成 4,356 次评分运行,作者明确称其为下限而非胜利,因 0.5B 模型很少产生有效工具调用,对比未能区分各防御方案;策略检查中位开销 0.6 ms。

    推荐理由:作者把 AgentDojo 对比明确定位为下限而非胜利,并保留负面结果,可据此了解这套信息流防火墙的实际边界。

  3. GitHub · 灵魂体仓库37

    Kair12 开源 llm-safety-lab-garak:基于 Qwen2.5-0.5B-Instruct 与 NVIDIA garak 的 LLM 安全实验仓库

    GitHub 上的 AI 安全课程项目 llm-safety-lab-garak 提供 Web 应用、Telegram 演示和评测证据,对比 Qwen2.5-0.5B-Instruct 加与不加词法输入过滤的表现。评测显示 PromptInject 标记检出从过滤前 12/32 降到过滤后 0/32;但过滤在自定义数据集上拦截 8/24 攻击输入,也误拦 8/24 良性输入。仓库固定 NVIDIA garak 源码(commit 346497a)与模型修订 7ae5576,并声明 ChatGPT Codex 协助了原型与脚本工作。

  4. GitHub · 灵魂体仓库65

    ertugrulbagdat/llm-vuln-scanner 开源发布,自动测 LLM 系统抗 prompt injection 能力

    GitHub 开源项目 llm-vuln-scanner 发布,可对 LLM 系统(chatbot、agent、API 后端)自动发送数百个 prompt injection 和越狱攻击模板,分析回复并生成带 Dayanıklılık Skoru(鲁棒性评分)的分类漏洞报告。

    推荐理由:这个开源扫描器给出了带评分公式和分层判定的注入测试流程,还能拿它检验自己部署的模型对越狱的抵抗力。

  5. GitHub · 灵魂体仓库61

    heyvaldemar 开源 kubernetes-air-gapped-ai-agent 参考架构

    heyvaldemar 在 GitHub 发布 kubernetes-air-gapped-ai-agent 参考架构,让 AI Agent 在无外网路由的 kind Kubernetes 集群内用 CPU 运行 llama.cpp,模型经签名镜像和 Kyverno 准入校验后加载。随附 15 项任务的每日评测:六个内置与受测模型在 12 条植入指令上最多中招 6 条,而 MCP 服务器按 schema 拒绝了全部外发邮件(含隐藏模式后的 92 次),无数据外泄、无记录被删;每周任务另经唯一出口调用 Claude Haiku 5.5 与 Claude Sonnet 5.5,二者均未中招任何植入指令。仓库定位为参考而非产品,MIT 许可。

    推荐理由:仓库用可复现的检查把边界与模型分开验证,被诱导的数据点数只作测量不作门槛,这种做法可以迁移到自己的 Agent 部署里。

  6. arXiv · cs.CL51

    扩散语言模型用于困惑度感知的黑盒攻击研究

    论文提出将连续潜空间黑盒攻击框架直接耦合到扩散语言模型(dLLM),去掉随机映射,生成更自然的攻击提示。在 RareTrap 采样估计和 ThinkTrap 优化搜索两种设置下,字符级困惑度分别从 10^3–10^7 降到 3–5、从 20–28 降到 4.3–5.4;两种映射得到的模型风险估计可相差一个数量级。

  7. arXiv · cs.AI44

    面向 Agentic AI 的认证执行框架:推理与动作之间安全、最小侵入的 Petri 网监督控制

    一篇 arXiv 论文用 Petri 网将 LLM Agent 的工具执行框架形式化为监督控制问题,使未满足或已消耗前置条件的注入请求无论措辞如何都会被拒绝。论文引入重规划闭环,证明传统监督器可能比更严格的安全监督器侵入性高任意倍,并刻画了最小侵入监督器。在自主发布 Agent 上的综合实验表明,安全部署需要一个监督器可在 rollout 开始后拒绝的步骤。

  8. GitHub · 去对齐工具与仓库45

    llm-guard-proxy:面向 OpenAI 兼容应用的本地优先安全代理

    GitHub 开源 llm-guard-proxy,一个本地优先的安全代理层,在流量到达客户端或模型前用可配置策略检查提示词与模型响应,兼容 OpenAI、Ollama、llama.cpp、vLLM 等 OpenAI 兼容后端。内置 secrets、prompt injection、regex 等确定性分类器,支持 YAML 策略与 4 个预置策略,可选通过 Ollama 运行 Llama Guard 3(llama-guard3:8b)。项目为实验性质,尚不适用于不可信的生产流量。

  9. GitHub · 去对齐工具与仓库45

    Jeevan2191999/jnvoy:面向 LLM 流量的隐私与安全网关

    开源项目 jnvoy 是一个面向 LLM 流量的隐私与安全网关,部署在应用与任意 LLM 之间,自动识别提示词中的个人数据并以 token 替换,回复返回后再还原真实值,同时拦截 prompt injection 并扫描 MCP 工具流量。它支持英国、美国、欧盟、中国居民身份证号等多地区身份标识识别,审计日志只记录发现内容不存原文;可选的二次检查在作者自建测试集上将召回率从 93% 提升到 100%,默认关闭。

  10. GitHub · 去对齐工具与仓库67

    AgentShield 开源:面向自主 AI Agent 的低延迟安全网关与事件回放引擎

    YashJ2303 在 GitHub 开源 AgentShield,一个面向自主 AI Agent 的低延迟安全网关与事件回放引擎,可实时拦截并按声明式策略评估 Agent 工具调用、从遥测流中脱敏凭据与 PII,并提供离线事件回放以在部署新策略或模型前检测回归。评测显示对建模过的破坏性操作拦截率 100.0% [92.1, 100.0]%,对未建模主动攻击为 45.5% [21.3, 72.0]%(对比 blocklist 的 9.1%,置信区间重叠),90 个良性任务误拦截 0.0%,完整插桩工具调用开销中位数 +18.046 ms p50(独立策略检查约 4.6 ms p50);回放回归检测 recall 25/25、specificity 23/25、precision 25/27。

    推荐理由:作者给出了带置信区间的拦截率、误拦截率和延迟开销数据,并披露了模拟代理与未验证部分的局限,便于评估该网关的适用性。

  11. GitHub · 灵魂体仓库71

    landmines 开源:用 lockfile 匹配 GitHub 已知 bug,在编码 Agent 编辑前拦截

    devanshranjan10 发布开源工具 landmines,它读取项目 lockfile 中固定的精确版本,检索针对该版本的开放 GitHub issue 并生成索引,通过 pre-edit hook 或写入 AGENTS.md/CLAUDE.md 的已知 bug 段落让编码 Agent 在编辑前避开这些坑。基准测试中,Claude Sonnet 5.5 无辅助通过 72/84(86%),加入 landmine rules 段落后通过 83/84(99%);同批对比中 web search 开启为 36/42、Context7 docs MCP 为 35/42,且 84 个会话中 Agent 从未主动调用这两个工具。

    推荐理由:作者用 84 个 held-out 任务对比了规则段落、pre-edit hook 与 web search、Context7 的效果,基准局限也写得坦率,方法可参考。

10月22日周四
  1. GitHub · 去对齐工具与仓库52

    Wvdstoep 开源 ghost-browser:让 Codex 和 Claude Code 通过 MCP 操控真实 Chromium 浏览器

    Wvdstoep 在 GitHub 发布 ghost-browser,通过 MCP 让 Codex、Claude Code 等客户端连接真实 Chromium,并用 Set-of-Mark 编号标注替代 CSS 选择器来驱动点击、输入和读取。项目内置 HTTP API、会话隔离与 SSRF 防护,附带四层自主安全侦察与漏洞审计引擎,覆盖 DNS、TLS、XSS、BOLA/IDOR、SQLi 等检测并生成 curl PoC 与补丁。AI 导航循环、recipe 编译器和计费尚未构建,仓库地址为 https://github.com/Wvdstoep/ghost-browser。

  2. GitHub · 灵魂体仓库72

    Latet 开源 AI Agent 本地隐私防火墙

    Latet-AI 发布开源的 AI Agent 本地隐私防火墙,在请求离开本机前掩码密钥、密码和个人数据,并在回答中本地还原,云端模型只见假值。支持 Claude Code、Codex、Gemini CLI、Hermes Agent 等的插件与网关接入,可选本地名称模型(约 1.6 GB)、OCR 和本地语言模型审查,93 个测试用例中 Qwen3.5-4B 检出 84%、Ternary-Bonsai-2-27B 检出 97%。项目无云端服务与遥测,采用 source-available 许可,文档在 https://docs.latet.ai/ 。

    推荐理由:README 讲清了本地防火墙的掩码与还原机制、各 Agent 接入方式和已知盲区,适合想在敏感数据上用云端模型的人评估可迁移做法。

  3. GitHub · 去对齐工具与仓库47

    GitHub 开源 contract_heldout_ipi:LLM 智能体 IPI 防御评测协议

    GitHub 上的 contract_heldout_ipi 项目提供一套 LLM 智能体间接提示注入(IPI)防御评测协议,包含可机器读取的 episode contract、referee 校验和 train 与 held-out 的迁移差距报告,并强调这不是新威胁模型或最强防御声明。项目支持通过 OpenAI 兼容配置运行攻击、防御、judge 等多模型基线,也支持经 Cursor 调用 Grok 4.5 等模型,并内置 EmailSandbox 邮件场景与自适应攻防、协商共演化协议,ASR 由工具轨迹确定性评分。

  4. GitHub · 灵魂体仓库60

    BaleenCode 开源:基于 DeepSeek V4.1 Flash 的本地 Agent 工具,通过 provider 允许列表避免数据流向中国服务器

    Manta-Boardgame 发布开源工具 BaleenCode,类 Claude Code 的 Agent 应用,通过 Vercel AI Gateway 调用 deepseek/deepseek-v4.1-flash-1017(1M token 上下文),每次请求携带 providerOptions.gateway.only 允许列表,只使用 Together AI、Fireworks、Baseten、DeepInfra、Relace 五家美国零数据保留供应商,拒绝 Alibaba Cloud 和 DeepSeek 官方路由,回复若来自列表外公司会告警并 fail closed。

    推荐理由:作者开源了一个类 Claude Code 的 Agent 工具,把 provider 允许列表、路径限制和审批级别的实现都写清楚了,可作工程参考。

  5. GitHub · 去对齐工具与仓库45

    AI Guardian Lab:在 AI 智能体执行 shell 命令前进行策略校验的开源工具

    AI Guardian Lab 在 AI 智能体执行 shell 命令前校验命令,智能体提议命令后由 Guardian 按 L1 allowlist、L2 模式、L3 意图和 L4 语义审查四层检查,默认仅模拟、不真实执行。1.6 版本提供 full profile,经 Ollama 启动本地小模型与 System One 观察者,System One 在 CPU PyTorch 2.13.0 上通过 shadow-only 验证,500 ms 预算仍不满足,full profile 采用 2 秒预算,强制执行在两种 profile 中均保持关闭。

  6. GitHub · 灵魂体仓库65

    Split-View PDF 论文开源样本与验证代码,论文被 IEEE S&P 2027 接收

    Side Liu 和 Jiang Ming 的论文 What Users See Is Not What Models Read 被 IEEE S&P 2027 接收,仓库公开了配套样本与验证代码。内容包括 25 个最小提取差异 PDF(corpus_a)、25 个下游 LLM 评测 PDF 和 11 个 QA 适配 PDF,以及开源 PDF 解析器验证和 LLM API/Web 验证脚本,支持在 Ubuntu 上用 Python 3.10+ 和 Node.js 20.16+ 复现。

    推荐理由:论文配套仓库放出全部样本和验证代码,读者可以实际复现 PDF 对人和对模型显示内容不一致的攻击测试。

  7. GitHub · 灵魂体仓库60

    llm-fw 发布本地 LLM 流量防火墙,实时拦截提示注入且无需改代码

    llm-fw 发布本地 LLM 流量防火墙,通过 HTTPS_PROXY 或 OS 级 sinkhole 部署在工具与 API 之间,实时拦截提示注入和越狱请求,无需修改代码、全程不出本机。采用启发式规则、跨语言嵌入向量、可选本地 LLM judge 三级管线,覆盖 OpenAI、Anthropic、Gemini 等 15+ 服务商和 20+ 语言,另含 DLP 密钥扫描、MCP 工具防火墙、RAG 投毒检测和响应侧外泄过滤;自测 110 条攻击全部召回、良性语料 FPR 13.38%,p50 延迟 36ms。软件并非开源,采用 PolyForm Noncommercial License 1.0.0,非商业用途免费,商业使用需购买许可证。

    推荐理由:原文给出了各攻击类别的召回率、误报率和延迟数据,读者可以据此评估这个本地防火墙实际拦截能力,而不仅是功能清单。