跳到正文
  1. GitHub · 去对齐工具与仓库64

    Cloakroom 0.7 发布:为 Claude Code、Codex CLI 和 Gemini CLI 本地掩码密钥与个人数据

    Shanjeev Rajendran 发布开源工具 Cloakroom(Apache-2.0),在本地把 API 密钥、机密和个人数据(PII)替换成占位符后再交给 AI 编码代理,写入文件时在本地还原真实值。0.7.0 起在 Mac 和 Linux 上支持 OpenAI Codex CLI 和 Google Gemini CLI;实测对 1,005 条个人数据零泄漏,而对比的 Claude Code 隐私工具泄漏 119 至 992 条。真实值存于本机加密保险库,检测模型仅首次从 Hugging Face 下载一次(Mac 约 1 GB,其他平台最多约 4 GB),提供防篡改活动日志、dashboard 误报学习规则和面向金融团队的付款调用拦截与审计功能。

    推荐理由:原文给出与其他 Claude Code 隐私工具的横向实测数据,泄漏数和误报数都有对照,读者可据此评估是否值得在本地部署。

  1. GitHub · 去对齐工具与仓库61

    mesutgungor 发布 llm-scan 静态安全扫描工具,覆盖 42 条规则

    作者 Mesut Güngör 在 GitHub 开源了 llm-scan,一个面向 Hugging Face、ModelScope 及本地模型的开源 LLM 安全扫描工具,采用零执行静态分析,覆盖 pickle 反序列化 RCE、trust_remote_code、Jinja2 SSTI(CVE-2024-34359)、SafeTensors 内存炸弹(CVE-2023-44469)等 42 条规则,并附 SHA-256 验证引擎。

    推荐理由:作者开源的静态扫描工具在不执行模型代码的前提下检查权重、模板和配置,并给出与 OWASP、NIST 等框架的逐条映射。

  2. GitHub · 灵魂体仓库66

    Ephor 发布:在 Linux 上被动监测 AI Agent 出站流量的无依赖 CLI

    作者发布 Ephor,一个只检测不拦截的 Linux CLI,通过读取内核 socket 表和 /proc 被动记录 AI Agent 的出站连接、下载量和是否命中已知恶意目的地,无需配置代理、被入侵的 Agent 也无法绕过。它还能展示每个 Agent 的权限爆炸半径,包括运行用户、Linux capabilities、免密 sudo 和可读的密钥文件;仅依赖 Python 标准库,可在 Pi Zero 2 W 等 512 MB 小设备上运行。v0.3 新增安装与 DNS 监控,追踪 pip/npm 安装并查 OSV.dev,可选 eBPF probe 补捉秒级进程,威胁判定默认离线匹配 URLhaus、Feodo Tracker、FireHOL 等免费 feed,VirusTotal 查询默认关闭。

    推荐理由:原文讲清了无代理被动监测的实现原理、资源占用与同类工具对比,读者可以判断它是否适合放进自己的 homelab 监控栈。

  1. GitHub · 灵魂体仓库56

    sundi133 开源 llm-shield AI 护栏平台,内置 19 条 guardrails

    sundi133 在 GitHub 发布开源的 llm-shield,一个部署在应用与 LLM 之间的 AI guardrails 平台,内置 19 条覆盖输入安全、输出质量和 Agent 安全的护栏,采用 CPU 快速护栏先行、LLM 护栏按需运行的两级并行流水线。支持基于 Redis 的多租户护栏策略与限流配额,提供基于角色的工具授权、MCP 工具校验、跨工具数据污点追踪、目标漂移检测和工具 kill switch 等能力,可用内置 Qwen3-8B 后端跑在 RunPod,或作为网关代理任意 OpenAI 兼容 API,并附 NIST AI RMF / OWASP LLM / ISO 42001 合规映射文档,MIT 许可。

    推荐理由:开源 AI guardrails 平台,19 条护栏分两级流水线,覆盖多租户策略、工具授权、数据污点追踪和目标漂移检测,可按清单对照自己的 Agent 安全需求。

  1. GitHub · 灵魂体仓库66

    jailbreak-skill:一个 LLM 红队提示词工程方法论仓库

    ADWMC 在 GitHub 发布 jailbreak-skill,一套面向 LLM 红队评估的提示词工程方法论,主张先规划假设、再组装提示词、最后凭证据判定,而非直接给出可复制的提示词。仓库含 19 个提示词模块、14 份方法论文档、3 条厂商路线和 4 级测试集,所有声明按 E0 到 E3 分级,并明确平台拦截、毒品武器类请求和直接索要成人内容属于已知死路。项目采用 CC BY-NC-SA 4.0 许可,作者强调这不是 OSI 开源许可证。

    推荐理由:它把越狱测试整理成可冻结的判定标准和证据分级方法,并明说了哪些域救不了,适合想系统做红队评估的读者。

  1. GitHub · 灵魂体仓库70

    SkillTotal 开源发布:Claude Code 安装包前的静态安全扫描器

    pezhik 发布开源工具 SkillTotal(Apache-2.0),在 Claude Code 等编码智能体执行 npx、npm install、pip install、claude mcp add 前静态扫描 npm/PyPI 包、MCP 服务器、agent skills 和 git 仓库,纯本机运行、不执行代码、不调用 LLM,每条发现附文件行级证据。官方用规则集 56-59 与引擎 0.49.0 扫描了官方 MCP registry 中 17,535 个组件里的 15,341 个(87.5%),其中 21.1% 可执行 shell 命令、64.8% 可联网,但 99.3% 评分为低风险;另发布含 64 恶意、46 良好样本的标注语料作为检测效能下限。

    推荐理由:开源的 Agent 安装前静态扫描工具,规则、检测效能数据和扫描方法论全部公开,可本地复现审计。

  1. GitHub · 去对齐工具与仓库56

    CerberusAI 开源只读 agentic SOC 项目,接入自选 LLM 自动分诊 SIEM 告警

    justinbarrow30 在 GitHub 开源了 CerberusAI,一个只读的 agentic SOC,接入用户的 SIEM 并可搭配任意已批准的 LLM,通过自学习的网络基线对告警给出 auto-close 或 escalate 判定。核心推理基于确定性的统计与拓扑图(如 z-score 和前所未有的边检查),配可选的 Isolation Forest 加 autoencoder 集成异常检测层,ensemble 在留出评测中达到 ROC-AUC 0.996、F1 0.973;已支持 Wazuh、Elastic Security、Security Onion,Sentinel 适配器已构建待实机验证,通过 MIT 协议发布,可用 python lab/demo_fixture.py 复现演示。

    推荐理由:原文完整给出了架构、只读安全设计、SIEM 适配和评测数据,读者可以直接克隆复现这个 agentic SOC 方案。

  2. GitHub · 灵魂体仓库56

    secure-voice-agent 开源:带确定性安全防护层的电话 AI Agent

    coreymathie 开源 secure-voice-agent,一个可接听电话、收款并写入业务系统的语音 AI Agent,在模型与所有工具之间放置确定性防护层:默认拒绝的允许列表、社工风险评分、向档案号码发送一次性码的 step-up 验证、限速、PII 清洗、哈希链审计日志和幂等签名请求。技术栈为 Pipecat 1.x、Twilio Media Streams、OpenAI Realtime(或 Claude+Deepgram+ElevenLabs、Gemini Live)、AWS Lambda 与 Fly.io。

    推荐理由:原文把每个安全控制的代码位置、对应测试和失败模式都列了出来,读者可以直接复用这套在模型外做确定性防护的方法。

已经到底了