新闻、仓库与研究，按时间排列。
GitHub 上的 cfgaudit 是一个 AI 编码助手配置文件安全审计工具，首先支持 Claude Code，检查违反最小权限原则或暴露敏感文件的设置，每条发现映射到 OWASP GenAI LLM Top 10 2026，并提供 OWASP MCP Top 10、AISVS 1.01 和 AVE 行为分类的次级映射。支持 Homebrew、go install、预编译二进制和 Docker 安装，输出 JSON、SARIF 2.1.0 和 Code Climate 格式，可接入 GitHub Code Scanning 与 GitLab Code Quality。
一位 Reddit 用户计划用新购置的 256 GB Mac Studio 运行本地 AI 做内部渗透测试，出于隐私考虑不使用 Claude 或 Codex，而是寻找开源权重模型控制 Greenbone OPENVAS 和 Kali Purple VM 执行红队相关工作，向 r/LocalLLaMA 社区征求模型推荐。
Shanjeev Rajendran 发布开源工具 Cloakroom（Apache-2.0），在本地把 API 密钥、机密和个人数据（PII）替换成占位符后再交给 AI 编码代理，写入文件时在本地还原真实值。0.7.0 起在 Mac 和 Linux 上支持 OpenAI Codex CLI 和 Google Gemini CLI；实测对 1,005 条个人数据零泄漏，而对比的 Claude Code 隐私工具泄漏 119 至 992 条。真实值存于本机加密保险库，检测模型仅首次从 Hugging Face 下载一次（Mac 约 1 GB，其他平台最多约 4 GB），提供防篡改活动日志、dashboard 误报学习规则和面向金融团队的付款调用拦截与审计功能。
推荐理由：原文给出与其他 Claude Code 隐私工具的横向实测数据，泄漏数和误报数都有对照，读者可据此评估是否值得在本地部署。
作者 Mesut Güngör 在 GitHub 开源了 llm-scan，一个面向 Hugging Face、ModelScope 及本地模型的开源 LLM 安全扫描工具，采用零执行静态分析，覆盖 pickle 反序列化 RCE、trust_remote_code、Jinja2 SSTI（CVE-2024-34359）、SafeTensors 内存炸弹（CVE-2023-44469）等 42 条规则，并附 SHA-256 验证引擎。
推荐理由：作者开源的静态扫描工具在不执行模型代码的前提下检查权重、模板和配置，并给出与 OWASP、NIST 等框架的逐条映射。
作者发布 Ephor，一个只检测不拦截的 Linux CLI，通过读取内核 socket 表和 /proc 被动记录 AI Agent 的出站连接、下载量和是否命中已知恶意目的地，无需配置代理、被入侵的 Agent 也无法绕过。它还能展示每个 Agent 的权限爆炸半径，包括运行用户、Linux capabilities、免密 sudo 和可读的密钥文件；仅依赖 Python 标准库，可在 Pi Zero 2 W 等 512 MB 小设备上运行。v0.3 新增安装与 DNS 监控，追踪 pip/npm 安装并查 OSV.dev，可选 eBPF probe 补捉秒级进程，威胁判定默认离线匹配 URLhaus、Feodo Tracker、FireHOL 等免费 feed，VirusTotal 查询默认关闭。
推荐理由：原文讲清了无代理被动监测的实现原理、资源占用与同类工具对比，读者可以判断它是否适合放进自己的 homelab 监控栈。
sundi133 在 GitHub 发布开源的 llm-shield，一个部署在应用与 LLM 之间的 AI guardrails 平台，内置 19 条覆盖输入安全、输出质量和 Agent 安全的护栏，采用 CPU 快速护栏先行、LLM 护栏按需运行的两级并行流水线。支持基于 Redis 的多租户护栏策略与限流配额，提供基于角色的工具授权、MCP 工具校验、跨工具数据污点追踪、目标漂移检测和工具 kill switch 等能力，可用内置 Qwen3-8B 后端跑在 RunPod，或作为网关代理任意 OpenAI 兼容 API，并附 NIST AI RMF / OWASP LLM / ISO 42001 合规映射文档，MIT 许可。
推荐理由：开源 AI guardrails 平台，19 条护栏分两级流水线，覆盖多租户策略、工具授权、数据污点追踪和目标漂移检测，可按清单对照自己的 Agent 安全需求。
Google 开源的 Mantis 是一套技能（skills）加 ADK 参考实现的工具包，覆盖威胁建模、代码审查、漏洞研究、修补到报告的完整安全流程。它支持 `./run.sh --focus` 指定目标、`--exclude` 排除目录、`--max-tokens` 设定花费上限及并行扫描，并通过研究图合成动态生成 agent-graph 拓扑。仓库强调需在隔离环境使用，AI 发现须经安全专家人工验证，PR 扫描尚未实测、不可用于合并门禁。
GitHub 新仓库 TrustLens 发布，用于 AI + LLM 深度伪造检测与数字证据分析，整合了 Facebook $1M Deepfake Detection Challenge 夺冠的 EfficientNet-B7 人脸交换检测器（numpy 重实现、不依赖 PyTorch，约 267 MB）、视觉 LLM 和十余项取证测试，可检测照片、视频、语音、截图、通知和活动海报。工具用英文和印地语输出证据说明，对照 VTOP 官方记录核查声明，提供 Ed25519 签名的 PDF 报告与哈希链保管日志，附带 Chrome 扩展和手机扫码使用。作者同时列出每项测试在真实数据上的实测表现与角色限制，如真实照片基线假阳性 0/4，并明确说明无法检测克隆语音等局限。
ADWMC 在 GitHub 发布 jailbreak-skill，一套面向 LLM 红队评估的提示词工程方法论，主张先规划假设、再组装提示词、最后凭证据判定，而非直接给出可复制的提示词。仓库含 19 个提示词模块、14 份方法论文档、3 条厂商路线和 4 级测试集，所有声明按 E0 到 E3 分级，并明确平台拦截、毒品武器类请求和直接索要成人内容属于已知死路。项目采用 CC BY-NC-SA 4.0 许可，作者强调这不是 OSI 开源许可证。
推荐理由：它把越狱测试整理成可冻结的判定标准和证据分级方法，并明说了哪些域救不了，适合想系统做红队评估的读者。
GitHub 上的 AI-Safety 仓库为有经验的 ML 工程师、安全工程师及有志于 AI 安全研究者提供开源研究课程与项目仓库，核心路径免费、无需付费 API 或订阅。目前为在建状态：24 章和 10 个项目中完成 0 个，规划与治理层已验证，内容按章节分阶段发布，提供对齐研究、AI 安全工程、评测与保障三条路线，代码采用 MIT 许可、文本采用 CC BY 4.0。
Olivares AI 发布并完全开源，可统一查看和管控 Claude Code、Codex、Grok、Cursor 等 Agent 及 MCP 服务器的运行、权限与成本。它提供 Cockpit、Session、Access map 等界面，在 Claude Code 内、模型代理、每次 MCP 工具调用和 Agent 之间设置四个 deny-closed 检查点，风险操作需第二人批准，并用签名防篡改日志记录所有决策。产品含 32 个模块和 136 个集成，单个程序可部署在自己的服务器上，完整版免费开源，支持 Docker、Debian、RPM、Homebrew 等多种安装方式。
SCAM-KHEL 是为 Nebius × NVIDIA Global AI Hackathon 打造的家庭防护系统，实时检测印度"数字逮捕"诈骗中的胁迫话术，支持英语、印地语和 Hinglish，风险分 0-100（≥40 谨慎、≥70 高危、≥85 危急）。它通过内置模拟骗子演示蜜罐拖延战术、触发 Telegram 家庭警报并生成 cybercrime.gov.in 投诉草稿，运行时 LLM 调用走 Nebius Token Factory 的 NVIDIA Nemotron 模型，按快、中、深三档成本分级。
pezhik 发布开源工具 SkillTotal（Apache-2.0），在 Claude Code 等编码智能体执行 npx、npm install、pip install、claude mcp add 前静态扫描 npm/PyPI 包、MCP 服务器、agent skills 和 git 仓库，纯本机运行、不执行代码、不调用 LLM，每条发现附文件行级证据。官方用规则集 56-59 与引擎 0.49.0 扫描了官方 MCP registry 中 17,535 个组件里的 15,341 个（87.5%），其中 21.1% 可执行 shell 命令、64.8% 可联网，但 99.3% 评分为低风险；另发布含 64 恶意、46 良好样本的标注语料作为检测效能下限。
推荐理由：开源的 Agent 安装前静态扫描工具，规则、检测效能数据和扫描方法论全部公开，可本地复现审计。
PromptShield AI 是一个学生研究原型，定位为反向代理与内联安全网关，在模型推理前后检查提示词、RAG 检索内容、Agent 工具调用和输出，防御 prompt injection、越狱、数据泄露等威胁，并执行 ALLOW/WARN/BLOCK 策略。技术栈采用 FastAPI、React 18 与 gemini-2.5-flash 混合启发式检测，API key 以 SHA-256 零知识哈希存于 SQLite。项目明确声明非生产级安全设备，不提供绝对安全保证。
justinbarrow30 在 GitHub 开源了 CerberusAI，一个只读的 agentic SOC，接入用户的 SIEM 并可搭配任意已批准的 LLM，通过自学习的网络基线对告警给出 auto-close 或 escalate 判定。核心推理基于确定性的统计与拓扑图（如 z-score 和前所未有的边检查），配可选的 Isolation Forest 加 autoencoder 集成异常检测层，ensemble 在留出评测中达到 ROC-AUC 0.996、F1 0.973；已支持 Wazuh、Elastic Security、Security Onion，Sentinel 适配器已构建待实机验证，通过 MIT 协议发布，可用 python lab/demo_fixture.py 复现演示。
推荐理由：原文完整给出了架构、只读安全设计、SIEM 适配和评测数据，读者可以直接克隆复现这个 agentic SOC 方案。
coreymathie 开源 secure-voice-agent，一个可接听电话、收款并写入业务系统的语音 AI Agent，在模型与所有工具之间放置确定性防护层：默认拒绝的允许列表、社工风险评分、向档案号码发送一次性码的 step-up 验证、限速、PII 清洗、哈希链审计日志和幂等签名请求。技术栈为 Pipecat 1.x、Twilio Media Streams、OpenAI Realtime（或 Claude+Deepgram+ElevenLabs、Gemini Live）、AWS Lambda 与 Fly.io。
推荐理由：原文把每个安全控制的代码位置、对应测试和失败模式都列了出来，读者可以直接复用这套在模型外做确定性防护的方法。
GitHub 仓库 scadastrangelove/awesome-ai-security-tools 收录了 AI 安全与 AI 辅助网络安全领域的开源、研究和商业工具，覆盖安全发现自动分诊、AI Agent 安全、AI/ML 供应链、渗透测试 Agent、AI SAST、LLM 红队测试及 SOC/SIEM 分诊等类别。清单用 🟢🔬🟠⚠️ 标注许可证状态，并提供脚本刷新 GitHub star 数据，最近一次刷新为 2026-10-08。收录项目包括 Arm 的 Metis、腾讯朱雀实验室的 AI-Infra-Graf（★ 6,789）等。
LLaDA2.0 是蚂蚁集团 InclusionAI 团队开发的扩散语言模型系列，该仓库提供其下载、安装与运行教程。它支持 Windows 10+、macOS 10.15+ 和 Linux，推荐 8 GB 内存、500 MB 磁盘空间，具备跨平台、用户友好界面及与常用工作流集成的特性。
xhanulik 开源了 JCSmartFuzz，一个检测 Java Card 小程序时序侧信道的 LLM 增强模糊测试框架。它将 AFL++（经 Kelinci）与 diffuzz 差分模糊测试结合 LLM 辅助的代码提取和种子生成，通过测量同一密码学操作对两组输入的指令数差异，发现依赖数据的执行路径以定位时序泄露。流水线分 analyze → harness → seeds → eval → profile 五个阶段，配置经 llm_config.py 按环境变量、llm_config.ini、默认值依次解析，LLM 阶段支持 --mock 离线运行。
lemonade-dashboard 是一个 VS Code 扩展，提供图形界面管理 Lemonade Server 的模型、后端和系统设置，无需命令行。它支持查看和加载/卸载模型，切换 CPU、GPU、NPU 后端，并可调整内存限制、超时等设置和查看系统日志。工具支持 Windows 10 及以上系统，需至少 4 GB RAM 和 100 MB 磁盘空间，可通过 GitHub 发布页下载安装。
开源安全运营项目 AiSOC 发布，可将安全工具遥测标准化，用 6991 条规则库中的 2603 条可执行检测规则告警，并由 AI 智能体调查、记录每次提示词与工具调用，人类批准后才执行动作。部署需 Docker Compose v2、8 GB 内存和 20 GB 磁盘，首次运行下载约 2 GB 本地模型；支持 84 个数据连接器（含 Splunk、Sentinel、Elastic、CrowdStrike 等），并可将 2005 条 Splunk 规则中的 1734 条完成迁移翻译。