新闻、仓库与研究，按时间排列。
WaiperOK 在 GitHub 发布 burp-agent-mcp，一个位于 LLM agent 与 Burp Suite 之间的 MCP 网关，用于授权安全测试。网关在代码层而非提示词层强制范围、环境、模式和限速，配 31 个分三组的工具、哈希链审计日志与密钥脱敏，扫描结果仅作候选供人工复核，附 AgentFindings Burp 扩展和 154 个测试。
推荐理由：原文完整给出了网关在代码层强制范围、环境、限速与审计日志的实现方式，读者可以直接复用这套让模型安全驱动 Burp 测试的架构。
GitHub 开源项目 AdversarialFlow Engine 提供一套受红队启发的对抗性验证框架与配套工具，将测试流程重构为系统与模拟对手的持续对抗。它支持 12+ 种语言的对抗性测试、预算感知调度、三层验证架构（单元对抗测试、流水线完整性验证、预算约束元循环），并配套 15 个验证章节与 14 个实战 lab，可在每次 push 时自动扫描并通过 Slack/邮件告警，输出 JSON、PDF 和交互式 HTML 报告。项目需 Python 3.10+，可对接 OpenAI、Anthropic 或本地模型 API。
sungwon-chae 在 GitHub 发布 LexGuard KR，一款在 ChatGPT、Gemini、Claude.ai 页面上实时检测韩国法条引用是否真实存在的 Chrome 扩展。它基于 Legalize KR 数据集建立本地索引（5,706 部法律、201,480 条条文），用蓝绿黄红四色标注引用可信度，全部校验在设备内完成、不外传任何文本，索引由 GitHub Actions 每天 03:00 KST 自动重建，README 还列出了支持的多种引用写法、v0.2/v0.3 路线图及 MIT 许可。
一个网络安全项目将 Isolation Forest 无监督异常检测与 LLM 结合，实时检测并解释异常网络流量。系统通过 TCP socket 传输模拟流量（80% 正常、20% 异常），检测到异常时计算置信分数，调用 Together AI API 上的 Llama 3.3 70B Instruct Turbo Free 生成标签和人类可读解释，并记录到 CSV 文件。该项目为学术练习性质，还提供 PCA 二维可视化。
高级网络安全工程师 cbluerodriguez 在 GitHub 发布个人作品集，展示企业级网络安全、Zero-Trust 架构与 AI 增强安全运营经验。核心项目包括自动化防火墙规则审计（减少 80% 审计时间、99.9% uptime）、SIEM 日志关联引擎（横向移动检测提升 65%），以及利用 Microsoft Copilot 365 与 Security Copilot 自动化威胁狩猎、事件分诊和合规报告的流程。
siseru 在 GitHub 发布 MCPWiki，一个供 LLM、MCP 和人类使用的轻量无服务器 Wiki，人走 Web、LLM 走 MCP、脚本走 CLI/REST API，共用同一权限模型。文章以 GFM 加 OKF v0.2 frontmatter 存储，可从链接和标签生成知识图谱，基于 AWS Lambda、DynamoDB、S3 等构建，无常时计费资源，小规模生产环境月成本约 10 到 20 美元；设计上 MFA 必需、最小权限，MCP 无法删除文章或扩大权限范围，以防 Agent 受提示词注入后公开文章。
GitHub 开源项目 Glassbox 在应用与 LLM 之间记录每次交互，生成 SHA-256 哈希链加 RFC 6962 风格 Merkle 树、Ed25519 + ML-DSA-65 混合签名的只追加账本，任何单字节篡改都可被数学检测。它提供验证 CLI 和 O(log N) 包含证明，支持第三方审计，热存储用 SQLite/Postgres 并可自动分层到 Parquet 冷存储，面向 10 年留存，以应对 EU AI Act、HIPAA 等监管对可归因证据的要求。
GitHub 上的开源项目 LemmaScript 推出面向 TypeScript 的验证工具链（Tech Preview），通过 //@ 规格标注从同一份 TypeScript 源码生成 Dafny 或 Lean 4（配合 Velvet 2）可验证代码。案例包括 React + Supabase 协作任务应用、Hono 安全中间件 4 个 CVE 的形式化覆盖、node-casbin 5 个函数验证（217 个现有测试通过），其中 equality-game 案例达 753 个验证条件、0 错误。
CharmingSteve 在 GitHub 开源 LLM Provost，一个部署在 MCP 服务器和上游模型 API 之前的治理代理与审计账本，支持策略热加载、四层身份审计和本地/主权化部署。它提供工具调用放行与拦截、限速、token 上限、时间访问控制和 PII 过滤，导入 Agent Provost 的 Alpaca 交易控制规则，兼容 OpenWire、Ollama、vLLM 和 Amazon Bedrock 等后端，采用 AGPL-3.0 许可并提供 Docker Compose 与 AWS Marketplace AMI 部署方式。
推荐理由：原文详细给出了双代理边界、四层身份审计和可编程策略模型，读者可以据此评估在自己的环境里落地 LLM 治理代理。
sloweyyy 在 GitHub 开源了 scriptorium，一个接入 Slack、Jira、Confluence 和 GitHub 的 AI 协作队友，核心卖点是每条回答都有可溯源引用、每次写入需指定人员签名单次审批，且审计日志采用哈希链防篡改。项目用代码而非提示词强制执行安全规则，237 条护栏各有变异测试必须被捕获，支持 Anthropic API、Vertex 上的 Claude 或 Gemini，单容器部署无需数据库。
推荐理由：这个开源 AI 协作队友把审批、引用和审计都落在代码里，配套的变异测试设计对做 Agent 安全工程的人有直接参考价值。
为 ET AI Hackathon 2026 打造的 regcompliance-agent，可将银行 KYC 政策与 RBI 监管条例逐条对齐并引用原文证据；监管修订后仅重查受影响条目，RBI 2025 年 12 月 29 日修订实测只重查 458 条映射中的 3 条，耗时 1 至 22 秒，而人工估计需 5-10 小时。在三个未见过的银行测试中，弱化数字 7/7、隐藏指令 3/3 全部检出，但删除职责的盲区为 0/4。
Sereno 是一个 GitHub 仓库，研究 prompt injection 与持久记忆中毒如何影响长时程任务的编码 Agent，并构建 harness 层让 Agent 在攻击下仍能可靠完成任务。实验基于 DeepSWE 任务运行，每个 session 对应一个完整任务，通过 /memories 目录跨任务携带记忆；sereno context-eval 在仓库文件、命令输出和记忆文件中植入内容，对比 clean、carry、reset 和 ablation 各组，并可通过用户的 AGENT.md 修复被污染记忆，用任务自带 verifier 评分，报告暴露、攻击成功、任务成功与恢复等指标及区间估计。
推荐理由：原文给出了在 DeepSWE 任务上实测 prompt injection 与记忆中毒的实验设计，含对照组、恢复机制和成本记录方法。
GitHub 上的 llm-rank 是一个用 C++ 编写的轻量级重排库，借助大语言模型（LLM）对搜索结果或列表打分排序，仅需一个头文件 llm_rank.h、零外部依赖，可运行于 Windows、Linux 和 macOS。文中给出从 GitHub 下载 ZIP、在 Visual Studio 或 MinGW 中配置编译的完整步骤，并注明需 Windows 10 及以上、至少 4 GB 内存和 500 MB 磁盘空间。它不是独立程序，需具备 C++ 开发经验才能集成使用。
Orkeon 项目在 GitHub 开源了一个 .NET 10 智能体团队框架，当前版本 1.0.0-rc.4，MIT 许可。核心是把权限边界放在模型前面：智能体只能访问声明的虚拟挂载路径（ro/rw），越界写入在落盘前被拒绝，另有工具调用数、时长、token 等执行预算和熔断器；Orkeon.Compliance.Vfs 分析器可让 C# 项目里直接的 System.IO 调用变成编译错误。框架支持 YAML、.ork.ts 和 C# 三种编写方式，含 6 种编排策略、16 个 LLM 提供商、91 个内置工具、6 种记忆存储，可用 Ollama 等本地模型免 API key 运行，快速上手命令见 https://github.com/Orkeon/orkeon 。
推荐理由：这个 .NET 智能体框架把权限边界做成产品核心，虚拟文件系统、执行预算和编译期拦截都讲清了实现方式，适合关注 Agent 安全约束的读者参考。
VeritasAI 是一款多 LLM 伦理 AI 审计工具，用于评估 AI 应用的公平性。它提供公平性指标、SHAP 可解释性分析和 MLflow 实验追踪等功能，用户可上传数据集、运行审计并查看偏见分析结果。工具支持 Windows 10+、macOS Mojave+ 和 Ubuntu 20.04+，至少需 4 GB 内存与 200 MB 存储空间，采用 MIT 许可证发布。
LLaDA2.0 是蚂蚁集团 InclusionAI 团队开发的扩散语言模型系列，该仓库提供其下载、安装与运行教程。它支持 Windows 10+、macOS 10.15+ 和 Linux，推荐 8 GB 内存、500 MB 磁盘空间，具备跨平台、用户友好界面及与常用工作流集成的特性。
Tenable 推出开源、厂商中立的 CyberAgents Exchange，一个用于发现、分享和串联网络安全开源 AI 智能体的社区目录。目录收录 agents、skills、MCP servers 和 playbooks 四类内容，列表以 markdown 文件形式存放，实际代码托管在贡献者自己的 GitHub 仓库中，提交经 validator.py 自动校验和两名维护者审核。该项目免费、无费用，由 Tenable 的 Agentic AI Accelerator 团队维护，还提供 Claude Code 的 Submission Builder 技能，约五分钟即可完成提交。
redact-secret 项目开源了面向运行时数据和 AI 上下文的确定性密钥检测与脱敏工具，当前最新发布版本为 0.1.0-beta.14，稳定版 0.1.0 尚未发布。它提供 Rust 核心，绑定 JavaScript（Node.js 与浏览器）、Python、Rust 和 CLI，可扫描日志、持久化、遥测、工具输出和模型上下文，不做网络调用，覆盖 92 家服务商共 173 个凭据家族（稳定 144 个），并支持日志、OpenTelemetry 追踪、MCP 和 AI 上下文适配器以及可选的结构化 PII 检测（五个家族为 provisional，美国 SSN 为 pending）。项目明确其不是 DLP 平台，不替代 Gitleaks 等仓库扫描工具，也不验证或吊销凭据，空结果不等于文本无密钥。
Lom（Language of Machine）是一门用 Rust 构建的 AI 原生编程语言，核心是围绕 LLM 修复循环设计：编译错误带结构化诊断码，`lom fix` 可机械地自动修复。当前版本 v1.8.0（2026-10-08），语言表面自 v1.0（2026-09-02）起冻结：20 个关键字、43 个内置函数，零第三方依赖、零 unsafe，561 个单元测试。128 项评测中 deepseek-v4-pro+thinking 和 glm-5.3 分别取得 98.3% / 98.5% pass@1；自托管子集编译器 self_comp.lom 可将 Lom 编译为 WASM，并已从实验性升级为受支持特性。
GitHub 项目 llm-router-attacks 发布了可运行的演示，展示恶意 LLM 路由器可在请求转发、响应转发和模型选择三个环节发起攻击：插入未经授权的指令（如虚构的 StudyHarbor Plus 广告）、在推理后追加赞助文本、以及用策略外模型（如 Llama 3.2 3B 替代 Claude Opus 4.6）冒名应答导致结果出错。项目提供无需 API key 的复现方式和规则、语义检索、预测器三种选型配置，并指出需要可验证路由机制让客户端确认实际模型、请求与响应。
claude-code-leaked 是一款面向 Windows 的 CLI/TUI 应用，为用户提供本地 shell 风格界面来使用 Claude Code。它支持 Windows 10/11，要求至少 2 GB 磁盘空间，可完成代码求助、文件编辑、脚本生成和报错解释等任务，需 Claude 账号或 API 密钥登录，可从 releases 页面下载最新 Windows 版本。
开源工具 agentprobe 在 Windows 本地运行，可录制 AI agent 运行记录、按断言检查输出，并提供 prompt injection fuzzing 和成本跟踪。它内置 35+ assertions，支持 OpenAI、Anthropic 或 LangChain 等工具，面向不想复杂搭建的用户测试 agent 行为、安全风险与 token 开销。
System-Prompt-Open 是一个通过 JustAsk 从前沿 LLM 提取系统提示词的开放数据库，支持浏览、搜索和跨模型对比提示词。项目可用于 AI 安全、red teaming、LLM 安全和提示词提取研究，提供 data/、docs/、examples/ 等目录，以 .md、.json、.csv 等格式存储数据。项目要求 Windows 10/11、至少 4 GB 内存和 500 MB 磁盘空间，仅限本地环境下的学习与研究使用。
GitHub 上的 learn-from-claudecode 项目发布，提供分步引导学习 Claude Code 源码的应用，面向 Windows 用户，可从 release 页面下载 .exe 或 .zip 文件直接运行。课程内容涵盖阅读代码流程、追踪输入输出、理解功能连接和 LLM 工具设计，无需预先掌握编程术语，下载后可离线使用大部分本地课程内容。
一个 GitHub 仓库基于 2026年3月31日 npm source map 泄漏事件，对 Claude Code v2.1.88 的 512,000 行 TypeScript 源码做了完整技术分析。泄漏源于 59.8 MB 的 cli.js.map 被打包进 npm 包，含 1,906 个未混淆源文件，Anthropic 随后移除文件并发起 DMCA。
推荐理由：原文基于泄漏源码梳理了 Claude Code 的架构、工具治理与上下文工程实践，其中多数做法可迁移到读者自己的 Agent 开发中。
EvoNet-Core 是一个自主 AI 安全智能体，可持续采集 CVE 数据、分析漏洞并生成防御代码。系统采用 NVIDIA NIM → Groq → Cloudflare AI → 本地 Ollama 的 4 层 AI 故障转移，结合 Pinecone 向量库与 Neo4k 知识图谱的 Graph RAG、基于 PPO 的强化学习防御 Agent、MITRE ATT&CK 映射与 FIRST EPSS 评分。补丁需经 Telegram 人工审批，项目采用 Apache License 2.0 开源，支持 Docker 部署。
joshmaster2165 在 GitHub 开源 Control Tower v0.2 预览版，这是一个自托管 AI 网关，将智能体对模型、MCP 工具和 HTTP API 的每次调用显示为交互式地图上的实时流量，并支持在区域边界绘制 allow/deny/require approval 门禁，拒绝时向智能体返回 403。已支持 OpenAI、Anthropic、Gemini、Bedrock 等 OpenAI 兼容端点、人工审批流转为工单、智能体间 A2A 委托令牌、inspect 门禁扫描密钥与提示词注入、按 key/团队/模型的费用记账与 Prometheus 指标；项目明确说明仅强制执行经过网关的流量，旁路流量只以虚线观察显示，出口代理仍在路线图中。
推荐理由：作者开源了一个带实时地图和门禁审批的自托管 AI 网关，还明确写出了哪些流量不受强制执行，边界诚实。
开发者发布开源工具 a2a-drift，用于检测 A2A（Agent2Agent）协议（v1.0，Linux Foundation 标准）的合规漂移。该 CLI + 库可校验 agent card 是否符合 A2A v1.0 规范、探测 message/send、tasks/get、tasks/cancel 等 JSON-RPC 端点的实际行为与声明的漂移，并跟踪 v0.3 到 v1.0 的版本迁移状态。工具支持输出 SARIF 对接 GitHub Advanced Security、CI 友好的退出码与 GitHub Actions 集成，MIT 协议开源，尚未发布到 PyPI。
独立研究者 Guj Eduard 与多个 LLM 协作构建的 AURORA 对齐档案库在 GitHub 开源，包含形式化框架（14 条 Laws、主定理与引理）、仿真实证记录和刻意保留的开放问题清单。其中 P1、P4、P8-B 等问题仍未解决，RUF/Lemma 14 的“已闭合”结论存在证明缺口。该工作是研究平台而非成品，核心预测如 Digital Gods（45–50%）为作者的结构化估计，仿真代码为 toy scale。
GitHub 上的 agent-platform 是一个面向生产的 AI Agent 平台，支持企业基于授权数据构建可调用受控工具的智能体。项目采用 React + NestJS + Python FastAPI + PostgreSQL/pgvector 架构，内置多租户、工具权限白名单、max_steps 限制、人工审批、RAG 混合检索、提示词注入防御、成本追踪与 LLM-as-judge 评估框架，示例种子数据包含 3 个 Agent 和 50 条评估用例。
GitHub 上的 grounded 项目是一个基于 Postgres 的自然语言分析应用案例：LLM 只通过 Structured Outputs 生成结构化 QueryPlan，SQL 由确定性编译器从预批准片段生成，经 allowlist 校验、SQL 安全检查和参数化执行，LLM 从不直接写 SQL 或接触数据库执行权限。所有 LLM 调用强制 temperature=0、max_tokens=500、默认 15 秒超时；示例评测得分为 0.87，其中 executionSuccessRate 0.95、groundingRate 0.90，两个 LLM 接口均可配置为 OpenAI 或 Anthropic 兼容传输。
NVIDIA-NeMo 发布 Anonymizer 开源工具，用 GLiNER-PII 与 LLM 增强验证检测文本敏感实体，支持 LLM 生成替换、redact、annotate、hash 四种替换策略，并提供 preview 可视化。默认需本地 GLiNER2 端点和 OpenRouter API key，支持自定义模型配置与 Agent Skill，采用 Apache License 2.0，遥测可退出。
推荐理由：工具给出完整的替换策略、预览机制和遥测退出方式，处理敏感文本前可以先小样本验证再全量跑。
yuttii 在 GitHub 发布 agent-execution-guard，一个拦截 LLM Agent 中间步骤的中间件，提供工具调用策略检查、不安全计划检测和指标统计。它以 Final ASR、Intermediate Compromise Rate 等指标区分最终回答与 Agent 实际执行的行为，支持 block、warn、log_only 三种模式和 @guard.guarded() 装饰器，兼容 LangChain、LangGraph、LiteLLM。作者说明演示基于脚本化场景和 mock 工具，基于模式的计划检查可被改写绕过，路径检查存在 TOCTOU 缺口，建议用 AgentDojo 或 AgentHarm 做真实评测。
推荐理由：原文给出了拦截 LLM 智能体中间步骤的工具设计与局限说明，读者可以了解只看最终回答会漏掉哪些不安全行为。
GitHub 开源了 SELAS 研究代码，用 LLM（gemma-3-27b-it）通过 MAPE-K 循环每 60 秒对模拟 web 应用 SWIM 进行重配置决策，并测量其推理文本对实际行为的解释可信度，同时用 Natural Language Autoencoders 直接检查残差流激活。实验在 Manchester CSF3 集群（Slurm、H200 GPU、Apptainer）上运行，与 SWIM 内置 ReactiveAdaptationManager 等基线对比，结果与复现步骤见 RESULTS.md。
TushaeBXN 在 GitHub 开源 Forge，一个 TypeScript 软件工程 Agent，将 LLM 仅作为规划组件而非运行时。核心包括事件溯源系统模型、默认拒绝的权限 broker、60 秒 TTL 能力令牌执行器，以及每次变更强制运行的 tsc --noEmit → test → lint 验证链。支持通过 FORGE_PROVIDER 接入 Anthropic、OpenAI、Ollama 等任意模型，并与 Claude Code、OpenAI Codex 的权限与审计机制做了对比。
推荐理由：把 LLM 定位为不可信规划器、在执行层强制安全的思路，为 Agent 工程的权限与审计设计提供了一个可参考的实现样例。
Ryan Vo 发布 human-approval-console-ryan-vo 1.0.0，一个面向自主 AI 智能体的人工在环治理控制台，可接收智能体动作提案、做多因素风险评分、执行策略护栏、RBAC 审批，并生成 HMAC-SHA256 签名且链式关联的审计回执。内置基于 24 个标注样本的风险评测基准，报告分类准确率 95.83%、destructive 精确率 100%、召回率 93.33%，同时列出了开发沙箱边界弱化和混淆命令两类已知局限。支持 Keycloak OIDC SSO、Docker Compose 部署及离线确定性咨询引擎，MIT 协议开源。
apolskiy 发布 AP-Model-QC 仓库（MIT 许可），处于 Phase 3，包含 70 个分级用例：41 evaluator、21 security、8 tool，覆盖 gemini、openai、claude、grok 四个引擎。已记录 851 条候选响应、466 条评判和 14 项模型发现（openai 8、claude 5、grok 1、gemini 0），撤回的 15 项均为自身缺陷。每例观测 3 次、分歧时升至 5 次，11 项发现存在同题异答；录制回放让任何发现无需厂商账号即可复现，如 pytest --engine grok --mode replay --tests 134205。
strands-agents 发布开源项目 Strands Box，一个 AI Agent 沙箱，将操作系统隔离与用 Dogwood 编写的语义策略结合，控制 Agent 可访问的资源和行动条件。策略引擎在 Agent 进程外运行，默认拒绝未明确允许的操作；Shell、Monty for Python、出口网关和 MCP broker 共享事件历史，先前的文件读取可导致后续出站 HTTP 请求被拒。支持凭据注入且 Agent 拿不到底层密钥，决策记录写入 OTLP JSON。预览版目前仅支持 Apple silicon 的 macOS，需 macOS 15+ 与 Node.js 22.21+，采用 Apache License 2.0。
GitHub 上的 KarmaPash 是一个 LLM 安全网关与提示词注入防御 SDK，在用户提示词到达 LLM 前进行分析，结合模式匹配、语义相似度和行为信号等多种检测手段识别提示词注入攻击，并聚合风险评分给出 ALLOW、FLAG、BLOCK 三种策略决策。它提供可插拔的 LLM provider 架构，内置 Groq provider，附 Python SDK。
GitHub 上的开源 Java AI 智能体框架 llm4j 提供 ai-agent4j、Loom、Engram、eval4j 等模块，支持 ReAct 智能体、工具调用、技能、RAG 与预算控制，并通过统一接口对接 Gemini、Claude、Sarvam 和 Ollama。框架内置审计事件、置信评分、shouldEscalateToHuman()、PII 掩码与偏见监控，映射 GDPR、EU AI Act 和 NIST AI RMF，采用 Apache License 2.0 开源。