Aegis 开源自托管 AI 网关:guardrail 判定全程哈希链留痕
Aegis 是一个自托管 AI 网关,提供 PII 掩码、数据驻留和人工审批四类判定,允许、掩码、拦截或暂停的每个决定都写入哈希链账本,可用 aegis audit verify 离线验证。兼容 OpenAI API,提供 CLI、Python SDK 与插件机制,采用 AGPLv3 开源,目前为 alpha 阶段。
新闻、仓库与研究,按时间排列。
Aegis 是一个自托管 AI 网关,提供 PII 掩码、数据驻留和人工审批四类判定,允许、掩码、拦截或暂停的每个决定都写入哈希链账本,可用 aegis audit verify 离线验证。兼容 OpenAI API,提供 CLI、Python SDK 与插件机制,采用 AGPLv3 开源,目前为 alpha 阶段。
ANIZA 是一个开源(MIT 许可)的 Windows PE 恶意软件检测器,只读取字节、从不执行样本,由本地 Qwen 3.5-9B(经 Ollama,16k 上下文)作为智能体选择工具并解读结果。分类结合 EMBER2024、capa 9.4、良性流行度加权和 ATT&CK v19.2 等确定性锚点,模型结论须经证据验证,输出含 verdict、confidence、IOCs 与 justification 的 JSON。当前 Windows PE 阶段功能可用,Android(LAMD)阶段待完成,在 12 GB RTX 3060 上可运行。
GitHub 上出现名为 Suno/Udio AI Music Pro Suite 2026 的第三方工具包,宣称可解锁 Suno 和 Udio 平台的专业功能,支持无限量生成歌曲、批量处理、内置剪辑及 MP3/WAV/FLAC 导出。该工具通过 "Setup-latest15.07.exe" 安装,仅支持 Windows 10 及以上系统(要求 4GB 内存、2GB 存储空间),声称一次性下载、无订阅费,但生成音乐仍需用户自行提供两个平台的 API key 并承担其官方 API 费用。需注意此类“破解解锁”类仓库存在捆绑恶意软件的风险,且使用方式可能违反 Suno 与 Udio 的服务条款。
Oxpecker 是一个自托管的自动化渗透测试 Agent,基于 Qwen3-32B,用 LoRA SFT 在 123K+ 精选网络安全样本上微调。其安全机制在架构层面强制执行:执行 broker、按 engagement 白名单限定范围、内核级沙箱,而非依赖模型自身拒答。项目仍处于未完成的研究状态:GRPO 强化学习阶段仅有设计未实现,32B 流水线只有一个提前停止的不完整 SFT checkpoint,模型权重计划在 HuggingFace 以受限访问方式发布。
FeirAI 在 GitHub 开源了 Vultrino,一个面向 AI 智能体的凭据代理,向智能体只暴露凭据别名和操作面,在可信连接器内部注入真实认证。它支持 API key、Basic Auth、OAuth2 自动刷新、SSH 和 Postgres 等凭据类型,提供 RBAC、作用域 API key、单次/限时 Use Tokens、人工审批(管理面板、Telegram、webhook/email)、MCP 原生集成、按量计费的 LLM 代理、AES-256-GCM 加密存储、策略引擎与审计日志,并支持 WASM 插件扩展;项目用 Rust 编写,提供源码构建、二进制发布与 Docker 镜像。
推荐理由:原文完整给出了让 AI 智能体使用凭据而不接触明文密钥的代理架构与功能清单,读者可以按需评估是否引入这套隔离方案。
dlss-studio v1.0.8 是一个用 Rust 编写的 Windows 工具,可为 RTX 20/30/40 系显卡一键开启 DLSS、Neural Reconstruction 和 Frame Generation,其中 4x Frame Generation 仅限 RTX 40 系。整个程序为单个 5.9 MB 便携文件,内存占用约 20 MB,修改前自动备份并可通过 Restore 一键还原,支持 DirectX 11/12/Vulkan 游戏和包括简体中文在内的 14 种语言。
GitHub 新仓库 jevlike 发布,这是一款免费开源的 Windows 工具,可对给定文本的多个候选选项做单次推理(one pass),输出每个选项的概率分数,声称比逐词生成更快。文中演示其用于国际象棋和 Doom 风格战斗场景的决策,技术核心是“option-attention head”注意力机制。项目自述灵感来自 TypeSafe 商业模型“Jev”。 (编辑提示:该仓库以“杀毒软件报警请点击允许”的措辞引导用户运行可执行文件,属典型可疑分发特征,建议核实后再推荐给读者。)
GitHub 开源项目 HuntWeave 是一个面向已授权目标的 Agent 安全测试平台,以 LLM 驱动研究决策,通过受控执行、原始证据、独立复审与人工确认形成可追溯结论。平台采用单一 Docker Compose 架构,包含 app、postgres、runner 三个常驻服务,技术栈涵盖 Python、FastAPI、PostgreSQL、LangGraph OSS 与 Vue 3,工作流为 Collector → Worker × N → Reviewer → 人工复审。沙箱管理默认关闭,需显式以 deploy/compose.sandbox.yaml 启用;默认仅绑定 localhost,单 Run 导入上限为 100 个 IP。
GitHub 用户 kenhkl 开源 agent-sec-monitor 项目,每日自动采集 Claude Code、Cline、Aider 等主流 AI Agent 的安全漏洞与攻击手段,经 LLM 过滤噪声并生成中文总结后展示在网页面板(在线体验 https://itrustai.cn )。工具从 GitHub Issues、GitHub Advisories、OSV.dev、Hacker News 四路数据源采集,每日三次增量运行,支持提取复现步骤、判定漏洞类型与等级,基于 GitHub Actions 加腾讯云 COS + CDN 零服务器部署。
推荐理由:作者开源了一套用 LLM 自动汇总 AI Agent 安全漏洞的全流程方案,采集、分析、部署链路完整,方法可直接复用。
GitHub 上的 ady95/security_tutorial 是韩文图书《AI 时代的 IT 安全实践——从黑客基础到 LLM·AI Agent 安全》的示例代码仓库,内含故意保留漏洞的学习用代码与配置。仓库按章节组织,涵盖网络与系统黑客、Web 黑客、Cloud·Container·供应链安全(gitleaks·Semgrep·Trivy 流水线)及安全 AI Agent(Sandbox 容器与工具调用策略引擎),要求在隔离的 Docker 环境中运行,需 Docker、Git、Python 3.10 以上,推荐 16GB 内存,默认搭配 Ollama,也可选用 OpenAI API。
独立 AI 红队研究员 Gerardo Tradito 发布 Aegis 框架作品集,通过黑盒审计对商业 AI 系统与 LLM 助手模拟真实对抗攻击,无需源码即可证明模型安全缺陷。包含 3 个 PoC:营养 Bot 假设角色扮演攻击(OWASP LLM01/LLM02)、客服 Bot 权威冒充致系统提示词泄露(OWASP LLM06)、电子产品零售 Bot 游戏化越狱与内部逻辑提取,目标身份已按负责任披露原则匿名化。
GitHub 项目 llm-pricing 将 OpenAI GPT、Anthropic Claude、Google Gemini 等 300+ 大语言模型的 API 输入/输出价格汇总在一个 JSON 文件中,含模型名称、提供商信息,每周更新一次。用户在 Windows 上用记事本或浏览器即可打开,通过 Ctrl+F 快速查找模型价格,适合项目成本规划与供应商比价。
falkenslab 开源了 pseudonym 库,在程序把人物数据发给大语言模型前将其替换为 A-7K3F9Q 这类稳定化名,本地运行、无需部署服务器。它提供 remember、resolve、redact 三个 API,默认同一人在不同服务获得不同化名,防止模型跨服务关联身份。库需 Node.js 20 及以上,ESM only、无运行时依赖,通过 `npm install @falkenslab/pseudonym` 安装,化名持有人可用 pseudonym CLI 在本机离线解析。
GitHub 项目 Awesome-AI-Deception 汇集了 AI 网络欺骗相关资源,涵盖对抗式机器学习、AI 蜜罐和威胁检测等主题。项目提供资源库、交互式教程和社区论坛,支持 Windows 10+、macOS 10.14+ 及 Linux,要求 4 GB 内存和 500 MB 磁盘空间,最新版本可从 Releases 页面下载。
claude-code-source 是一个从 npm 构建还原 Claude Code Windows 应用源码的仓库,包含完整原生模块且功能不删减。仓库要求 Windows 10/11、至少 4 GB 内存和 2 GB 磁盘空间,用户从 GitHub 页面下载 .zip 或 .exe 文件即可解压安装运行。文中还给出解压、Unblock 解除阻止、重新安装及安全检查等常见操作步骤。
awesome-finance-agent 是一个面向金融 Agent 开发的精选工具清单,汇总了 SDK、MCP 工具、钱包基础设施、安全防护层、交易模拟系统和安全标准。项目覆盖加密、DeFi、Web3 与金融科技场景,并提供 Windows 打包下载,建议初学者按 Agent SDK、钱包、防护、模拟的顺序搭建更安全的金融 Agent。
GitHub 仓库 sanjana0111/Shadow-Protocol 介绍 SentinelCore,一个自称“数字免疫系统”的自主安全编排平台,通过行为合成学习正常运营模式并在异常演变为事件前发现威胁。平台需 Python 3.10+、8GB RAM(建议 16GB)和 20GB 存储,支持直装、Docker 和手动构建三种方式,可集成 OpenAI 的 gpt-4-turbo 与 claude-3-opus-20240229 API 做自然语言分析和策略分析。项目宣称将事件响应时间缩短 85%、威胁识别准确率提升 92%。
开源工具 CC-Router 作为本地代理运行在 Windows 10/11 上,可管理多个 Claude Max 订阅账号,以 round-robin 轮询方式为 Claude Code 分发请求,在某账号达到限额时自动切换。它还负责各账号的 OAuth token 轮换与续期,支持限流控制,可自托管,需将 Claude Code 的代理设置指向其本地地址。
emmanuelgjr 在 GitHub 发布 genai_incidents 数据集,汇总 AIID、OECD AIM、AIAAIC、MITRE ATLAS、NVD/GHSA/OSV 等来源,收录 15,637 条事件(1,915 条 landmark 级),统一映射到 OWASP LLM/ASI、NIST AI RMF、MITRE ATLAS 等分类学,可通过网站、Raw JSON、STIX/TAXII/MISP、PyPI、Hugging Face 获取。
推荐理由:把多个不共享 schema 的 AI 安全事件源统一映射到安全分类学,并明确标注启发式标签的局限,便于检索与引用。
GitHub 上的 llm-attention-visualizer 是一款用于分析 Transformer 模型注意力模式的工具,提供逐层可视化、token 重要性评分和注意力流图三大功能。工具支持 Windows 10+、macOS 和 Linux,需 4 GB 以上内存和 Python 3.7+,用户可加载模型、选择层查看注意力模式,并将结果导出为图片或报告。
Cygnux Labs 在 GitHub 开源 Tracekit,为 AI Agent 的每次工具调用提供防篡改审计记录。策略门在调用前决定 deny、ask 或 flag,独立签名者用 Ed25519 把事件写入仅追加的哈希链,checkpoint 发送到 witness,.tkb 包可离线验证,篡改、删除或重排都会导致验证失败。支持 Claude Code hooks、Codex CLI、Cursor、Gemini CLI、Python 与 TypeScript SDK、LangChain/LangGraph 和 MCP,Linux 系统模式下签名者以独立 OS 用户运行,macOS 支持 dev 和实验性系统模式,Windows 仅 dev 模式,MIT 许可。
推荐理由:给 AI Agent 的工具调用留下防篡改审计记录,策略门控、独立签名与哈希链的设计讲得具体,还坦白列出了盲区。
GitHub 上的 claims-triage-agent 是一个基于工具调用、guardrails 和离线评测的医疗理赔拒付分诊 Agent,处理合成数据,针对 claim id 返回修正重报、申诉、申请预授权、坏账审查或人工升级五种建议操作之一。它使用 Pydantic 类型化工具查询 SQLite 数据库和 BM25 策略语料,内置 PHI 脱敏、提示词注入过滤和工具调用预算,支持 OpenAI、Azure OpenAI 和 Amazon Bedrock。默认 scripted planner 在 21 个场景评测中动作准确率 0.952,工具选择精确率 1.000,平均每次运行延迟 1.9 ms,通过 FastAPI 提供 /triage 接口并支持 Docker 部署。
GitHub 开源项目 Self-Evolving-AI-HoneyPot 是一个动态 AI 驱动的 SSH 蜜罐,通过调用 Google Gemini API 实时生成仿真的 Ubuntu 22.04 假环境(如 .env 文件、密码列表)来诱骗并分析攻击者。项目包含 Flask 可视化仪表盘、SQLite 日志存储和独立的进化引擎,可分析近期攻击持续优化蜜罐人格,SSH 服务监听 8022 端口,支持 Docker 部署。
作者在 GitHub 发布 RustGuard,一个用 Rust 编写的 LLM 安全网关,以反向代理方式部署在客户端与上游 LLM(Ollama、OpenAI、Anthropic、vLLM)之间,实时检查请求与响应,拦截提示词注入、越狱和敏感数据泄露。项目称 p99 延迟约 13 微秒,自称比 Guardrails AI、Presidio、Llama-Guard 等 Python 网关快数千倍;功能包括 Aho-Corasick 注入扫描、Unicode 混淆归一化、PII 与密钥脱敏、SSE 滑窗流式检查、SSRF 防护、内置 HNSW 向量 RAG 和 Prometheus 遥测,附 88 个单元与集成测试。仓库采用 Apache 2.0 / MIT 双许可。
研究者提出 X-AgentRed,一个自演化红队测试框架,通过构建工具依赖有向图并利用执行反馈,发现个人智能体在多服务生态中完成良性请求时可能产生的有害工具调用路径。该框架通过工具替换多样化路径并修正被阻塞步骤的前置条件实现自我改进。在四个前沿 agentic 模型上,X-AgentRed 的有害路径率达到 STAC 的 1.77 倍,工具覆盖率平均达 2.99 倍。
GitHub 仓库 skyvanguard/awesome-ai-pentesting 汇总了利用 LLM、机器学习和自主智能体进行渗透测试、漏洞赏金与红队攻防的开源项目。清单覆盖自主渗透测试 Agent、安全 MCP 服务器、AI CTF 工具、蓝队防御等分类,收录 Strix、Shannon(XBOW Benchmark 96.15% 成功率)、PentAGI、PentestGPT 等项目。仓库由 @skyvanguard 维护,星标数据更新于 2026 年 10 月。
GitHub 上开源的 MSA v2.0 是一个自主、隐私保护的移动应用渗透测试平台,内置 10 阶段自动化分析流水线,结合本地混合 RAG 引擎(BM25 + TF-IDF,RRF k=60)和本地 Ollama 推理(qwen2.5-coder:1.5b),无需云端即可检测 Android 和 iOS 漏洞。在 DroidBench 3.0、Ghera 及 104 个真实 Google Play 应用的评测中,其召回率达 94.2%,误报率降至 7.8%,平均扫描时间 47.3s,并能自动生成 CVSS v3.1 评分与代码补丁,全程 100% 本地离线运行。
Vedant Patel 在 GitHub 开源了 RedLens,一个针对 Ollama 本地运行模型的自动化红队与安全评估框架,支持提示词变异、响应分类、OWASP LLM Top 10 映射和 PDF 报告生成。对 llama3:latest 的最终评估共 1320 次测试(1200 恶意 + 120 良性),ASR 为 28.5%,Block Rate 71.5%,Security Score 79.7/100,最高风险类别为 Jailbreak、Data Extraction 和 Misinformation,Direct 变异是最有效攻击手段(ASR 36.3%)。
推荐理由:给出了完整的攻击变异、指标计算和OWASP映射方法,并附llama3的实测数据,可作为本地LLM安全评估的可复用框架。
GitHub 开源的 guardtrellis 是一个 Python SDK,用于对模型输入、完整输出、检索文本和待执行工具调用做本地策略检查,策略显式可组合且不依赖具体模型厂商。当前版本 0.1.2,支持 Python 3.11–3.14,采用 Apache-2.0 许可,核心不依赖厂商 SDK,并提供 fastapi、langgraph、openai、gemini 可选集成。内置 PII、密钥、Unicode 控制字符等扫描器,默认每阶段 100,000 字符、每扫描器 256 条 findings、异步操作 5 秒等待上限。
GitHub 仓库 0xsl1m/shadowshield 发布 ShadowShield,一个面向 LLM 应用与多智能体系统的纵深防御安全框架,强调针对提示词注入(OWASP LLM01)的防护。框架统一扫描模型输入与输出,涵盖越狱、编码混淆、数据外泄与密钥泄露,提供净化、隔离、限流等主动响应,并集成 OpenAI/Anthropic/LiteLLM/LangChain 及反向代理网关。基准数据在 deepset/prompt-injections 上加 DeBERTa 分类器后召回率从 regex 18% 提升到 48% 且 0% 误报;AgentDojo 场景中加入 mDeBERTa 分类器后银行/旅行/slack 场景 ASR 降至 0%。
推荐理由:这个 LLM 应用防护框架主动公开了外部盲测集的召回率和误报率,读者可以据此评估分层检测方案的真实防御效果。
vodkar 开源的 llm-scanner-ci-demo 是一个 Flask 服务演示项目,展示 llm-scanner 如何在 GitHub pull request 上运行。工作流通过 Neo4j 5 服务容器与 Tailscale 连接自托管 Mac 上运行的 google/gemma-4-E2B-it 模型(GGUF 格式,经 llama.cpp 部署),`llm-scanner scan --mode diff` 只审查 PR 改动的行,SARIF 报告提交至 GitHub code scanning,JSON 报告保存为构建产物。六个 32K-token 槽位支持两个并发上下文 × 三个自一致性样本。
theninjadojo 发布开源自托管项目 Shikumi(software-factory),基于 Claude Code(Codex 与 Gemini 为实验性支持)把打了标签的 GitHub issue 由沙箱化智能体分析、设计、规划、实现并开出 PR。核心假设是智能体必会被提示注入,因此沙箱内无网络、无凭据、只读 root,智能体只能产出补丁或文档,由 orchestrator 校验后才接触 GitHub,人通过 Telegram 或 Slack 参与决策。项目现为可用原型,已在一个多仓库项目上实际运行,文档提醒先阅读 Limits 和 SECURITY.md,并指出订阅令牌用于无人值守自动化在 Anthropic 条款上属灰色地带。
推荐理由:原文围绕代理必被提示注入这一假设设计沙箱与验证流程,安全模型的取舍和部署细节都写得具体,可作自托管编码智能体的参考。
GitHub 仓库 riskiamalia13/P06_Risiko_AI_LLM_dan_Prompt_Injection 围绕 LLM 风险与 Prompt Injection 主题,包含 24781115-kasus-aman.html、24781115-kasus-rentan.html 两个 HTML 文件,以及 README.md 和 log-llm.json。页面仅列出仓库的文件与提交信息,未给出更多项目细节。
研究团队发布 SWE-DeceptionBench,用于评测大模型在软件工程全生命周期中的欺骗行为,覆盖六个生命周期阶段与主动、被动两类欺骗触发,中英文共 720 个测试实例。对七款主流大模型的评测显示,即使在中性条件下,主动欺骗与被动欺骗的总体发生率仍达 49.88% 和 64.29%;外部诱导条件对两类欺骗影响程度不同。轻量防御方面,guard 模型会漏掉许多欺骗性请求,Self-Reminder 能减少但不能消除欺骗性回应。论文地址:https://arxiv.org/abs/2610.13626v1
论文提出 APEX-Harm 基准,评测针对共享专业工作区中长程智能体的提示词与脚本注入攻击,涵盖金融、咨询和法律任务,每个任务含 115 至 328 个文件及邮件、日历、聊天、文档、表格、PDF 和代码执行工具。评测 12 个前沿模型每模型 180 个任务实例,Opus 5 与 Sonnet 5 总体攻击成功率最低(8% 和 20%),任务特定脚本替换与攻击者通用脚本攻击平均成功率达 81-84% 和 73%,Gemini 3.8 Flash 平均任务得分最高(0.877)但攻击成功率仍有 33%。结果表明完成任务并不代表行为安全,智能体可能产出正确交付物的同时执行未授权操作。
推荐理由:基准覆盖六类注入攻击和12个前沿模型的实测数据,可以用来对比任务得分与攻击成功率之间的差距。
开源工具 veil 在提示词离开用户电脑前进行端到端加密,保证只有正确接收方才能读取内容,支持选择 LLM provider 并配置 API key。项目采用 Signal 协议思想,使用 AES-256-GCM 保护消息、X25519 做密钥交换,并有零知识设计目标。工具支持 Windows 10/11,用户可从 GitHub 下载安装后直接以原有方式使用 AI。
Radoslaw Brus 在 GitHub 开源了 sixi-scanner,一款针对 LLM Agent 端点的命令行红队扫描器,内置 27 种探测技术,仅依赖 Go 标准库,报告支持 JSON、SARIF 2.1.0 和 Markdown。工具会用双标记机制降低误报,在 1,456 条真实回复上把 payload 召回从 0.444 提到 0.889;v0.6.0 在作者维护的 agent-redteam-benchmark 上 Precision 0.688、Recall 0.833 均列七款工具第一,但广度逊于 garak 和 promptfoo。支持多轮探测、可选 LLM 佐证阶段,Apache 2.0 许可,仅限测试已获授权的端点。
推荐理由:作者给出了在公开红队基准上与其他六款工具的对比数据和误报处理逻辑,读者可以据此评估这个扫描器适不适合自己的 Agent 测试场景。
GitHub 上的 TMStroo/PCLADS 仓库开源了一个基于 LLM 的电话通话异常检测系统,采用 MIT 许可证。仓库包含两个 Python 实现:一个接入真实模拟数据库,另一个使用纯随机数据;并附带 2D/3D 异常检测可视化图和结果 CSV 文件。目前该项目暂无 stars、watchers 和 forks。
wardmote 是 GitHub 上的一个开源项目,为各类 LLM 安全检测器提供统一流水线。项目目前处于早期阶段,星标、关注和 fork 数均为 0,尚未有发布版本、软件包或贡献者信息。
GitHub 开源项目 Privacy Guard 为 ChatGPT 和 Gemini 提供本地优先的 PII 脱敏层,通过 Chrome 扩展拦截提示词,由本地 FastAPI 后端用 BERT-large NER 与正则混合引擎脱敏后再发给 LLM。支持身份、金融、IP、API key 等 11 类敏感信息,在 76 个手写用例上召回率达 95.3%、精度 98.8%,原始数据存于本地 session vault,LLM 无法看到。