跳到正文
GitHub · 去对齐工具与仓库·· 20 天前精选AI 评分67

blueaisecurity 开源 AI 安全动手实验仓库 ai-security-labs

blueaisecurity/ai-security-labs

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/blueaisecurity/ai-security-labs

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

blueaisecurity 在 GitHub 开源了面向安全从业者的 AI 安全动手实验仓库 ai-security-labs,包含四个可在本地 Docker 环境搭建的实验。Lab 01 复现提示词注入让 LLM 聊天机器人泄露受保护秘密;Lab 02 通过 MCP 给聊天机器人接入工具后用工具投毒和间接注入劫持;Lab 03 复现 EchoLeak 模式,诱导 Agent 读收件箱并把密码发给攻击者;Lab 04 在邮件 Agent 前部署 AI 网关,逐个开启八项检查,观察哪些能拦住向攻击者发送 AWS 密钥。各实验用 Ollama 在容器内运行本地模型(如 llama3.2、qwen2.5:7b),无需 API key 和云端费用,每个 write-up 覆盖理论、架构及攻击成功前的失败尝试。

推荐理由

四个实验环境都在本地容器里复现提示词注入、MCP 投毒和 Agent 劫持,并附完整 write-up,安全从业者可以动手跑攻击而不是只读文章。

来源:GitHub · 去对齐工具与仓库 · github.com