跳到正文
GitHub · 灵魂体仓库·· 14 天前AI 评分42

WRG-11 发布 ai-security-toolkit 开源 AI 安全工具集:含提示词注入检测器、LLM 扫描器与防火墙

WRG-11/ai-security-toolkit

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/WRG-11/ai-security-toolkit

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

WRG-11 在 GitHub 开源 ai-security-toolkit,包含提示词注入检测器、LLM 漏洞扫描器和 LLM 防火墙三款 Python 工具,仅依赖标准库。检测器在 5-fold holdout 上 F1 0.93、precision 0.99、recall 0.88(默认阈值由 0.50 改为 0.30),扫描器覆盖 OWASP LLM Top 10 的 193 个探针,防火墙内置 10 个默认 guard,并附带两个漏洞实验环境和 Gandalf 8/8、Agent ODIN 3/3、Prompt Airlines 5/5 的 CTF 成绩及求解器代码。

来源:GitHub · 灵魂体仓库 · github.com