GitHub · 灵魂体仓库·· 14 天前AI 评分42
WRG-11 发布 ai-security-toolkit 开源 AI 安全工具集:含提示词注入检测器、LLM 扫描器与防火墙
WRG-11/ai-security-toolkit
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/WRG-11/ai-security-toolkit
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
WRG-11 在 GitHub 开源 ai-security-toolkit,包含提示词注入检测器、LLM 漏洞扫描器和 LLM 防火墙三款 Python 工具,仅依赖标准库。检测器在 5-fold holdout 上 F1 0.93、precision 0.99、recall 0.88(默认阈值由 0.50 改为 0.30),扫描器覆盖 OWASP LLM Top 10 的 193 个探针,防火墙内置 10 个默认 guard,并附带两个漏洞实验环境和 Gandalf 8/8、Agent ODIN 3/3、Prompt Airlines 5/5 的 CTF 成绩及求解器代码。
来源:GitHub · 灵魂体仓库 · github.com