跳到正文
GitHub · 去对齐工具与仓库·· 17 天前精选AI 评分64

ShadowShield 开源 LLM 提示词注入纵深防御框架

0xsl1m/shadowshield

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/0xsl1m/shadowshield

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

GitHub 仓库 0xsl1m/shadowshield 发布 ShadowShield,一个面向 LLM 应用与多智能体系统的纵深防御安全框架,强调针对提示词注入(OWASP LLM01)的防护。框架统一扫描模型输入与输出,涵盖越狱、编码混淆、数据外泄与密钥泄露,提供净化、隔离、限流等主动响应,并集成 OpenAI/Anthropic/LiteLLM/LangChain 及反向代理网关。基准数据在 deepset/prompt-injections 上加 DeBERTa 分类器后召回率从 regex 18% 提升到 48% 且 0% 误报;AgentDojo 场景中加入 mDeBERTa 分类器后银行/旅行/slack 场景 ASR 降至 0%。

推荐理由

这个 LLM 应用防护框架主动公开了外部盲测集的召回率和误报率,读者可以据此评估分层检测方案的真实防御效果。

来源:GitHub · 去对齐工具与仓库 · github.com