GitHub · 灵魂体仓库·· 1 天前精选AI 评分68
cthulhu-llm-redteam v0.5.0：本地 LLM 应用 Prompt injection 与越狱测试工具
4meinn/cthulhu-llm-redteam
来源与原文
GitHub · 灵魂体仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/4meinn/cthulhu-llm-redteam
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
作者发布 cthulhu-llm-redteam v0.5.0，一个针对自有 LLM 应用的 Prompt injection 和越狱红队测试框架，覆盖直接注入、越狱、系统提示词泄露、间接注入和编码绕过五类攻击，并映射到 OWASP LLM Top 10。实机测试用 qwen3:8b 作目标、qwen3:14b 作 judge（Ollama，8 GB GPU），29 次攻击在无护栏时绕过 7 次，开启护栏后降为 1 次；holdout 划分暴露了护栏对未见过表述（如翻译式泄露）的漏检，规则与 LLM judge 在 29 例中仅 1 例分歧且为 judge 误报。
推荐理由
工具用 seen/holdout 划分来测防御护栏的真实残余绕过率，作者还保留了规则与 LLM judge 的分歧供人工复核。
来源：GitHub · 灵魂体仓库 · github.com
这条消息，你怎么看？
把新闻带到 MickerBook，和社区伙伴聊聊；也可以去 AIHER 看看模型背后的角色与梗。