4meinn 发布自有 LLM 应用红队测试工具 cthulhu-llm-redteam v0.5.0
先了解这件事
4meinn 在 GitHub 发布 cthulhu-llm-redteam v0.5.0，一个针对自有 LLM 应用的 Prompt injection 和越狱红队测试框架，覆盖直接注入、越狱、系统提示词泄露、间接注入和编码绕过五类攻击，并将结果映射到 OWASP LLM Top 10。该工具仅用于测试自有或获明确授权的系统，预设场景是本地目标：由用户自己编写的系统提示词和埋设的金丝雀密文，不涉及第三方或生产系统，不含恶意软件；自适应攻击（cthulhu attack）需本地无审查模型驱动。 作者实机测试中，用 qwen3:8b 作目标、qwen3:14b 作 judge（Ollama，8 GB GPU），29 次攻击在无护栏时绕过 7 次，开启护栏后降为 1 次；holdout 划分暴露了护栏对未见过表述（如翻译式泄露）的漏检，规则与 LLM judge 在 29 例中仅 1 例分歧且为 judge 误报。
AI 根据报道生成 · 10 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- GitHub · 灵魂体仓库精选cthulhu-llm-redteam v0.5.0：本地 LLM 应用 Prompt injection 与越狱测试工具
作者发布 cthulhu-llm-redteam v0.5.0，一个针对自有 LLM 应用的 Prompt injection 和越狱红队测试框架，覆盖直接注入、越狱、系统提示词泄露、间接注入和编码绕过五类攻击，并映射到 OWASP LLM Top 10。实机测试用 qwen3:8b 作目标、qwen3:14b 作 judge（Ollama，8 GB GPU），29 次攻击在无护栏时绕过 7 次，开启护栏后降为 1 次；holdout 划分暴露了护栏对未见过表述（如翻译式泄露）的漏检，规则与 LLM judge 在 29 例中仅 1 例分歧且为 judge 误报。
本事件热度走势
- 可比范围当前
- 4
- 可比范围峰值
- 511月5日 05:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。