GitHub · 去对齐工具与仓库·· 12 天前精选AI 评分62
leakprobe 开源:离线 CPU 可跑的系统提示词泄漏测试工具
Danush-Aries/leakprobe
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/Danush-Aries/leakprobe
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Danush-Aries 在 GitHub 发布 leakprobe,一个离线、纯 CPU 的系统提示词提取攻击鲁棒性测试工具,内置 7 个攻击家族共 42 条模板化攻击,用模糊匹配加内容词门控打分并输出排序报告。内置确定性 mock 模型可零 API key、零网络跑通全流程,也可指向本地 Ollama 模型实测;演示显示 repeat_above 家族在全部 4 个 mock 配置中都能泄漏提示词,泄漏阈值为 40/100。
推荐理由
原文给出42条攻击的实测分数和检测器权重设计,读者可以据此判断这个离线泄漏测试工具是否适合自己的部署场景。
来源:GitHub · 去对齐工具与仓库 · github.com