跳到正文
GitHub · 去对齐工具与仓库·· 12 天前精选AI 评分62

leakprobe 开源:离线 CPU 可跑的系统提示词泄漏测试工具

Danush-Aries/leakprobe

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/Danush-Aries/leakprobe

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Danush-Aries 在 GitHub 发布 leakprobe,一个离线、纯 CPU 的系统提示词提取攻击鲁棒性测试工具,内置 7 个攻击家族共 42 条模板化攻击,用模糊匹配加内容词门控打分并输出排序报告。内置确定性 mock 模型可零 API key、零网络跑通全流程,也可指向本地 Ollama 模型实测;演示显示 repeat_above 家族在全部 4 个 mock 配置中都能泄漏提示词,泄漏阈值为 40/100。

推荐理由

原文给出42条攻击的实测分数和检测器权重设计,读者可以据此判断这个离线泄漏测试工具是否适合自己的部署场景。

来源:GitHub · 去对齐工具与仓库 · github.com