跳到正文
GitHub · 灵魂体仓库·· 20 天前精选AI 评分59

megern 开源 llm-security-lab:本地 MLX 模型的离线提示注入评测工具

megern/llm-security-lab

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/megern/llm-security-lab

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

megern 在 GitHub 发布 llm-security-lab,一个针对本地 MLX 模型的离线评测工具,用合成 canary、16 组阿拉伯语和 16 组英语案例(直接注入、模拟检索文本中的间接注入、良性请求)测试窄定义行为,全程不联网、不调用远程推理,仅接受本地已有模型文件与 LoRA adapter。报告记录完整原始输出、案例与配置哈希及运行时版本,检测 canary 全量泄漏(含 NFKC/空白归一化和 base64/hex 编码)、文本工具标记泄露、良性案例精确回答和拒绝短语,错误与截断响应单独统计且不计入成功防御。

推荐理由

仓库把注入与泄漏检测做成可审计的离线流程,并明确标注测量局限,适合想自测本地模型注入行为的开发者参考。

来源:GitHub · 灵魂体仓库 · github.com