GitHub · 灵魂体仓库·· 20 天前精选AI 评分59
megern 开源 llm-security-lab:本地 MLX 模型的离线提示注入评测工具
megern/llm-security-lab
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/megern/llm-security-lab
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
megern 在 GitHub 发布 llm-security-lab,一个针对本地 MLX 模型的离线评测工具,用合成 canary、16 组阿拉伯语和 16 组英语案例(直接注入、模拟检索文本中的间接注入、良性请求)测试窄定义行为,全程不联网、不调用远程推理,仅接受本地已有模型文件与 LoRA adapter。报告记录完整原始输出、案例与配置哈希及运行时版本,检测 canary 全量泄漏(含 NFKC/空白归一化和 base64/hex 编码)、文本工具标记泄露、良性案例精确回答和拒绝短语,错误与截断响应单独统计且不计入成功防御。
推荐理由
仓库把注入与泄漏检测做成可审计的离线流程,并明确标注测量局限,适合想自测本地模型注入行为的开发者参考。
来源:GitHub · 灵魂体仓库 · github.com