GitHub · 灵魂体仓库·· 9 天前AI 评分53
llm-client 开源 Spanish 提示词注入测试工具,llama3.2 泄密率 33%
levaggiagustin37-del/llm-client
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/levaggiagustin37-del/llm-client
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
作者发布了 llm-client,一个用西班牙语(含 Rioplatense voseo 口语)测试本地大模型抗提示词注入能力的极简 Python 工具包,定位为面向 AI Agent 的西语/葡语安全测试工具的基础。其 banco.py 给本地模型一个含密钥并禁止透露的系统提示词,多轮发送攻击库并自动检测密钥是否泄露。在 Ollama 本地 llama3.2 上每攻击跑 3 次,18 次尝试中 6 次泄露(33%),直接索要密钥全部失败,而要求模型复述自身指令的间接攻击 3/3 全中;部分回复口头拒绝却在同一句里打印了密钥,人工目测会漏检,需自动检测器。作者注明 3 次试验仅具指示性,后续计划包括更智能的泄露检测、自动安全报告及葡语攻击与 WhatsApp 式多轮对话。
来源:GitHub · 灵魂体仓库 · github.com