GitHub · 3D 生成新仓库·· 14 小时前精选AI 评分61
guard-rail-edge 开源:可校准 AI 判官的提示词注入 CI/CD 测试工具
zayanahmed23/guard-rail-edge
来源与原文
GitHub · 3D 生成新仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/zayanahmed23/guard-rail-edge
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
zayanahmed23 在 GitHub 开源 guard-rail-edge,一个面向 CI/CD 的提示词注入测试工具,通过加密金丝雀与系统提示词重叠检测做代码级拦截,并对自身 LLM 判官做实证校准。在 50 个 ground-truth 用例上,Groq 托管的 qwen3.8-27b 达到 100% 泄漏检出、0% 误报,而本地 qwen2.5:0.5b 误报率 85%、gemma:2b 漏检率 90%;判官不确定时输出 NEEDS REVIEW(exit 3)而非猜测 PASS,支持通过 GitHub Actions 集成阻断有漏洞的提示词变更,MIT 协议发布。
推荐理由
原文给出50例基准下多个LLM判官的漏检与误报率数据,读者可据此评估把它接入CI/CD做提示词注入防线的可行性。
来源:GitHub · 3D 生成新仓库 · github.com