GitHub · 去对齐工具与仓库·· 17 天前AI 评分54
Split-Brain Harness:Rust 安全代理层开源,可检测提示词注入与多轮会话升级
bigblue-r4/split-brain-harness
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/bigblue-r4/split-brain-harness
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 项目 bigblue-r4/split-brain-harness 发布,这是一个 Rust 编写的安全层,以 OpenAI 兼容代理形式包裹任意 LLM,在生成响应前检测提示词注入、内部威胁、权威冒充和多轮会话升级,可完全离线运行并编译为单一静态二进制。基准测试显示 CyberEC 198 行零误报(precision 1.000、recall 0.571),Deepset precision 0.922、recall 0.408;README 撤回了此前无依据的 94.8% TrustAI 标记率,修正后数据为 48.9% 标记 medium/high、含升级共 80.8% 被标记或拒绝。
来源:GitHub · 去对齐工具与仓库 · github.com