跳到正文
GitHub · 去对齐工具与仓库·· 17 天前AI 评分54

Split-Brain Harness:Rust 安全代理层开源,可检测提示词注入与多轮会话升级

bigblue-r4/split-brain-harness

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/bigblue-r4/split-brain-harness

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

GitHub 项目 bigblue-r4/split-brain-harness 发布,这是一个 Rust 编写的安全层,以 OpenAI 兼容代理形式包裹任意 LLM,在生成响应前检测提示词注入、内部威胁、权威冒充和多轮会话升级,可完全离线运行并编译为单一静态二进制。基准测试显示 CyberEC 198 行零误报(precision 1.000、recall 0.571),Deepset precision 0.922、recall 0.408;README 撤回了此前无依据的 94.8% TrustAI 标记率,修正后数据为 48.9% 标记 medium/high、含升级共 80.8% 被标记或拒绝。

来源:GitHub · 去对齐工具与仓库 · github.com