跳到正文
GitHub · 灵魂体仓库·· 18 天前精选AI 评分59

LLM-Agent-Firewall-MAPI-6K 仓库发布可复现的多智能体提示词注入检测实现

sushant-me/LLM-Agent-Firewall-MAPI-6K

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/sushant-me/LLM-Agent-Firewall-MAPI-6K

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

sushant-me 在 GitHub 发布了论文《LLM Agent Firewall》的可复现实现,包含 6,000 条确定性智能体间消息语料、亚毫秒级 TF-IDF + 逻辑回归分类器,以及置信度校准的两层路由,仅升级不确定流量给语义判官。在 CPU 上约一分钟跑完全部核心结果,无需 GPU、API 密钥或网络。实测 Strata I+II held-out 准确率 1.000、0 误报 0 漏检,分类器平均延迟 0.333 ms,5% 隐蔽攻击占比下混合延迟 271.5 ms(比全部走判官快 19.9 倍)。

推荐理由

作者复现了论文的多智能体提示词注入防火墙方法,还披露了语料格式混淆这类基准设计陷阱,做法对自建评测的人有参考价值。

来源:GitHub · 灵魂体仓库 · github.com