跳到正文
GitHub · 灵魂体仓库·· 5 天前精选AI 评分60

llm-fw 发布本地 LLM 流量防火墙,实时拦截提示注入且无需改代码

PIsberg/llm-fw

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/PIsberg/llm-fw

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

llm-fw 发布本地 LLM 流量防火墙,通过 HTTPS_PROXY 或 OS 级 sinkhole 部署在工具与 API 之间,实时拦截提示注入和越狱请求,无需修改代码、全程不出本机。采用启发式规则、跨语言嵌入向量、可选本地 LLM judge 三级管线,覆盖 OpenAI、Anthropic、Gemini 等 15+ 服务商和 20+ 语言,另含 DLP 密钥扫描、MCP 工具防火墙、RAG 投毒检测和响应侧外泄过滤;自测 110 条攻击全部召回、良性语料 FPR 13.38%,p50 延迟 36ms。软件并非开源,采用 PolyForm Noncommercial License 1.0.0,非商业用途免费,商业使用需购买许可证。

推荐理由

原文给出了各攻击类别的召回率、误报率和延迟数据,读者可以据此评估这个本地防火墙实际拦截能力,而不仅是功能清单。

来源:GitHub · 灵魂体仓库 · github.com