跳到正文
GitHub · 去对齐工具与仓库·· 20 天前精选AI 评分64

llm-security-gateway:FastAPI 反向代理为 LLM API 请求加安全策略

Dinesh-Melimi/llm-security-gateway

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/Dinesh-Melimi/llm-security-gateway

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Dinesh-Melimi 在 GitHub 发布 llm-security-gateway,一个介于内部应用与 LLM API 之间的 FastAPI 反向代理,按请求执行认证、限流、模型白名单、注入扫描、PII/密钥脱敏和金丝雀检测,并将每次决策写入仅存 SHA-256 哈希提示词的审计日志。控制项映射到 OWASP Top 10 for LLM Applications (2025) 与 NIST AI RMF;注入检测器在 50 条自建标注集上 precision 0.952、recall 0.80,作者提醒数字偏乐观,仅可作回归底线。项目支持 mock 或任意 OpenAI 兼容端点(vLLM、Ollama、LiteLLM 等),MIT 协议,不支持 SSE 流式与多副本限流。

推荐理由

作者给出了注入检测器在自建 50 条标注集上的 precision/recall 数字和已知局限,读者可据此评估这套网关是否值得直接复用。

来源:GitHub · 去对齐工具与仓库 · github.com