跳到正文
GitHub · 去对齐工具与仓库·· 4 天前AI 评分45

llm-guard-proxy:面向 OpenAI 兼容应用的本地优先安全代理

aauscott/llm-guard-proxy

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/aauscott/llm-guard-proxy

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

GitHub 开源 llm-guard-proxy,一个本地优先的安全代理层,在流量到达客户端或模型前用可配置策略检查提示词与模型响应,兼容 OpenAI、Ollama、llama.cpp、vLLM 等 OpenAI 兼容后端。内置 secrets、prompt injection、regex 等确定性分类器,支持 YAML 策略与 4 个预置策略,可选通过 Ollama 运行 Llama Guard 3(llama-guard3:8b)。项目为实验性质,尚不适用于不可信的生产流量。

来源:GitHub · 去对齐工具与仓库 · github.com