GitHub · 去对齐工具与仓库·· 4 天前AI 评分45
llm-guard-proxy:面向 OpenAI 兼容应用的本地优先安全代理
aauscott/llm-guard-proxy
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/aauscott/llm-guard-proxy
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 开源 llm-guard-proxy,一个本地优先的安全代理层,在流量到达客户端或模型前用可配置策略检查提示词与模型响应,兼容 OpenAI、Ollama、llama.cpp、vLLM 等 OpenAI 兼容后端。内置 secrets、prompt injection、regex 等确定性分类器,支持 YAML 策略与 4 个预置策略,可选通过 Ollama 运行 Llama Guard 3(llama-guard3:8b)。项目为实验性质,尚不适用于不可信的生产流量。
来源:GitHub · 去对齐工具与仓库 · github.com