Manal Herradi 开源兼容 OpenAI 的 LLM 护栏网关

Manal Herradi 开源了 llm-guardrail-gateway，这是一个兼容 OpenAI 接口的 LLM 网关，部署在应用与模型提供商之间，实时执行提示词注入检测、PII 脱敏、幻觉接地检查和风险内容标记，并提供审计日志、token 与成本统计、OpenTelemetry 追踪和 Prometheus 指标。 该网关默认使用无网络的确定性 mock 提供商，因此无需任何 API 密钥即可运行：执行 docker compose up 就能启动整套栈，测试套件和 CI 也不需要密钥。 管理 API 的开放取决于环境：在 GATEWAY_ENV=dev 且 GATEWAY_ADMIN_TOKEN 为空时开放，以便一条命令完成快速启动；生产环境下未设置 token 则禁用。Docker 镜像默认 GATEWAY_ENV=prod，缺少强 GATEWAY_KEY_PEPPER 时无法启动，而 docker-compose.yml 为本地栈显式设为 dev。

AI 根据报道生成 · 3 小时前更新