灵魂体仓库开源发布 AI 护栏代理 Voidwall(Alpha)
热点事件历史事件
灵魂体仓库开源发布 AI 护栏代理 Voidwall(Alpha)
1 篇报道1 个报道来源12 天前更新
先了解这件事
AI 综述
灵魂体仓库发布开源项目 Voidwall,一个 AI guardrails 代理和 API,可在提示词到达模型前检测并拦截提示词注入与数据泄露,防止个人数据被发送给第三方模型提供商。项目处于 Alpha 阶段,采用 Apache License 2.0 许可。 Voidwall 可作为反向代理、LiteLLM guardrail 或 HTTP API 运行,无需修改应用代码。检测使用 ONNX 文本或 token 分类器,可用开源模型或自训练的微调模型,标签和阈值可自定义。需注意反向代理只能连接纯 HTTP 上游,访问 OpenAI 等托管模型需用 LiteLLM guardrail 方式;在 1.0 版之前,各版本可能变更配置、API 或指标,并在 CHANGELOG.md 中标注。各方案已在 Linux 上完成端到端测试。
AI 根据报道生成 · 6 天前更新
最新进展11月11日 00:41
Voidwall 开源发布:检测提示词注入与数据泄露的 AI guardrails 代理报道时间线
沿着报道,了解事件的不同侧面。
11月11日
- GitHub · 灵魂体仓库Voidwall 开源发布:检测提示词注入与数据泄露的 AI guardrails 代理
灵魂体仓库发布开源项目 Voidwall,一个 AI guardrails 代理和 API,可检测提示词注入并阻止消息到达模型,防止个人数据泄露给第三方模型提供商。它以反向代理、LiteLLM guardrail 或 HTTP API 形式运行,无需修改应用代码,支持 ONNX 文本或 token 分类器(可用开源模型或自己的微调模型)作为检测模型,可自定义标签和阈值。项目目前处于 Alpha 阶段,采用 Apache License 2.0 许可,各方案已在 Linux 上完成端到端测试。