跳到正文
热点事件持续更新

dkruyt 开源隐私感知 LLM 网关 privacy-llm-gateway

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

dkruyt 在 GitHub 开源了 privacy-llm-gateway,一个 OpenAI 兼容的隐私感知网关,对每个 model auto 请求决定提示词走云模型还是留在本地硬件。 路由逻辑分两级:规则检测器查找邮箱、IBAN、信用卡号、各类 API 密钥、JWT 和内部机密标记等,命中即强制走本地并固定会话;本地分类器对整段对话(含 PDF 附件)按可配置类别打分,仅在确信公开且各类别得分都低时才放行公共上游。任何检查失败一律路由本地、不回退公有云,敏感会话保持粘滞,客户端无法自行选择公共模型。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. GitHub · 灵魂体仓库精选
    dkruyt 开源 privacy-llm-gateway:逐请求判定提示词走云端还是本地模型

    dkruyt 在 GitHub 开源了 privacy-llm-gateway,一个隐私感知的 OpenAI 兼容 LLM 网关,对每个 model auto 请求在本机做两级检查后决定路由到云模型还是本地模型。规则检测器查找邮箱、IBAN、信用卡号、各类 API 密钥、JWT 和内部机密标记等,命中即强制走本地并固定会话;本地分类器对整段对话(含 PDF 附件)按可配置类别打分,仅在确信公开且各类别得分都低时放行公共上游。任何失败一律路由本地、不回退公有云,敏感会话粘滞,客户端无法选择公共模型。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。