跳到正文
热点事件历史事件

发布 sentinel-eval 复现 Agent 记忆写入泄露

1 篇报道1 个报道来源13 天前更新

先了解这件事

AI 综述

Reddit 用户 /u/ultraprogger 发布了开源离线测试套件 sentinel-eval(Apache-2.0),复现多租户 RAG 中 Agent 记忆写入路径上的访问控制失效:直接 RAG 查询泄露为 0%,而 3 个 Agent 合成任务中有 2 个泄露敏感数据,暴露 18 个受限 canary 中的 6 个。 原因是在 Chroma 与 LlamaIndex 的常规设置下,Agent 派生的摘要块写入共享集合时丢失 allowed_groups 等访问控制标签;向量库又无法在查询时评估动态权限 DAG,而严格交集方案会基本消灭多文档摘要的检索效用。 套件含 23 个测试,使用 mock 向量离线秒级运行,无需 API key 或真实 LLM 调用,可通过 git clone 后运行 uv run sentinel-eval live --framework chroma 复现。

AI 根据报道生成 · 4 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月10日
  1. Reddit · r/LocalLLaMA精选
    sentinel-eval 离线测试套件演示向量库元数据过滤在 Agent 记忆写入路径上失效

    作者发布了开源测试套件 sentinel-eval(Apache-2.0),演示多租户 RAG 中 metadata 过滤在 Agent 写入路径上失效:直接 RAG 查询 0% 泄露,而 3 个 Agent 合成任务中有 2 个泄露敏感数据,暴露 6/18 个受限 canary。原因是 Chroma 与 LlamaIndex 场景下派生的摘要块写入共享集合时丢失 allowed_groups 等访问控制标签,而向量库无法在查询时评估动态权限 DAG,严格交集方案又会基本消灭多文档摘要的检索效用。套件含 23 个测试,用 mock 向量离线秒级运行,无需 API key,可 git clone 后用 uv run sentinel-eval live --framework chroma 复现。