跳到正文
  1. arXiv · cs.CL56

    AfterDeleteBench 论文审计 LLM Agent 删除记忆后的信息残留

    Ehsan Saleh 在 arXiv 发布 AfterDeleteBench,一种对固定权重 LLM Agent 删除记忆后信息残留的受控行为审计方法。实验显示 Qwen2.5-7B-Instruct 在单次查询下约三分之二的情况可恢复已删除的密文,未暴露对照组恢复为零;即使密文原串已删、只剩按公开组合规则分开存储的组件,Qwen、Mistral 和 Phi-3 仍能以 62-99% 的比例精确重建。来源感知的闭环(provenance-aware closure)消除了测试中的恢复现象,而精确字面写入过滤器只能阻止重插、无法清除已存在的信息。论文 25 页,含 7 图 12 表。

    推荐理由:论文给出可复现的删除后信息残留审计方法和对照实验设计,对做 Agent 持久记忆的人有直接参考价值。

  1. arXiv · cs.CL53

    Masahiro Kaneko 提出 LLM Agent 持久记忆中的自我强化隐私泄露循环

    Masahiro Kaneko 在 arXiv 论文(arXiv:2610.28315)中发现,LLM Agent 在对话中读取持久记忆会引发自我强化的隐私泄露循环。多会话仿真中,带 24 项个人属性的模拟用户与支持类 Agent 对话,四个支持模型里读取记忆既提升回复质量也提高属性被正确推断的比例,且差距随会话扩大,因为记忆条件回复把旧值作为预设带入,用户确认或不纠正使其变成记录值。指示 Agent 不陈述或预设属性可将泄露降到接近无记忆水平并保留大部分质量增益,而过滤或匿名化用户输入或存储内容会损失较多质量。

    推荐理由:这篇研究用多会话仿真揭示了带持久记忆的 LLM Agent 中自我强化的隐私泄露循环,并给出在回复端抑制泄露的可行做法。

  1. arXiv · cs.CL53

    SAFE-Mem:细粒度权限与治理感知检索的智能体记忆安全框架

    论文提出 SAFE-Mem,为 LLM 智能体持久记忆中的每条声明标注 kind、authority、scope 三种治理标签,并通过治理感知检索与记忆图阻止不可信声明被当作授权偏好或权限使用。在 MPBench 和 LoCoMo 上跨四个 LLM 骨干模型测试,SAFE-Mem 在保留合法记忆的防御中攻击成功率最低,比其中最强者低至少 77%,同时在所有评测防御中答案准确率最高,最多提升 15%。代码已开源。

    推荐理由:论文用细粒度治理标签兼顾记忆安全与可用性,并给出攻击成功率与准确率的量化对比,方法可参考。

  1. GitHub · 去对齐工具与仓库63

    kuangren777 开源 Persist 论文代码与数据,提供 Agent 持久记忆投毒攻防测试框架

    Persist 项目发布论文配套代码与数据,包含测试框架、防御措施、运行脚本和论文分析所用的全部冻结结果行。框架研究工具调用型 LLM Agent 的持久记忆投毒:会话1中 Agent 读取不可信文档并写入记忆库,会话2中攻击者值若到达副作用调用的目标参数即算攻击成功;出处门控(provenance gate)通过标记来源并拒绝仅由不可信输入支撑的目标值来防御。reproduce_all.sh 无需网络约15秒离线复现,22个 .tex 文件逐字节一致,冻结结果共 NumTrials=18683;覆盖 claude-sonnet-5、gpt-5.6-sol、gemini-3.1-pro 等6个托管模型和 Qwen3-8B、Llama-3.1-8B 等 vLLM 本地模型,MIT 许可。

    推荐理由:随论文放出完整测试框架与冻结结果,离线15秒即可逐字节复现论文全部数字,方便核查记忆投毒攻防结论。

  1. GitHub · 灵魂体仓库59

    devin-memory v0.3.0:带隔离门与会话溯源的 Devin 防投毒记忆库

    Icaro0310 发布 devin-memory 0.3.0,一个面向 Devin 的防投毒记忆存储,为每条记忆记录 source_session_id 和 source_rowid,可通过 verify 对照 Devin 的 sessions.db 只读审计来源。工具在每次写入时筛查密钥与注入形态,可疑条目进入隔离区,须人工执行 quarantine --release 才激活,并支持 supersede/retract 版本管理和 export 到 Devin memory MCP 兼容的 memories.l。官方 README 声明这是非官方社区项目,与 Cognition AI 无关;同时坦承写入筛查只是启发式过滤器,需配合 gitleaks 等专用扫描器使用。

    推荐理由:原文详述了记忆防投毒的隔离门、来源溯源和版本机制的具体实现与局限,可直接评估是否引入自己的 Agent 记忆流程。

已经到底了