GitHub · 去对齐工具与仓库·· 18 天前精选AI 评分63
kuangren777 开源 Persist 论文代码与数据,提供 Agent 持久记忆投毒攻防测试框架
kuangren777/persist
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/kuangren777/persist
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Persist 项目发布论文配套代码与数据,包含测试框架、防御措施、运行脚本和论文分析所用的全部冻结结果行。框架研究工具调用型 LLM Agent 的持久记忆投毒:会话1中 Agent 读取不可信文档并写入记忆库,会话2中攻击者值若到达副作用调用的目标参数即算攻击成功;出处门控(provenance gate)通过标记来源并拒绝仅由不可信输入支撑的目标值来防御。reproduce_all.sh 无需网络约15秒离线复现,22个 .tex 文件逐字节一致,冻结结果共 NumTrials=18683;覆盖 claude-sonnet-5、gpt-5.6-sol、gemini-3.1-pro 等6个托管模型和 Qwen3-8B、Llama-3.1-8B 等 vLLM 本地模型,MIT 许可。
推荐理由
随论文放出完整测试框架与冻结结果,离线15秒即可逐字节复现论文全部数字,方便核查记忆投毒攻防结论。
来源:GitHub · 去对齐工具与仓库 · github.com