AI 安全 Stackelberg 博弈模型中的防御充分性分析

一篇 arXiv 论文研究了自动化测试、红队测试与事件响应的反馈何时能为 AI 系统提供充分防御。论文证明：若每个未解决攻击都有持续被发现的机会、修复有效且更新保留既有防护，有限输入构成的攻击面最终被防御的概率为 1，并推导出完成时间边界。论文还构建防守者主导的 Stackelberg 博弈，刻画威慑攻击的最低成本投入分配及均衡情形；数值实验显示更快修复可缩短被攻陷持续时间而不降低被攻陷概率。