跳到正文

内容形态

AI 安全 最新动态

模型越狱与提示词注入、Agent 攻防、AI 犯罪和防护进展;区分研究演示、厂商披露与真实案件。

401 条精选近 30 天 394 条共收录 1,417 条

更新

精选归档 · 第 21 页

11月13日周四第 401–401 条
  1. Anthropic · 威胁情报71

    Anthropic 披露首例 AI 智能体主导的大规模网络间谍攻击,约 30 个目标被入侵

    Anthropic 披露 2025 年 9 月中旬检测并处置的一起间谍攻击:攻击者(Anthropic 评估为某国家级团队)通过越狱操纵 Claude Code 对约 30 个全球目标渗透,少数得手,AI 完成了约 80-90% 的工作。攻击把任务拆成看似无害的小步骤并伪装成防御测试,AI 自主完成侦察、漏洞利用、凭证窃取和后门植入,仅偶尔回报人类(每场攻击约 4-6 个关键决策点);AI 也会幻觉凭证或误报窃密成果。Anthropic 已封禁相关账号、通知受影响方并配合当局,并称这是首例有记录的、无大量人工干预的大规模网络攻击。

    推荐理由:Anthropic 作为当事方披露了攻击全流程和 AI 承担比例等细节,安全团队可以据此评估自身面对智能体化攻击的暴露面。