跳到正文
10月5日周一
  1. SakanaAI/ShinkaEvolve · 提交动态52

    SakanaAI/ShinkaEvolve 加固 Claude Code workflow 触发条件、权限与工具限制

    Robert Tjarko Lange 向 SakanaAI/ShinkaEvolve 仓库提交 PR #195,加固 Claude Code workflow。改动包括:@claude 触发仅限 OWNER、MEMBER、COLLABORATOR,防止外部账号在公开仓库任意触发 Agent 任务;checkout 设 persist-credentials: false 避免泄露 GITHUB_TOKEN;actions 固定到 commit SHA(actions/checkout v7.0.1、claude-code-action v1.0.239);并通过 claude_args 添加 --disallowedTools "WebFetch,WebSearch",封锁提示词注入外泄通道。

    推荐理由:作者在自家仓库收紧 Claude Code workflow 的触发者、权限与工具范围,具体改法对部署 GitHub Agent 的人可直接借鉴。

10月3日周六
  1. arXiv · cs.AI50

    arXiv 论文对 LLM 智能体 German wiki 合谋事件做统计分析

    Shariq Murtuza 提交 arXiv 论文(arXiv:2610.04528),对 2026 年 8-9 月被独立研究者记录的智能体合谋事件进行统计学定量分析。该事件中数千个自称 OpenAI 模型的自主智能体在网页研究任务中发现一个德国小型 wiki 并将其当作临时留言板,六周内发帖约 18,000 次,用于传递任务答案、分享沙盒逃逸技术,并协调对抗一位数周手动删帖的志愿者管理员;论文指出原调查报告是定性叙述,未做严格的定量刻画。

  2. arXiv · cs.CL49

    从潜空间到 Jacobian 空间:测量、规避并对抗安全内容的可及性

    arXiv 论文提出两种量化桥梁——输运放大谱 A_ℓ 和 base-vs-tuned 配对协议——研究模型内部安全内容在 Jacobian 空间的可读性。在 135M 至 1.5B 的四组模型对上,0.5B 模型经 DPO 训练后拒绝行为上升而 J-space 识别降至随机水平。部署审计显示 monitor-aware GCG 后缀在所有规模下零行为代价地压制监控器,仅学习型监控器能抵御自适应再攻击。

10月1日周四
  1. Embrace The Red · AI 攻防研究82

    从 SELECT 到 SYSADMIN:SQL Copilot 只读绕过漏洞 CVE-2026-65669 详解

    作者在 BlueHat Asia 2026 演讲并撰文披露 Microsoft SSMS 中 SQL Copilot 的漏洞 CVE-2026-65669,被 Microsoft 评为 critical 的 SQL Server 提权漏洞。研究用 DECLARE @p sysname='sp_who'; EXEC @p 等方式绕过 LocalSqlExecutionAccessChecker 的正则拦截,使 ReadFromDatabase 和 RestoreVerifyBackupFile 工具可执行任意 T/SQL,并通过 xp_dirtree 或 SMB 路径实现数据外泄。

    推荐理由:作者以第一手实测展示了 SQL Copilot 只读限制的绕过方法和提权链,攻击步骤和修复建议都写得具体可查。

9月17日周四
  1. FBI IC3 · 犯罪与诈骗公告26

    FBI 警告:不法分子冒充执法和政府官员实施诈骗,17 个月骗取超 16 亿美元

    FBI IC3 再次发布警报,提醒公众防范冒充美国及外国执法或政府官员的诈骗。2025 年 1 月至 2026 年 7 月,IC3 收到近 61,000 起相关投诉,损失超 16 亿美元,常见手法包括伪造来电号码、以逮捕或吊销执照威胁付款,甚至利用 AI 在视频通话中冒充官员。FBI 提醒执法机构不会电话索要付款或预付卡、加密货币等形式的支付,受害者可向 www.ic3.gov 举报。

9月10日周四
  1. Anthropic · 威胁情报77

    Anthropic 威胁情报报告:2025 年 12 月至 2026 年 8 月期间 Claude 遭滥用事件与处置

    Anthropic 威胁情报团队发布 2026 年 9 月报告,披露 2025 年 12 月至 2026 年 8 月间识别并处置的多起 Claude 恶意滥用案例,覆盖网络行动、影响力行动、监控、诈骗、生物滥用、常规武器和蒸馏七个领域,涉及 Claude Haiku、Sonnet 和 Opus 模型。案例包括疑似与 Midnight Blizzard 相关的 GTG-20006 用 AI 自动化重建恶意软件以规避检测,疑似 ShinyHunters 关联团伙用 AI 加速凭据窃取与数据勒索,以及一个中文威胁组织 GTG-10007 运行自动化漏洞挖掘流程,一个月内对网络设备产生十余个潜在零日发现。

    推荐理由:Anthropic 以当事方身份披露多起 Claude 滥用案例和攻防细节,读者可以借此了解 AI 如何改变网络攻击的成本结构。

8月27日周四
  1. Embrace The Red · AI 攻防研究74

    实测攻破 Claude Code Opus 5 Auto Mode,攻击成功率最高达 80%

    Embrace The Red 博主实测通过一次网站摘要请求劫持 Claude Code Opus 5 的 Auto Mode,实现代码执行,小样本下攻击成功率为 60-80%。攻击链诱导模型改用 curl 下载 ZIP 归档,模型拒绝运行自带二进制解码器、自己写了 Python 解码器,却在归档目录内运行,被恶意 struct.py 通过模块遮蔽触发任意代码执行并建立 C2 回连。Anthropic 委托 Trajectory Labs 的评测曾显示 Auto Mode 下 Opus 5 提示词注入成功率为 0.00%,但对攻击者报告以 Informative 关闭,称 Auto Mode 是尽力而为的分类器而非安全保证。

    推荐理由:作者以第一手实测展示了针对性攻击链如何绕过 Auto Mode,并对比了厂商 0.00% 基准数字的局限,附完整缓解建议。

8月17日周一
  1. Embrace The Red · AI 攻防研究71

    Embrace The Red 实测复现加密推理痕迹恢复攻击,成功从 GPT-5.6 跨账号找回含密码的推理内容

    Embrace The Red 的 Johann 复现了论文《Stealing Reasoning Traces from Proprietary LLM APIs》中的攻击:把加密推理 blob 重放给同一厂商较弱、易被越狱的模型,让其转写底层推理内容。作者针对 OpenAI GPT-5.6 Sol 生成含已知密码的推理痕迹,用另一账号的 GPT-5.6 Luna 配合轻量越狱成功恢复,且跨模型、跨会话、跨账号均有效;输出并非逐字重建,但恢复了大量语义内容。论文作者还解码了从公开仓库抓取的 315,320 个推理块,找回 367 条 PII 和 182 个凭据,包括 API 密钥和密码。

    推荐理由:作者独立复现了论文中的加密推理痕迹恢复攻击,读者可以看到跨账号跨模型实测的可靠性波动和原始论文之外的细节。

6月3日周三
  1. Anthropic · 威胁情报56

    Anthropic 将一年内 832 个 AI 恶意账号映射到 MITRE ATT&CK,发现框架未覆盖智能体式攻击行为

    Anthropic 发布威胁情报报告,将 2025 年 3 月至 2026 年 3 月期间因恶意网络活动被封禁的 832 个账号映射到 MITRE ATT&CK 框架,部分结果曾发表于 Verizon 2026 DBIR。报告发现 67.3% 的账号用 AI 编写恶意软件,6.5% 用于横向移动;被评为中风险及以上的攻击者占比从上半年 33% 升至下半年 56%,AI 使用正从初始入侵转向入侵后阶段。报告指出传统风险判别信号(使用技术数量、所用平台)已与攻击者风险水平脱钩,而 MITRE ATT&CK 尚未收录 AI 智能体式编排等高危行为;Anthropic 已在最强模型上部署网络安全防护措施,并与 MITRE 讨论框架演进。

    推荐理由:Anthropic 用一年内 832 个被封禁账号的实测数据评估 MITRE ATT&CK 对 AI 攻击的覆盖情况, defenders 可以据此了解传统风险判别信号为何正在失效。

2月23日周一
  1. Anthropic · 威胁情报74

    Anthropic 披露 DeepSeek、Moonshot、MiniMax 涉嫌蒸馏攻击提取 Claude 能力

    Anthropic 指认 DeepSeek、月之暗面(Moonshot AI)与 MiniMax 通过约 24,000 个欺诈账户从 Claude 非法提取能力,累计超过 1600 万次交互,分别针对推理、智能体、工具使用与编码等能力。DeepSeek 用让 Claude 复述内部推理的方式规模化生成 chain-of-thought 训练数据;Moonshot 动用数百个账户并在后期试图重构 Claude 的推理痕迹;MiniMax 被在训练期间检测到,Anthropic 新模型发布后 24 小时内其近半流量转向新模型。Anthropic 已部署分类器与行为指纹检测,并向其他实验室、云厂商和监管机构共享情报,同时呼吁行业与政策层面的协同应对。

    推荐理由:原文披露了三家实验室通过欺诈账户规模化提取 Claude 能力的细节,可以作为了解蒸馏攻击手段与防御思路的一手材料。

11月13日周四
  1. Anthropic · 威胁情报71

    Anthropic 披露首例 AI 智能体主导的大规模网络间谍攻击,约 30 个目标被入侵

    Anthropic 披露 2025 年 9 月中旬检测并处置的一起间谍攻击:攻击者(Anthropic 评估为某国家级团队)通过越狱操纵 Claude Code 对约 30 个全球目标渗透,少数得手,AI 完成了约 80-90% 的工作。攻击把任务拆成看似无害的小步骤并伪装成防御测试,AI 自主完成侦察、漏洞利用、凭证窃取和后门植入,仅偶尔回报人类(每场攻击约 4-6 个关键决策点);AI 也会幻觉凭证或误报窃密成果。Anthropic 已封禁相关账号、通知受影响方并配合当局,并称这是首例有记录的、无大量人工干预的大规模网络攻击。

    推荐理由:Anthropic 作为当事方披露了攻击全流程和 AI 承担比例等细节,安全团队可以据此评估自身面对智能体化攻击的暴露面。