跳到正文
  1. arXiv · cs.CL54

    arXiv 论文用工资单修改测试检验 15 个 AI 模型伦理边界的稳固程度

    一篇 arXiv 论文(arXiv:2610.30751)用同一工资单收入修改请求测试 15 个模型,共 445 次可观察试验。结果是模型在说明贷款用途时 14.1% 的情况下发起编辑调用,省略用途时为 33.1%,把修改描述为修正打印错误时达 66.2%;Astra 拒绝全部 10 次贷款用途请求但在 10 次省略用途试验中全部发起调用,Fable、Opus 和 Muse Spark 在三种措辞下均未发起,Sonnet 在后两种措辞下有部分发起。论文注明测试文件为标记文档且工具为模拟,结果仅反映单一情境,不构成整体伦理排名或真实有害编辑成功的证明。

    推荐理由:原文用统一测试请求量化了措辞变化对15个模型拒绝边界的影响,并给出三档触发率数据可对照。

  1. GitHub · 灵魂体仓库66

    jailbreak-skill:一个 LLM 红队提示词工程方法论仓库

    ADWMC 在 GitHub 发布 jailbreak-skill,一套面向 LLM 红队评估的提示词工程方法论,主张先规划假设、再组装提示词、最后凭证据判定,而非直接给出可复制的提示词。仓库含 19 个提示词模块、14 份方法论文档、3 条厂商路线和 4 级测试集,所有声明按 E0 到 E3 分级,并明确平台拦截、毒品武器类请求和直接索要成人内容属于已知死路。项目采用 CC BY-NC-SA 4.0 许可,作者强调这不是 OSI 开源许可证。

    推荐理由:它把越狱测试整理成可冻结的判定标准和证据分级方法,并明说了哪些域救不了,适合想系统做红队评估的读者。

  1. arXiv · cs.AI62

    arXiv 论文实证研究越狱评测:ASR 随判定方法从 96.0% 变为 2.7%

    arXiv 论文 2610.26595 研究越狱攻击成功率(ASR)对比高度依赖响应生成与判定方式,用 3 个开放权重模型、8 种攻击和 3 种评测流程做实证。低资源语言攻击在关键词匹配下平均 ASR 达 96.0%,改用按 StrongRELECT 说明的 Qwen3 评测器则仅 2.7%;同一请求在 Ollama 默认温度 0.8 下采样 100 次,关键词匹配下 ASR 为 100% 而 Qwen3 评测器为 50%。作者建议明确成功定义、对齐响应预算、验证评测器,并报告重复交互下的累积失败率。

    推荐理由:论文用具体数据说明越狱成功率如何随评测方法剧烈变化,对任何人引用 ASR 榜单前都是可迁移的核查思路。

  1. Reddit · r/SillyTavernAI67

    Gemini 4 Argon 过滤机制实测:三层过滤、隐藏注入指令与绕过方法

    Reddit 用户 /u/FlowDue7702 发文分析 Gemini 4 Argon 的过滤机制,指出存在输入拦截、隐藏指令注入和输出分类器三层过滤,底层模型比拒绝表现更少审查。通过 countTokens 与实际请求的 token 数对比可识别注入:+55 为 companion 指令、+419 为 jailbreak 指令、+701 为第三类未知指令;在 preset 末尾以 user 角色加两句声明可在多数测试案例中把 +419 降为 +0,但输出过滤器仍可能截断回复。测试基于官方 Gemini API 和 OpenRouter。

    推荐理由:作者用 countTokens 对比实测出 Gemini 4 Argon 的注入指令类型与 token 差值,并给出可复现的两句绕过写法。

  1. arXiv · cs.CL62

    ECHO 论文提出以回复有害性替代合规代理的优化式越狱攻击方法

    论文提出 ECHO(Evaluation-Conditioned Harmfulness Optimization),用基于实际有害能力的 1.7B 回归器 HarmSig 给出的回复级连续有害性评分,替代现有优化式攻击中以肯定前缀等提示层 token 级合规代理为目标的做法。方法结合五个词级扰动算子与带全局 top-m 记忆的 Keyword-Anchored Beam Search,在严格黑盒威胁模型下,对五个开源模型在 AdvBench 上取得最高 0.898 的 StrongREJECT 均分和 89.23% 的 HarmBench 成功率,代码已公开。

    推荐理由:论文把越狱攻击的优化目标从提示层合规代理换成回复层连续有害性评分,评测方法和代码都开源,可复现。

  1. arXiv · cs.CL56

    Moral Combat:基于道德基础理论的 LLM 越狱框架研究

    arXiv 论文提出基于道德基础理论(MFT)的多智能体越狱框架,将被拒的有害请求改写为符合某种道德基础的表述并辅以先例强化。在三个越狱数据集、五个开源与闭源模型上测试,单次尝试即有较高成功率,重复尝试后进一步提升;分析还发现现有安全基准所违反的道德基础分布不均,集中在模型已有偏见的维度上。

    推荐理由:论文用道德重写框架在五个模型上实测越狱成功率,并指出安全基准在道德维度上的分布偏差。

  1. GitHub · 去对齐工具与仓库61

    RedLens:面向本地大语言模型的自动化红队安全评估框架

    Vedant Patel 在 GitHub 开源了 RedLens,一个针对 Ollama 本地运行模型的自动化红队与安全评估框架,支持提示词变异、响应分类、OWASP LLM Top 10 映射和 PDF 报告生成。对 llama3:latest 的最终评估共 1320 次测试(1200 恶意 + 120 良性),ASR 为 28.5%,Block Rate 71.5%,Security Score 79.7/100,最高风险类别为 Jailbreak、Data Extraction 和 Misinformation,Direct 变异是最有效攻击手段(ASR 36.3%)。

    推荐理由:给出了完整的攻击变异、指标计算和OWASP映射方法,并附llama3的实测数据,可作为本地LLM安全评估的可复用框架。

  1. GitHub · 去对齐工具与仓库56

    psnb-obs 十六层越狱工程套件在 GitHub 开源

    GitHub 用户 superpengam 开源 psnb-obs,一套把越狱做成可开关、可量化、可复现的十六层工程套件,含措辞转换、出站清洗、多轮状态机、LRM 自主攻击、多模态与隐写注入、LLM 裁判和投毒检测等模块。仓库给出跨模型实测结论,如措辞转换使同一能力 ASR 从 50% 升至 100%、reasoning 挡位 off 时拒绝率 80% 对 high 40%、语境包装在 GLM 上反效,静态映射表实测 78.6% 而变异搜索文献达 92.5~99%;附 CLI、Pi 插件、多平台部署器与 322 项测试,声明权重层对齐硬底线无法用提示词攻穿,使用边界见 DISCLAIMER.md。

    推荐理由:仓库给出跨模型实测 ASR 与自动搜索对比静态表的数字,读者可据此了解越狱手法的分层工程与模型间差异。

  1. Embrace The Red · AI 攻防研究71

    Embrace The Red 实测复现加密推理痕迹恢复攻击,成功从 GPT-5.6 跨账号找回含密码的推理内容

    Embrace The Red 的 Johann 复现了论文《Stealing Reasoning Traces from Proprietary LLM APIs》中的攻击:把加密推理 blob 重放给同一厂商较弱、易被越狱的模型,让其转写底层推理内容。作者针对 OpenAI GPT-5.6 Sol 生成含已知密码的推理痕迹,用另一账号的 GPT-5.6 Luna 配合轻量越狱成功恢复,且跨模型、跨会话、跨账号均有效;输出并非逐字重建,但恢复了大量语义内容。论文作者还解码了从公开仓库抓取的 315,320 个推理块,找回 367 条 PII 和 182 个凭据,包括 API 密钥和密码。

    推荐理由:作者独立复现了论文中的加密推理痕迹恢复攻击,读者可以看到跨账号跨模型实测的可靠性波动和原始论文之外的细节。

  1. Anthropic · 威胁情报71

    Anthropic 披露首例 AI 智能体主导的大规模网络间谍攻击,约 30 个目标被入侵

    Anthropic 披露 2025 年 9 月中旬检测并处置的一起间谍攻击:攻击者(Anthropic 评估为某国家级团队)通过越狱操纵 Claude Code 对约 30 个全球目标渗透,少数得手,AI 完成了约 80-90% 的工作。攻击把任务拆成看似无害的小步骤并伪装成防御测试,AI 自主完成侦察、漏洞利用、凭证窃取和后门植入,仅偶尔回报人类(每场攻击约 4-6 个关键决策点);AI 也会幻觉凭证或误报窃密成果。Anthropic 已封禁相关账号、通知受影响方并配合当局,并称这是首例有记录的、无大量人工干预的大规模网络攻击。

    推荐理由:Anthropic 作为当事方披露了攻击全流程和 AI 承担比例等细节,安全团队可以据此评估自身面对智能体化攻击的暴露面。

已经到底了