跳到正文
今天10月27日周二2 条
  1. arXiv · cs.CL45

    线性探针在基座模型蒸馏与指令微调后仍可迁移

    研究测试了 Qwen2.5-Math-7B、Llama-3.1-8B、Qwen2.5-14B、Qwen2.5-32B 四个基座模型上训练的有害请求检测线性探针能否直接迁移。尽管 DeepSeek-R1 蒸馏推理模型和指令微调模型使安全方向旋转 17°–35°,XSTest 上 AUC 仅变化 -0.011 到 +0.027。探针在 XSTest 上比纯文本分类器高 0.15–0.20 AUC,但在 OR-Bench 上优势缩至 0.03–0.20,且会误标 29%–42% 听起来有害实则无害的提示词。

  2. arXiv · cs.CL54

    DeepSeek V4.1 Flash-1017 独立安全评估:覆盖失控与有害操纵风险

    Yao Huang 等人对 DeepSeek V4.1 Flash-1017 发布独立安全评估,参照 EU 通用 AI 行为守则在 34 项基准上评测评估完整性、失控与有害操纵,并按 AEF-1 标准与 GPT-6 Astra、GPT-5.6 Sol、Gemini 3.8 Flash 对比。结果显示该模型相比 V4 代安全显著提升、多项维度接近闭源基线,但仍有值得关注的行为;作者建议将安全评测纳入增量发布、在推理轨迹与操作日志层面实现过程级可观测,并开发私有基准以应对评测感知与数据污染。

    推荐理由:独立第三方对 DeepSeek V4.1 Flash-1017 覆盖 34 项基准的安全评测,安全结论与三条部署建议都有具体依据。

10月23日周五
  1. arXiv · cs.AI47

    危害在于行为,审核止于词汇:语言与文化如何决定自动化安全系统保护谁、消音谁

    一篇 arXiv 论文提出,内容审核系统的过度拦截与保护不足同源于依据词汇表面形式而非信息功能判断危害,并归纳为七种失败模式。作者提出一套评估协议,在 11 种语言上测试五个开放系统,55 个系统-语言组合中有 51 个无法在母语者水平区分有害功能与无害形式;能力提升在九种语言中改善判别,但阿拉伯语和罗马化印地语仍接近随机,最受益与最不受益语言社区之间的差距随能力扩大。

10月9日周五
  1. GitHub · 灵魂体仓库61

    ExploitHunter.app 开源:AI 智能体安全研究工作台,实测廉价与本地模型可大幅降低扫描成本

    justsml 开源 ExploitHunter.app,一个本地优先的 AI 智能体安全研究工作台,支持授权台账、审批门、证据存档和本地 lab 运行时。实测中 qwen-3.6-flash 在 Hard Juice Shop 上找到 7 类有证据支撑的漏洞,单次成本 $0.007,而 Claude frontier 路线单次约 $2.00-$2.35;本地 LM Studio 路线(如 lmstudio-gemma-4-e4b)可以 $0 API 成本离线找到 7 类漏洞。作者主张的方案是指挥者模式:廉价或本地模型做广域侦察,frontier 模型只用于深度推理和验证。

    推荐理由:同一评测里给出各家模型的实测分数和成本对比,读者可以据此了解廉价模型与本地模型在安全扫描任务上如何分工路由。