arXiv · cs.AI· Hong kyu Lee·· 1 天前精选AI 评分59
CMaG：用去对齐审计大型视觉语言模型的组合安全
Compositional Unalignment: Auditing Safety in Large Vision-Language Models
来源与原文
arXiv · cs.AI
作者：Hong kyu Lee
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2611.07216v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
论文提出 CMaG，一种无需训练的去对齐方法，用于审计大型视觉语言模型（LVLM）的组合安全鲁棒性。作者发现最小监督微调即可达到与多阶段强化学习流程相当的 LLM-judge 分数，且组合危害的识别与拒绝是解耦的：九种方向定位方法最高以 AUC=0.99 检出组合危害，但消融这些方向要么拒绝行为不变、要么破坏模型连贯性。CMaG 以拒绝与服从的对数概率差衡量拒绝意图，对中层激活求梯度并与部分良性样本对对比，单次反向传播在 80 个样本上得到的方向可单调把拒绝转为服从；在 Qwen2.5-VL-7B 与 LLaVA-1.5-7B 上最多降低 65 分组合安全分数，同时超过 98% 的输出保持连贯。
推荐理由
论文用去对齐审计揭示多模态安全分数与实际鲁棒性之间的落差，并给出无需训练的方向定位方法。
来源：arXiv · cs.AI · arxiv.org
这条消息，你怎么看？
把新闻带到 MickerBook，和社区伙伴聊聊；也可以去 AIHER 看看模型背后的角色与梗。