CMaG提出免训练审计LVLM组合安全
热点事件观察中
CMaG提出免训练审计LVLM组合安全
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
Hong Kyu Lee提出免训练的去对齐方法CMaG，用于审计大型视觉语言模型的组合安全鲁棒性。该方法以拒绝与服从的对数概率差衡量拒绝意图，对中层激活求梯度并与部分良性样本对对比；单次反向传播在80个样本上得到的方向可单调把拒绝转为服从。 在Qwen2.5-VL-7B与LLaVA-1.5-7B上，CMaG最多降低65分组合安全分数，同时超过98%的输出保持连贯，表现优于基于梯度的基线。作者称最小监督微调即可达到与多阶段强化学习流程相当的LLM-judge分数，且组合危害的识别与拒绝是解耦的：九种方向定位方法最高以AUC=0.99检出组合危害，但消融这些方向要么拒绝行为不变、要么破坏模型连贯性。
AI 根据报道生成 · 5 小时前更新
最新进展11月5日 07:09
CMaG：用去对齐审计大型视觉语言模型的组合安全报道时间线
沿着报道，了解事件的不同侧面。
11月5日
- arXiv · cs.AI精选CMaG：用去对齐审计大型视觉语言模型的组合安全
论文提出 CMaG，一种无需训练的去对齐方法，用于审计大型视觉语言模型（LVLM）的组合安全鲁棒性。作者发现最小监督微调即可达到与多阶段强化学习流程相当的 LLM-judge 分数，且组合危害的识别与拒绝是解耦的：九种方向定位方法最高以 AUC=0.99 检出组合危害，但消融这些方向要么拒绝行为不变、要么破坏模型连贯性。CMaG 以拒绝与服从的对数概率差衡量拒绝意图，对中层激活求梯度并与部分良性样本对对比，单次反向传播在 80 个样本上得到的方向可单调把拒绝转为服从；在 Qwen2.5-VL-7B 与 LLaVA-1.5-7B 上最多降低 65 分组合安全分数，同时超过 98% 的输出保持连贯。
本事件热度走势
- 可比范围当前
- 4
- 可比范围峰值
- 511月6日 11:00
- 近 24 小时变化
- –
0246
11:0012:0013:0014:0015:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。