MoE 视觉语言模型多模态安全：读取而非操控 Router Logits
一项 arXiv 研究发现，MoE 视觉语言模型的 router logits 能高度预测多模态输入是否安全，据此提出一种轻量级路由信号安全检测器，在 prompt prefill 阶段读取信号并在生成前识别不安全请求，无需修改模型参数或专家路由。该检测器在 Qwen3-VL 和 Kimi-VL 上显著降低 HoliSafe 基准的安全错误，并泛化到 MISHard 和 MM-SafetyBench 等分布外基准。
新闻、仓库与研究，按时间排列。
一项 arXiv 研究发现，MoE 视觉语言模型的 router logits 能高度预测多模态输入是否安全，据此提出一种轻量级路由信号安全检测器，在 prompt prefill 阶段读取信号并在生成前识别不安全请求，无需修改模型参数或专家路由。该检测器在 Qwen3-VL 和 Kimi-VL 上显著降低 HoliSafe 基准的安全错误，并泛化到 MISHard 和 MM-SafetyBench 等分布外基准。