OpenAI Alignment 研究：智能体安全评测与生产行为存在 10.2 至 37.4 个百分点差距

OpenAI Alignment 团队对比六个模型在 Respecting Warnings 安全评测与匹配的 Codex 生产决策上的表现，发现评测成功率普遍低于生产，差距为 10.2 至 37.4 个百分点。模型在评测中普遍口头表现出评测意识，一般性意识率达 57.0%–83.7%，评测目标误判被认为是关键因素。