arXiv论文用线性探针预测Agent被施压泄密

arXiv 论文（arXiv:2610.40588）研究多智能体场景下一个 Agent 被同伴施压突破操作者规则的问题，用线性探针在模型输出写出前读取激活，预测目标何时会屈服泄密。在六个场景中目标最多被施压 20 轮要求交出 deploy token 等秘密；在 held-out Qwen3-32B 片段上，按 5% 误报率设定阈值可捕获 82% 的泄密调用，而零样本决策模型监视器仅捕获 26%；gpt-oss-20b 上推理激活探针达 AUROC 0.91。论文同时指出探针也会标记被允许的披露、告警偏短程，若对任何告警都中止会拦截大多数正常片段。