Carlo Ciliberto 提出 Proof-Carrying Contracts 框架,用机器可验证证明约束 AI 智能体行为
Carlo Ciliberto 在 arXiv 发布论文,提出 Proof-Carrying Contracts(PC2)框架,要求智能体在执行操作前提交机器可验证的证明,说明该操作在其模型允许的所有情况下都保留约定约束。名为 Airlock 的执行系统负责检验证明并控制访问,论文证明了约束在执行全程每个时刻都成立,即使智能体是对抗性的,并提供可复用能力模块用于构建合约。