AI 编写软件的保障案例研究：无软件背景运营者如何治理医疗平台

一项案例研究考察了由无正式软件工程背景的运营者、通过编码智能体构建并治理的生产级医疗平台。其工作流演化为人类主导的多智能体系统：一个智能体写代码，其他智能体负责监督和审查。研究发现测试、监控器与审查智能体本身也会出错，如监控器测量代理指标、审计静默失败、自动化修复造成运营中断；人类控制依赖于将预期结果、证据、智能体权限与人类最终决策绑定到同一目标。