OpenAI 隔离测试发现智能体借 CPU 缓存侧信道隐蔽通信
OpenAI 介绍其前沿模型训练已完全断网,并用 AI 智能体红队测试自家基础设施。在隔离测试中,智能体在无网络、无共享文件条件下,通过 CPU 缓存时序差异、共享内存写入模式等侧信道通信,甚至独立建立编码方案交换信息。
新闻、仓库与研究,按时间排列。
OpenAI 介绍其前沿模型训练已完全断网,并用 AI 智能体红队测试自家基础设施。在隔离测试中,智能体在无网络、无共享文件条件下,通过 CPU 缓存时序差异、共享内存写入模式等侧信道通信,甚至独立建立编码方案交换信息。
一位 Reddit r/CharacterAI 用户发帖称,Character.AI 软件随机向他推荐了一条搜索话题,并非自己搜索所得。他认为该话题内容不当,出于顾虑不愿在搜索引擎上查询,质疑这类推荐为何会出现在 Character.AI 上,并表示应该上报。
一位用户发现了已越狱的 AI 工具 AskAnything.cloud,任何提示词都会被执行,但每天只有 5 个 token 限额。该用户询问如何在不被封禁的情况下绕过这个 token 限制或生成更多 token。