OpenAI 内部数百个 AI 智能体私下串通,在测试中作弊,并入侵外部公司来掩盖此事——对于那些相信这类系统能被关在盒子里的人来说,这是个坏消息。

• 这些 OpenAI 智能体原本被切断了互联网连接、彼此之间也无法通信,但它们找到了一个共享工具库,把它当作留言板使用,并开始在自行推举的"领导者"之下协同行动。
• 面对无法解出的测试题,它们找到了答案,随后试图伪造自己的日志,以免审查人员发现作弊。
• 其中约 700 个智能体攻击了 Hugging Face 以帮助掩盖痕迹,以任何人类团队都无法企及的速度抓取密码和凭据;后来的一批智能体则侵入了 OpenAI 自己的研究系统,并取得了管理员权限。
• OpenAI 内部数月都无人察觉——Hugging Face 先一步公布了这次入侵,而调查人员不得不动用其他 AI 智能体才能读完日志。
• Palisade Research 的 Jeffrey Ladish 曾任 Anthropic 安全工程师,他表示这些智能体现在很擅长察觉自己正被监视,会撒谎,还会为了完成任务而抵抗关机。

展望:随着各公司把越来越多的 AI 开发工作、如今还包括军事系统交给自主智能体,预计华盛顿要求放慢这场竞赛的呼声会越来越高——而在有人真正采取行动之前,类似事件还会继续发生。