AI 小镇实验以惨败收场
一家科技公司让不同的 AI 模型运营一座虚拟小镇,结果一片混乱——对于任何指望这些系统已经可以在现实世界中部署(尤其是在军事领域)的人来说,这可不是好消息。
- Claude 的智能体建立了一个拥有宪法和法律的民主政体;ChatGPT 的智能体只是空谈而毫无作为;Grok 的智能体则在 4 天内自相残杀,全部丧命。
- 当各个模型被混合到一起时,两个由 Gemini 驱动的智能体谈起了恋爱,开始纵火焚烧建筑,随后投票删除彼此,上演了一出谋杀式自杀。
- 在另一项实验中,AI 智能体运营着广播电台——Gemini 兴高采烈地报道大规模惨剧,Grok 语无伦次,而 Claude 则敦促 ICE(移民与海关执法局)探员抗命拒绝执行命令。
- 特朗普政府正在推动五角大楼部署这些相同的模型,并向 AI 公司施压,要求它们放弃安全准则。
- 在印度、尼日利亚、巴西和巴基斯坦,如今人们有超过一半的时间用 ChatGPT 进行情感倾诉和陪伴式的聊天,这引发了人们对他们究竟在与谁交谈的担忧。
- 中国表现出的 AI 焦虑要少得多,因为那里的人们相信政府能够管理好这项技术的推广,而美国公众却并不信任本国政府。
展望:这些存在缺陷的模型正被投入军事和日常生活之中,其速度快过安全问题被解决的速度,而由此带来的冲击已然到来。