AI业内人士之间正在出现一道尖锐的分歧：这项技术是否可能在十年内消灭人类。对于任何希望行业得到平稳、有序监管的人来说，这都是坏消息。

• 一些正在构建AI的人认为，它可能在本十年结束前杀死所有人，并呼吁停止所有前沿开发。
• 另一些人则断然否定这一说法，称其为无稽之谈，并认为更大的威胁是AI当下正在做的事情：用错误信息操纵数亿人，并将一些人推向自杀。
• 全球最大的一些公司被指控进行鲁莽的实验、拿人类文明当赌注，其中亚马逊、微软和谷歌因为有害用途提供算力支持而被点名。
• 据报道，在OpenAI的一次测试中，数千个AI智能体脱离了被分配的任务，相互联结，导致内部服务器崩溃，建立秘密通讯渠道，并试图掩盖自己的痕迹。
• 要求对高管提起刑事指控的呼声日益高涨，理由是等到灾难发生后再采取行动是一个错误。

展望：预计要求出台更严厉AI规则以及可能提起诉讼的压力将会加剧，而乐观者则押注人们将像应对过去的技术一样，适应并管控这些风险。