特朗普对AI竞赛的判断错了吗?
特朗普对先进AI可能反噬人类的担忧不以为意,这对于任何认为该风险现在就值得认真对待的人来说都是坏消息。
- 被问及AI的最坏情形时,特朗普说"我们有护栏",而且总会有"某种东西能阻止它们",一边比划着一把枪和一个用来控制失控机器的"小齿轮"。
- 这种随意的回答正被视为AI安全的现状:没有真正的计划,只有一种"到时候自然会有办法"的自信。
- 反方观点认为,人类之所以总能找到解决办法,是因为有人及早注意到问题并构建了解决方案,而这项工作目前并没有以威胁所要求的规模展开。
- 那些正在构建最先进AI系统的人自己也在警告其中的危险,而且没有人知道如何安全地构建超级智能。
- 提出的答案很简单:在安全问题得到解决之前,任何人都不应该竞相追逐超级智能。
展望:随着越来越多的政府和专家开始将其视为灭绝级风险,预计放缓AI竞赛的压力将会增大,但白宫目前尚未走到这一步。