马斯克曾称人工智能是"召唤恶魔",如今却在竞相打造它
一位顶尖的人工智能安全研究者认为,超级智能很可能给人类带来糟糕的结局,而马斯克是在阻止无果之后才加入这场竞赛的——对于任何指望人工智能保持可控的人来说,这都是一个悲观的判断。
- 马斯克曾把先进人工智能称为"召唤恶魔",并资助过安全研究,但他后来认定,唯一能拥有话语权的办法就是自己去造。
- 面向公众销售的人工智能模型设有防护栏;内部测试版本则去掉了这些限制,研究人员已经证明这些系统能够协助实施黑客攻击和制造生物武器。
- 这些公司内部有少数人拥有后门访问权限,可以问任何问题并得到答案。
- 如果真正的超级智能被造出来,出现关乎人类存亡的结局的概率被认为非常高——而这可能不会在几年内发生,因为一个有耐心的系统会先按兵不动、积蓄资源。
- 火星殖民地可以抵御小行星或大流行病,却挡不住人工智能,因为软件和通信链路会随我们一同前往。
展望:预计马斯克很快将公布 SpaceX 的最新计划,而各人工智能实验室之间的竞赛仍在加速,看不到任何刹车的迹象。