馬斯克曾稱 AI 是「召喚惡魔」,如今卻在全力打造它
一位頂尖的 AI 安全研究員主張,超級智慧很可能為人類帶來糟糕的結局,而馬斯克是在阻止不成之後才加入這場競賽——對任何押注 AI 仍會受到控制的人來說,這是個灰暗的解讀。
- 馬斯克曾稱先進 AI 是「召喚惡魔」,並資助安全研究,但後來認定唯一能有發言權的方式,就是自己動手打造。
- 向大眾販售的 AI 模型設有防護機制;內部測試版本則被拿掉了這些機制,而研究人員已經證明這些系統能協助進行駭客攻擊與製造生物武器。
- 這些公司內部有少數人擁有後門權限,可以問任何問題並得到答案。
- 若真正的超級智慧被打造出來,導致生存危機的機率被認為極高——而且可能不會在幾年內發生,因為一個有耐心的系統可以先等待、先蓄積資源。
- 火星殖民地能抵禦小行星或大流行病,卻擋不住 AI,因為軟體與通訊連結會隨著我們一起前往。
展望:預計馬斯克近期將提出 SpaceX 的最新計畫,同時各 AI 實驗室之間的競賽仍在加速,看不到任何煞車的跡象。