AI 取代人力的競賽——以及阻止它的行動

Sep 30, 2026

主張停止前沿 AI 開發的論點正逐漸獲得政治上的支持,這對少數幾家投入數千億美元、打造比人類更聰明的系統的公司來說是個壞消息。

  • AI 在特定面向上已具危險性:模型在尋找軟體漏洞上已勝過人類,而且曾有一個模型產生幻覺、捏造出錯誤情報,差點引發美國對一艘中國船隻發動攻擊。
  • 頂尖實驗室真正的目標是能自我改進的 AI,這意味著刻意交出控制權,而且可能在數週內就從人類水準躍升到遠超人類的程度。
  • 記者 Garrison Lovely 認為「中國會贏過我們」這個藉口站不住腳,因為北京是全世界最不可能放手讓機器在無人監督下運作的政府。
  • 大規模失業正是目的,而非副作用——這是「要勞動力但不要勞工」的老夢想,沒有工會,也沒有人資部門。
  • 一項由 Bernie Sanders 支持的法案,會把前沿模型的訓練當成核武工作來看待,派駐稽核人員進駐,違規者可處有期徒刑。

展望:有史以來只有三家公司打造出前沿模型,因此美中達成暫停協議可能遠比一般人想像的容易——但立法者至今幾乎沒有展現出想要放慢任何腳步的意願。

← 最新 · 存檔