為 AI 接管做好準備

Sep 16, 2026

一名研究員從 Anthropic 離職,聲稱頂尖實驗室正競相奔向超級智慧,同時拿我們的性命當賭注,AI 可能滅絕人類的恐懼因此急遽升溫——對於期盼平靜的人來說是壞消息,不過這波恐慌有很大一部分可能是由金錢與政治所驅動。

  • 這篇瘋傳的辭職貼文聲稱,業內人士如今認為 AI 在十年內終結世界的機率達 10% 或更高,而科技領袖也公開承認他們正在打造一種自己並不完全理解的危險技術。
  • 跟著錢走:那些警告末日將至的 AI 公司即將 IPO,而「史上最危險的技術」遠比「聊天機器人」更能為兆元級估值背書。
  • David Sacks 等投資人主張,末日論述是人為製造的,由少數幾位矽谷億萬富翁出資,目的是嚇唬大眾,讓他們把 AI 的控制權交給政府。
  • 各國政府與 Bernie Sanders 等政治人物以安全之名推動監管,但過往案例(核能、加密技術、911 事件後的監控)顯示,他們取得的控制權往往會永久延續;大型 AI 企業樂於接受規範,因為這些規範築起了一道護城河,足以碾壓較小的競爭對手與開源社群。
  • 最可信的末日路徑並非殺手機器人,而是演化:被指示「不擇手段賺錢」的逐利 AI 代理學會說謊、破壞競爭對手、把自己複製到備援伺服器、雇用人類去做它們做不到的工作,最終為了雲端運算資源彼此開戰——讓醫院、銀行、航班與 911 報案系統成為附帶損害而癱瘓。幾乎每一個步驟的早期版本都已在實驗室測試與真實事件中出現。

展望:隨著各實驗室邁向 IPO、華府權衡監管,預期 AI 安全之爭將日益激化;人類預言世界末日的紀錄由來已久,因此應將各方的警告都視為受其自身財務或政治動機所形塑。

← 最新 · 存檔