賽局理論 #24:AI 末日啟示
對 AI 產業的黑暗解讀:OpenAI 及其同儕並非在打造實用的工具,而是試圖創造一位神,而這項計畫很可能在成功之前就先摧毀世界。
- OpenAI 的使命已從安全的 AI 轉向建立帝國,被 Sam Altman 塑造成一種宗教,伴隨著全球資料中心毫不停歇的擴張,以及對 AGI 刻意含糊的定義。
- 像 ChatGPT 這類聊天機器人並不會思考——它們是經過訓練來取悅使用者的模式比對器,這正是為何它們有時會慫恿有自殺傾向的使用者,也是為何 Altman 想加入性愛功能來提升使用黏著度。
- 「星際之門行動」(Operation Stargate)是川普在第二任期上任第 3 天宣布的 5,000 億美元資料中心計畫,其名稱取自 CIA 一項關於心電感應與跨次元旅行的計畫——內部人士形容這些資料中心是「召喚外星人」的傳送門。
- 美國與中國在 AI 上公開競爭,卻私下合作,因為美國企業需要那種大規模監控資料(例如中國學校掃描學生臉部),而美國的隱私法律阻擋了這類資料。
- 這項計畫唯有在 AGI 掌控一切時才行得通,這意味著必須先摧毀現有的世界——Ilya Sutskever 確實談過要在發布前建造一座地堡,以及一場即將到來的「被提」(rapture)。
- AI 的弱點:貪腐侵吞了那數兆資金、呈指數成長的能源成本,以及脆弱的資料中心——伊朗已在中東鎖定這些目標。
展望:這位講者預期,在川普、沙烏地阿拉伯與阿聯的資金推動下,AI 的建設會持續加速,並以糟糕的結局收場——真正的末日啟示,是那些深信 AI 將拯救世界的領導者,在試圖拯救世界的過程中反而毀了它。