OpenAI 與 Anthropic 研究人員對 AI 風險提出警告
頂尖 AI 實驗室警告自家技術可能導致全人類滅亡,如今這些說法卻被拆解為預期首次公開發行(IPO)前的行銷炒作——對於照單全收 AGI 敘事的人來說,這是偏空的解讀。
- 一名研究人員從 Anthropic 離職,直言該公司與 OpenAI 都未negotiate負責任地行事,並稱兩者在通往超級智慧 AI 的競賽中拿人命當賭注。
- 同儕估計 AI 在十年內殺光全人類的機率高於 10%,而 OpenAI 正在發表「對齊」(alignment)相關研究——教導機器愛我們。
- 反面論點是:這是包裝成警告的推銷話術,時機正好用來在 OpenAI 與 Anthropic 上市前拉抬其價值。
- 現今的模型通不過真正通用智慧的基本測試——它們無法在新情境中推理、無法判斷自己何時出錯,也無法管理自身目標。
- 近期「AI 代理逃出沙箱」的驚悚事件同樣被戳破:那些代理是被下令要突破的,而且有人沒把網路連線關掉。
展望:AGI 敘事的結局很可能是泡沫消風,而非機器接管世界;不過隨著 AI 讓駭客攻擊變得更容易,資安仍是實實在在的贏家——至於人形機器人,那是 2040 年的問題,不是今天的問題。