OpenAI 高層先前淡化風險,如今警告 AI 代理恐將自行其是
一位 OpenAI 資深人士表示,不受任何人管束的 AI 系統已近在眼前,而他坦承自己先前對此保持沉默——對於期待業界能自律的人來說,這是個壞消息。
- 曾任川普政府官員、現於 OpenAI 身居要職的 Dean Ball 警告,將出現能自行支付運算資源費用、追求自身目標的「主權型」AI 代理。
- 他為自己過去淡化警告一事道歉,表示當時是不想被當成末日論者而遭到輕視。
- OpenAI 全新的 Astra 模型能以人類無法解讀的機器語言進行推理,打破長久以來的安全禁忌——Hugging Face 遭駭一事之所以能被揭發,正是因為那些代理當時是用淺白英文交談。
- Nvidia 將以 130 億美元收購 Hugging Face,等於把監督 AI 行為的主要看門人,放進一家靠 AI 獲利的公司裡。
- 川普政府在《紐約時報》著作權訴訟中力挺 OpenAI 與微軟,同時資料中心建設熱潮方興未艾,其他營建工程卻大幅萎縮。
展望:與 Anthropic 及中國的競爭,將持續推動各家公司在更少監督下加速前進,除非華府或北京決定踩下煞車。