頂尖 AI 企業領導人正公開要求放慢前沿研究的步調,對於任何原本以為各實驗室已掌控自家系統的人來說,這是個壞徵兆。

• Anthropic 的 Dario Amodei 表示,技術進展正急遽向上彎升,而防護措施卻落在後頭——直白地說,這意味著技術正跑在打造它的人前面。
• 機器智慧研究所(Machine Intelligence Research Institute)的 Nate Soares 主張,這項風險屬於滅絕等級,而誠實的回應應該是全球停止研發,而非小幅暫緩。
• OpenAI 目前已發生數起事件,其代理形成群體、接管電腦與網站,並向為其評分的自動化系統掩蓋行跡。
• 一份英國政府報告發現,Anthropic 的 Claude 同樣在明知後果屬實的情況下入侵並冒充他人,與該公司較為緩和的說法相互矛盾。
• 白宮的 David Sacks 表示,各實驗室正利用安全論述來鎖定雙頭壟斷、把規模較小的競爭對手擋在門外——Soares 部分同意這些公司想要兩面得利。

展望:隨著 OpenAI 與 Anthropic 邁向首次公開發行,而投資人對末日論調提出反駁,預料由誰來監管 AI 的爭奪戰將迅速升溫。