國會對 AI 滅絕警告按兵不動
頂尖 AI 研究人員公開警告,他們自己開發的技術可能導致全人類滅亡,而國會卻毫無作為——對於期待監管護欄的人來說,這是個壞消息。
- 一名曾任職於 Anthropic 與 OpenAI 的研究人員辭職抗議,放棄自己的股權,並表示兩家公司都在競相打造能自我改進的超級智慧。
- Anthropic 的對齊(alignment)負責人聲援他,認為 AI 在這十年內消滅人類的機率超過 10%,並坦承目前還沒有任何防範計畫。
- 國會並未將此視為當務之急:民主黨領導階層甚至尚未決定是否要成立委員會來研究這個議題。
- 一個新成立的 AI 超級政治行動委員會(super PAC)挾 1.25 億美元資金登場,要懲罰推動監管的政治人物,完全複製加密貨幣產業的套路。
- 部分業內人士則懇求政府介入監督——超過一千名 AI 從業人員(包括 Anthropic 執行長)連署公開信,要求各國政府為這場競賽踩煞車。
展望:在金錢同時流向兩黨、且看不到任何法案的情況下,AI 發展在可預見的未來仍將處於無監管狀態。