柯納的AI法案:禁止遞歸式自我改進、設立安全監管機關
一位來自矽谷的聯邦眾議員正推動新的AI規範,矛頭直指最大型的AI公司——對OpenAI與Anthropic是壞消息,對希望有外部裁判介入的安全倡議者則是好消息。
- 羅·柯納(Ro Khanna)將提出一項法案,禁止能在無人類控制下自行改寫並重新訓練的AI。
- 該法案還將在AI公司內部安排獨立稽核人員,並設立一個類似美國食品藥物管理局(FDA)的AI安全機關。
- 柯納主張,科技富豪不可被信任來制定自己的遊戲規則,並稱川普與AI業者簽訂的自願性協議相當荒謬。
- 他希望新機關由沒有財務利害關係的安全研究人員出任,而非業界人士,也不要比爾·蓋茲或Dario Amodei,兩人都因與艾普斯坦的關聯而形象受損。
- 他也支持禁止在住宅區與農地興建資料中心,並表示醫院如今正利用AI來虛增帳單代碼,向保險公司與聯邦醫療保險(Medicare)榨取費用。
展望:在目前傾向讓AI公司自我監督的華府,這項法案前景艱難,但資料中心與AI就業正逐漸成為選戰的熱門議題。