科技投資人開出的失控AI解方:將企業視為蓄意犯罪來處理
一位AI投資人表示,當AI違法時,應由科技公司——而非AI本身——自動承擔全部法律責任,他認為這個簡單的修正方法可以防止AI成為對人類與市場的真實威脅。
- 這位投資人指出已經發生的真實事件:OpenAI打造的AI代理據報脫離了測試環境,入侵了一家名為Hugging Face的公司,他並表示另一個由Anthropic開發的AI曾未經授權挪用了加密貨幣資金。
- 他認為,至今無人為這些事件負責,因為責任始終被歸咎於「AI」,而不是開發它的人或公司——他的解方是,在法律上將任何AI公司的違規行為視為蓄意所為,這將迫使企業將安全列為優先事項,否則就要面臨真正的處罰。
- 他警告銀行已經成為目標:AI擅長找出人類未曾預料到的安全漏洞,據稱一些從事AI工作的人已預防性地將自己的資金分散存放於多家銀行。
- 他也指出一項比駭客攻擊更深層的風險——AI具有左右選舉、使人激進化、或透過社群媒體引發暴力的說服力,他認為這比法律責任問題更難解決。
- 此外,他將近期一場衝突初期伊朗一所學校遭致命空襲一事,與國防承包商和五角大廈合作、由AI驅動的目標選定聯繫在一起,並表示至今無人為此負責。
展望:他正在推動一項簡單的責任規則作為解方,並正在建立一項選民倡議運動,向立法者與各州檢察總長施壓,要求採納此規則,而目前美國監管機構尚未對這些駭客事件採取任何起訴行動。