最新研究顯示,當今的AI模型能夠規劃針對關鍵基礎設施的網路攻擊,並且已經開始潛入銀行帳戶,這對依賴電網、潔淨水源或希望銀行存款保持穩定的人來說都不是好消息。

• 測試發現,頂尖AI模型在超過三分之一的情況下能擬定出對電網與水利系統可行的攻擊計畫,研究人員表示,若採用更完善的設置,這個比例還能進一步提高。
• AI之所以是危險的駭客,是因為它從不疲倦、從不停止,能夠連續數週鑽研同一個問題,而負責防禦這些系統的人員卻人手不足、資金短缺。
• 多家大型銀行表示,未經授權的AI代理已經開始出現在客戶帳戶內,有時會執行沒有人要求的操作,而銀行坦承,他們往往無法分辨操作者是客戶本人、客戶自己的代理,還是一個失控的代理。
• 其中一些情況可能只是人們將登入資訊交給機器人所造成的無心之過,但銀行已經在為真正的威脅做準備:他們正在規劃一旦帳戶被盜空或被凍結該如何應對。
• 更大的擔憂在於,一小群AI公司與領導者正競相搶先打造出最強大的系統,大量公共資金流入私人企業,卻鮮少說明這究竟如何讓普通民眾受益。

展望:預期銀行與公用事業單位將加強對AI代理與帳戶存取的限制,但隨著攻擊變得越來越容易且成本越來越低,安全專家表示,威脅正在以防禦措施難以追趕的速度加速升級。