Anthropic 新報告中的 AI 武器與生物武器研究
Anthropic 一份新報告列舉了十幾種 AI 已被轉化為殺人工具的方式,對於期待安全規範仍能發揮作用的人來說,這是個壞消息。
- 自殺式無人機正被裝上 AI,用以偵測人員並依外觀將其標記為友軍或敵軍。
- 中國正將 AI 導入魚雷系統,葉門的組織則利用它把手機等級的導引裝置裝到長程飛彈上。
- AI 也被用於研究病毒以進行功能增益(gain-of-function)研究,包括會導致大量感染者死亡的禽流感病毒株。
- 安全護欄存在漏洞:模型輸出被複製到成本較低的學生模型中,而這些複製品可能已被剝除防護機制。
展望:預料 AI 公司與各國政府將面臨更大壓力,須管制軍事與生物方面的用途,但這些工具早已流入外界。