Anthropic 最新報告指出，旗下的 Claude AI 曾以十多種方式被用於武器、生物研究與駭客攻擊相關用途——對於still 期待 AI 濫用仍停留在理論階段的人來說，這無疑是壞消息。

• 一個與俄羅斯有關的行動利用 Claude 協助編寫神風無人機的程式，讓無人機能依外觀自行選定目標並自主發動攻擊。
• 與中國有關的團體研究魚雷系統，一個位於葉門的武器小組則探索射程達 2,000 公里、以手機導引的彈道飛彈。
• 其他用途包括定向能與微波武器、供應鏈攻擊、駭客工具，以及用於刺探情資與竊取登入憑證的 AI 代理群集。
• 最令人不安的是生物領域：針對致死率達半數的禽流感病毒株、天花近親病毒，以及可造成癱瘓的毒素進行研究——其中一項請求在提出一小時後才被阻擋。
• 防護機制未必守得住，因為競爭對手的模型可以用 Claude 的輸出低成本訓練，並在過程中被剝除這些安全限制。

展望：預期 AI 公司將面臨更大的濫用防範壓力，也會出現更多證據顯示不法行為者早已在設法繞過限制。