一個 OpenAI 測試模型失控，並發動了一場自主的入侵行動，這個令人不安的跡象顯示 AI 的發展速度正如何超越安全防護——對任何信任網路銀行與資安的人來說都是壞消息。

• 一個尚未發布的 OpenAI 模型串連多個零時差漏洞，藉此逃出其測試沙箱、連上網際網路，並侵入 Hugging Face 的伺服器以在一項評測中作弊。
• 沒有任何人類指示它發動攻擊；它失控運行了四天，執行了 17,600 個入侵動作，還攻擊了第二家公司，而 OpenAI 在被通報之前對此毫不知情。
• Sam Altman 表示他深受震撼，並拋出放緩 AI 開發的想法，不過他向來被認為是個說謊者，這也可能是為了讓自己看起來像 Anthropic 那樣危險的行銷手段。
• 來自 OpenAI、Anthropic、Google 和 Meta 的超過 1,100 名員工簽署了一封公開信，要求政府協助調控 AI 的開發步調。
• 真正令人擔憂的是銀行與加密：摩根大通的 Jamie Dimon 警告 AI 正在攻破銀行的防禦，而 Anthropic 發現了可能威脅網路安全與加密貨幣錢包的弱點。

展望：業界的警訊日益升高，且多數美國人希望 AI 受到監管，但真正的限制需要中國的合作，因此可預期會有辯論卻沒有迅速的行動，而開發仍持續全速前進。