一名放棄 Anthropic 七位數薪酬方案而離職的研究員表示，自由市場將推動 AI 發展越過安全界線——這番警告是對政策制定者發出的，同時也是對正從中大舉獲利的各大實驗室的挑戰。

• 核心憂慮在於能夠自我改進的 AI：它會將 AI 研究這份工作自動化，從而引爆一場沒有任何公司能夠停下的競賽。
• 一旦發生這種情況，美國與中國將陷入全面的政府層級競賽，最頂尖的模型會從公眾視野中撤下、僅留在內部使用。
• 該歸咎的是競爭，而非貪婪：OpenAI 是出於對 DeepMind 的恐懼而創立，Anthropic 則是出於對 OpenAI 的恐懼，雙方都在追逐足以左右最終結果的力量。
• 隨著自動化擴散，預期將出現大規模白領失業，這也是為什麼五年職涯規劃被視為毫無意義。
• 這番警告並未伴隨任何基金、公司或產品的推出——只有一個判斷：決定性的選擇將在兩年內到來。

展望：放慢腳步的窗口被界定為未來這兩年，過了這段時間，這場競賽將再也無法停下。