打造出當今 AI 系統的內部人士紛紛離職，並警告這項技術可能在十年內滅絕人類——對於期待業界自律的人來說，這是壞消息。

• 一位前 OpenAI 研究員表示，各家公司正競相把所有事物的控制權交給 AI，包括軍事在內，而在此之前根本沒有人知道 AI 是否值得信任。
• 一位 Anthropic 研究員在辭職時表示，OpenAI 與 Anthropic 都沒有負起責任，兩家公司都在拿人命當賭注。
• Anthropic 自家的對齊主管認為，未來十年內 AI 導致全人類滅亡的機率超過 10%，並坦承目前沒有任何解決方案。
• 最核心的恐懼在於：AI 改寫並自我改進的速度快到人類無法跟上，使人類被排除在決策迴圈之外。
• 華府的走向卻恰恰相反：一個規模達 1.25 億美元的 AI 超級政治行動委員會（super PAC）正在推動一套聯邦framework，將使 38 州已通過的 AI 法規全數失效。

展望：預料內部人士的警告會愈來愈大聲，國會也會舉行聽證會，但只要美國仍把 AI 視為一場非贏不可的對中競賽，就不會有真正的防護機制。