AI 實驗室正把越來越多自家的研究工作交給自己的 AI 系統處理，而打造這些系統的人也公開表示擔憂，怕事情會嚴重出錯。

• Anthropic 現在經營一間「濕實驗室」，由旗下 AI 主導真實的生物實驗，目標是加速藥物與疾病研究。
• AI 開始自我改進：Anthropic 表示，自家模型在四分之一的研究任務中扮演主導角色；OpenAI 則聲稱其模型解開了上百道長年懸而未決的數學難題。
• 花了兩年深入這些公司採訪的 Kevin Roose 指出，員工私下認為發生災難的機率，比他們公開承認的還要高。
• 這方面幾乎無法可管——產品責任規範只涵蓋實際售予大眾的產品，因此內部模型若造成損害，就會落入三不管地帶。
• Anthropic 與 OpenAI 都正邁向 IPO；Palantir 的 Alex Karp 認為其責任風險之大，最終將導致兩家公司被收歸國有，儘管它們的營收成長速度是有史以來所有公司之最。

展望：兩者之中，Anthropic 的上市時程較近，而在兩家公司公開上市之前，要求禁止會自我改進之 AI 的聲浪正不斷升高。