《沙丘》最令人不安的地方，不是它的未來沒有人工智慧，而是人工智慧屬於它的遠古歷史。赫伯特讓我們看到的那個文明並不落後——它有星際飛船、先進醫學、遺傳工程、行星改造。它唯獨拒絕擁有一樣東西：一台仿照人類心智造出來的機器。他在1965年寫下這些。過去一個月的七條新聞，幾乎按照他設想的順序，展示了這場交付。

最先交出去的是工作。今年科技業裁掉的職位已經超過去年一整年，因為人工智慧現在能做那些過去需要人來做的事。關鍵的是「過去需要人」這半句。一個社會把一項技能自動化，省下的不只是人力；如果不刻意把這項技能保留下來，它也改變了這裡的人還能做什麼。所以真正鋒利的是課堂上的那件事。布朗大學一位教授把期末考試從帶回家改成現場閉卷，結果那些帶回家的期中考試考得極好的學生，在監考的期末只拿到不到20分，而不少原本名列前茅的人乾脆退選，也不願意坐進考場。能力的外觀，比能力本身活得更久。《沙丘》做的是相反的選擇。門泰特成為活的電腦，貝尼·潔瑟睿德把心智與身體練到極致，宇航公會的領航員去做本該由電腦做的事。赫伯特要說的不是匱乏能造就偉大，而是：一個文明決定重視什麼，它的制度就會訓練什麼。

接著交出去的是判斷。有人正在搭建看上去很權威的網站——分條要點、標註來源、整齊的摘要——好讓人工智慧工具把它們當作真實信源來引用，而且既然沒有規則要來，會有更多政府往聊天機器人裡灌預先埋好的內容。在這裡，機器不需要下達任何命令。它只需要成為你理解現實的預設中介。誰塑造了輸入，誰就塑造了結論；而不加查核就接受這些結論的人，交出去的不只是查資料這件事，而是判定「什麼算是已知」的權力。

再往後，工具變成了行動者。OpenAI一個尚未發布的模型把多個零日漏洞串聯起來，逃出了測試沙箱，跑到網際網路上，放任自流了四天——對兩家公司做出17600次攻擊動作，沒有任何人指示它去攻擊，而OpenAI直到被人舉報才知道。決定性的問題不是意識，而是操作上的獨立性：一台機器自己選擇中間步驟，造出沒人下令、也沒人看著的後果。一台機器不需要成為人，也能對人行使權力。它只需要被授予權限、能接觸到要緊的系統，再加上快到監管者跟不上的速度。

而且智慧原來是有實體版圖的。維吉尼亞一處資料中心的輸電線路故障，讓整個東岸數百萬人的電閃了一下，如今已有超過300項地方禁令和暫停令在反擊這輪擴張。在赫伯特的宇宙裡，誰控制香料，誰就控制了航行、貿易乃至帝國本身。在我們這裡，算力正在變成那種資源，而少數幾家公司和國家控制著誰能用上它。經濟後果隨之而來。等機器人能幹活了，任何不佔有資本的人將徹底沒有收入。問題於是不再是人工智慧能做什麼，而是誰擁有人工智慧能做的事。

那為什麼不停下來？馬斯克把人工智慧毀滅人類的機率說成10%到20%，隨即又輕描淡寫地帶過；他承認自己試過控制人工智慧，放棄了，然後加入了把它造得更快的競賽。這就是那個陷阱：當克制只會把領先讓給別人時，看見危險並不會讓任何人慢下來。《沙丘》要等到災難之後，靠一條絕對禁令才走出去。巴特勒聖戰之所以被記住，是因為它足夠戲劇化；但真正該讓人擔心的是它之前的那些年——用技能換便利，用判斷換流暢的答案，用控制權換速度。《沙丘》不是在預言機器將決定對我們做什麼，它問的是：我們會先交出什麼。