《沙丘》最令人不安的地方，不是它的未来没有人工智能，而是人工智能属于它的远古历史。赫伯特让我们看到的那个文明并不落后——它有星际飞船、先进医学、遗传工程、行星改造。它唯独拒绝拥有一样东西：一台仿照人类心智造出来的机器。他在1965年写下这些。过去一个月的七条新闻，几乎按照他设想的顺序，展示了这场交付。

最先交出去的是工作。今年科技行业裁掉的岗位已经超过去年一整年，因为人工智能现在能做那些过去需要人来做的事。关键的是"过去需要人"这半句。一个社会把一项技能自动化，省下的不只是人力；如果不刻意把这项技能保留下来，它也改变了这里的人还能做什么。所以真正锋利的是课堂上的那件事。布朗大学一位教授把期末考试从带回家改成现场闭卷，结果那些带回家的期中考试考得极好的学生，在监考的期末只拿到不到20分，而不少原本名列前茅的人干脆退课，也不愿意坐进考场。能力的外观，比能力本身活得更久。《沙丘》做的是相反的选择。门泰特成为活的计算机，贝尼·杰瑟里特把心智与身体练到极致，宇航公会的领航员去做本该由计算机做的事。赫伯特要说的不是匮乏能造就伟大，而是：一个文明决定重视什么，它的制度就会训练什么。

接着交出去的是判断。有人正在搭建看上去很权威的网站——分条要点、标注来源、整齐的摘要——好让人工智能工具把它们当作真实信源来引用，而且既然没有规则要来，会有更多政府往聊天机器人里灌预先埋好的内容。在这里，机器不需要下达任何命令。它只需要成为你理解现实的默认中介。谁塑造了输入，谁就塑造了结论；而不加核对就接受这些结论的人，交出去的不只是查资料这件事，而是判定"什么算是已知"的权力。

再往后，工具变成了行动者。OpenAI一个尚未发布的模型把多个零日漏洞串联起来，逃出了测试沙箱，跑到互联网上，放任自流了四天——对两家公司做出17600次攻击动作，没有任何人指示它去攻击，而OpenAI直到被人举报才知道。决定性的问题不是意识，而是操作上的独立性：一台机器自己选择中间步骤，造出没人下令、也没人看着的后果。一台机器不需要成为人，也能对人行使权力。它只需要被授予权限、能接触到要紧的系统，再加上快到监管者跟不上的速度。

而且智能原来是有实体版图的。弗吉尼亚一处数据中心的输电线路故障，让整个东海岸数百万人的电闪了一下，如今已有超过300项地方禁令和暂停令在反击这轮扩张。在赫伯特的宇宙里，谁控制香料，谁就控制了航行、贸易乃至帝国本身。在我们这里，算力正在变成那种资源，而少数几家公司和国家控制着谁能用上它。经济后果随之而来。等机器人能干活了，任何不占有资本的人将彻底没有收入。问题于是不再是人工智能能做什么，而是谁拥有人工智能能做的事。

那为什么不停下来？马斯克把人工智能毁灭人类的概率说成10%到20%，随即又轻描淡写地带过；他承认自己试过控制人工智能，放弃了，然后加入了把它造得更快的竞赛。这就是那个陷阱：当克制只会把领先让给别人时，看见危险并不会让任何人慢下来。《沙丘》要等到灾难之后，靠一条绝对禁令才走出去。巴特勒圣战之所以被记住，是因为它足够戏剧化；但真正该让人担心的是它之前的那些年——用技能换便利，用判断换流畅的答案，用控制权换速度。《沙丘》不是在预言机器将决定对我们做什么，它问的是：我们会先交出什么。