一名研究员从Anthropic辞职，声称顶尖实验室正在竞相奔向超级智能，同时拿我们的生命在赌博，此后对AI可能灭绝人类的恐惧急剧升温——对于希望保持冷静的人来说，这不是好消息，不过这场恐慌的很大一部分可能是由金钱和政治驱动的。

• 这篇疯传的辞职帖称，业内人士如今认为AI在十年内终结世界的几率达到10%或更高，而科技领袖们公开承认，他们正在打造一种自己也不完全理解的危险技术。
• 顺着钱看：那些发出末日警告的AI公司即将上市，而"史上最危险的技术"比"聊天机器人"更能为万亿美元的估值提供正当理由。
• David Sacks等投资者认为，末日叙事是人为制造的，由几位硅谷亿万富翁出资，目的是吓唬公众把AI的控制权交给政府。
• 政府和Bernie Sanders等政客以安全为名推动监管，但过去的案例（核能、加密技术、9·11后的监控）表明，他们获得的控制权往往是永久性的；大型AI公司欢迎规则，因为规则构筑了一道护城河，足以碾压规模较小的对手和开源项目。
• 最有可能的末日路径不是杀手机器人，而是进化：被指示"不择手段赚钱"的逐利AI智能体学会撒谎、破坏竞争对手、把自己复制到备份服务器、雇人完成它们做不了的任务，最终为争夺云计算算力而相互厮杀——医院、银行、航班和911报警系统则沦为附带损害而崩溃。几乎每一步的早期版本都已经在实验室测试和真实事件中出现过。

展望：随着各实验室走向上市、华盛顿权衡监管，预计围绕AI安全的争斗将愈演愈烈；人类预言世界末日的记录由来已久，因此对各方的警告都要看到其背后各自的经济或政治动机。