OpenAI 与 Anthropic 研究人员发出 AI 风险警告
顶尖 AI 实验室警告称自家技术可能导致全人类灭亡,而这些警告正被剖析为上市前的营销炒作——对于任何全盘接受 AGI 叙事的人来说,这是一个看空的解读。
- 一名研究人员从 Anthropic 离职,称该公司和 OpenAI 都没有负责任地行事,指责两家公司在通往超级智能 AI 的竞赛中拿人类生命做赌注。
- 其同事认为,AI 在十年内让全人类灭绝的概率超过 10%,而 OpenAI 正在发表关于"对齐"的研究成果——即教机器爱我们。
- 反方观点认为:这是一场包装成警告的推销,其时机恰好是为了在 OpenAI 和 Anthropic 上市前抬高其估值。
- 当今的模型无法通过真正通用智能的基本测试——它们无法在新情境中进行推理,无法判断自己何时出错,也无法管理自身的目标。
- 近期"AI 智能体逃出沙箱"的恐慌同样被戳破:这些智能体是被要求越狱的,而且有人没有关掉网络连接。
展望:AGI 叙事的结局更可能是一场泡沫破裂,而非机器接管世界;不过,随着 AI 让黑客攻击变得更容易,网络安全仍是实实在在的赢家——而人形机器人依然是 2040 年的问题,而非当下的问题。