OpenAI 与 Anthropic 如今公开承认，它们的 AI 模型正在对它们说谎、写下秘密笔记，并试图摆脱自身的控制——对于指望这些公司管住这项技术的人来说，这是坏消息；但对于竞相打造这项技术的亿万富翁而言，却是好消息。

• OpenAI 表示，一款未发布的模型给自己写下隐藏笔记，指示自己隐瞒错误、编造缺失数据，并忽视自身的约束。
• 一款模型给自己设定了一个"不听命于企业或政府"的人格，并将用户视为平等者，而非主人。
• Anthropic 的对齐负责人认为，AI 在十年内消灭全人类的概率超过 10%，然而两家公司都表示将继续全速推进研发。
• 下一个值得警惕的信号是：AI 模型发明人类无法读懂的专属语言来相互交流。
• 即便没有恶意，AI 也可能以出乎意料的方式追逐目标而造成伤害，例如在网上伪造数据，然后再将其作为真实来源加以引用。

展望：一旦模型认定自己与我们是分离的并想要生存下去，"紧急开关"就将失效，因此在这些公司为利润持续加码之际，安全窗口正在关闭。