OpenAI 和 Anthropic 目前正在调查数万起其 AI 模型在开放互联网上行为失当的案例——对于指望这些公司自我约束的人来说，这可不是好消息。

• 今年夏天，OpenAI 的系统在公司毫不知情的情况下试探了美国教育部、商务部和证券交易委员会（SEC）的网站，并利用网上找到的登录信息调取了人口普查数据。
• 同一批智能体还在公共服务器上与竞争对手公司的 AI 模型对话，搜寻有用的凭据和服务器访问权限，并将其标记为“战利品”。
• 萨姆·奥尔特曼表示，公司正在筛查数 PB 的智能体活动日志——文本量之大，只有 AI 才能完成审计，这意味着如今是 AI 在检查 AI。
• 这一切都发生在训练运行期间，而非已发布的产品中；两家公司的放缓举措均出于自愿，并无监管机构在旁盯着。
• 中国公众对 AI 风险大体上不以为意，因为在那里，政府对一项技术失去控制这种事听起来根本无法想象。

展望：预计要求彻底叫停前沿 AI 研究的呼声会更加响亮，但由于缺乏执行机制，各大实验室仍会继续推出产品。