AI 如何可能终结世界

Sep 17, 2026

一位前 AI 研究员的公开辞职再次引发了人们的担忧:AI 公司正在缺乏充分安全保障的情况下竞相冲向超级智能,而这场争论如今已成为主流话题。

  • 一位曾在 OpenAI 和 Anthropic 工作三年的研究员辞职,并发文称这两家公司都没有负责任地行事。
  • 该帖子获得了超过 1 亿次浏览,并声称两家公司都在直奔能够自我改进的超级智能。
  • 业内一些人现在认为,AI 在 10 年内终结人类的概率为 10%,具体取决于所走的路径,可能还会更高。
  • 一些知名人士将这一危险与核武器相提并论,称 AI 是更大的威胁。
  • 悬而未决的问题仍然是机制:AI 究竟如何具体地摧毁人类。

展望:预计 AI 实验室将面临更大的压力,被要求放慢速度或增加安全防护措施;随着安全争论的加剧,还会出现更多备受关注的离职事件。

← 最新 · 存档