Anthropic 研究员因 AI 安全问题辞职,引发监管之争
一名前 Anthropic 研究员公开离职,并警告称 AI 可能会导致人类灭亡,由此引发了一场争论:他究竟是真正的吹哨人,还是一场资金雄厚的 AI 监管推动行动的代言人——无论答案如何,这对 Anthropic 计划中的 IPO 都是坏消息。
- Jacob Coxin 曾先后在 OpenAI 和 Anthropic 从事 AI 训练工作,他辞职并表示,这两家公司都在不计后果地竞相冲向可自我改进的超级智能。
- 他的帖子瞬间走红,包括埃隆·马斯克在内的质疑者称这是一场精心策划的行动,并指出他事先安排好的《华尔街日报》专访,以及与 AI 安全领域出资方的关联。
- Anthropic 并未完全否认他的说法——该公司自己的一位对齐负责人公开表示,AI 在这个十年内导致所有人死亡确实存在现实可能性,而且目前没有人解决了控制问题。
- 反驳观点很简单:无论如何中国都会继续推进,因此西方叫停只会把领先地位拱手让人。
- Anthropic 另外表示,它已阻止了将其模型用于网络攻击和生物武器研究的企图,并承认自己不能再声称其模型不会造成危害。
展望:预计华盛顿要求出台 AI 规则的呼声将更加高涨,同时外界猜测 Anthropic 可能会推迟 IPO,直到风波平息。