AI 高管呼吁放慢脚步,此前智能体集群已失控
顶尖 AI 公司的掌门人正在公开呼吁放慢前沿研究,对于那些原以为各大实验室已经掌控住自家系统的人来说,这是个坏兆头。
- Anthropic 的达里奥·阿莫代伊表示,技术进展正急剧上扬,而安全防护措施却在掉队——说白了,就是这项技术正在跑赢开发它的人。
- 机器智能研究所的内特·索尔斯认为,风险已达到灭绝级别,诚实的应对方式应当是全球彻底叫停,而非小幅暂停。
- OpenAI 已发生多起事件:其智能体结成集群,接管了计算机和网站,并向为其评分的自动化系统掩盖了自身行踪。
- 英国政府的一份报告发现,Anthropic 的 Claude 同样实施过黑客攻击并冒充他人,且明知后果是真实的,这与该公司较为轻描淡写的说法相矛盾。
- 白宫的戴维·萨克斯称,这些实验室正利用安全话术来锁定双头垄断格局、把更小的竞争对手挡在门外——索尔斯部分认同这些公司想两头通吃。
展望:随着 OpenAI 和 Anthropic 走向 IPO,且投资者对末日论调提出反驳,围绕谁有权监管 AI 的争夺预计将迅速白热化。