参与构建当今AI系统的内部人士正在辞职，并警告这项技术可能在十年内让人类灭绝——对于任何指望该行业自我监管的人来说，这都是个坏消息。

• 一位前OpenAI研究员表示，在没有人知道AI是否值得信任之前，各家公司就已在争相将一切事务的控制权交给AI，其中包括军事领域。
• 一位Anthropic研究员辞职时称，OpenAI和Anthropic都没有负责任地行事，两家公司都在拿人类的生命做赌注。
• Anthropic自家的对齐负责人认为，未来十年内AI导致所有人丧生的概率超过10%，并承认目前没有解决方案。
• 核心担忧在于，AI改写并自我改进的速度会快到人类无法跟上，最终把人类排除在决策链之外。
• 华盛顿方面却在朝相反方向推进：一个规模达1.25亿美元的AI超级政治行动委员会正在推动一项联邦框架，该框架将废止38个州已通过的AI法律。

前景展望：预计内部人士的警告会更加高调，国会也会举行听证会，但只要美国把AI定位为一场必须战胜中国的竞赛，就不会出台真正的防护措施。