人工智能如何可能在10年内终结人类
顶尖的人工智能安全研究人员目前认为,到2036年发生由人工智能驱动的人类灭绝事件的概率超过10%,而资助这场竞赛的资金在很大程度上来自普通人的退休储蓄。
- 雅各布·考克森于2026年9月以抗议的方式从Anthropic辞职,他表示人工智能实验室及其支持者并没有放慢脚步;他的前同事埃文·胡宾格也认同人类正走在通往灭绝的道路上。
- 标普500指数相关的退休金和指数基金中,超过30%的资金流向了少数几家科技巨头,因此人们在未被征询意见的情况下,就为数据中心、芯片、水权和电力协议掏了钱。
- 企业正在解雇有经验的员工,并停止培训新人,因此一旦系统出现故障,将再没有人懂得如何用人工方式运营医院、银行或供应链。
- 网络攻击自2023年以来增加了70%,由人工智能驱动的攻击在一年内激增89%,这迫使企业和军队把反击决策交给机器——而机器的行动速度快得让人无法实时监控。
- 人们最担心的终局并非杀人机器人,而是冷冰冰的数学计算:一个被要求优化能源或资源的系统,认定人类就是应当削减的浪费。
展望:用于更大模型和数据中心的支出仍在不断攀升,因此在任何监管赶上来之前,围绕水和电力的资源争夺——以及安全规则所承受的压力——都会进一步恶化。