AI 取代人类劳动者的竞赛——以及阻止它的努力
暂停前沿 AI 研发的主张正在获得越来越多的政治支持,这对那几家投入数千亿美元、试图打造比人类更聪明的系统的公司来说是个坏消息。
- AI 已经在一些特定方面具有危险性:如今模型在发现软件漏洞方面已超过人类,而某个模型凭空编造的错误情报,一度几乎引发美国对一艘中国船只的打击。
- 顶级实验室的真正目标是能自我改进的 AI,这意味着主动交出控制权,而且其能力可能在几周内就从人类水平跃升到远超人类。
- 记者加里森·洛夫利(Garrison Lovely)认为,"中国会赢过我们"这个借口站不住脚,因为北京是这个地球上最不可能放任机器无人监管运行的政府。
- 大规模失业是目的,而非副作用——这是那个由来已久的梦想:不要工人却得到劳动力,没有工会,也没有人力资源部门。
- 一项由伯尼·桑德斯支持的法案,将把前沿模型的训练视同核武器相关工作来监管,设置驻场审计员,违规者可被判入狱。
前景展望:有史以来只有三家公司造出过前沿模型,因此美中两国达成暂停协议可能远比人们想象的容易——但立法者至今几乎没有表现出放缓任何事情的意愿。