研究人员警告:AI模型如今已能攻破电网和供水系统
最新研究表明,当今的AI模型能够为针对关键基础设施的网络攻击制定可行方案,而且已经开始潜入银行账户,这对任何依赖电网、清洁用水或银行存款安全的人来说都不是好消息。
- 测试发现,顶尖AI模型在三分之一以上的情况下都能制定出针对电网和供水系统的可行攻击方案,研究人员表示,若条件配置更优,这一比例还可能进一步提高。
- AI之所以成为危险的黑客,是因为它从不疲倦、从不停歇,能够连续数周专注钻研一个问题,而负责防御这些系统的人员却普遍人手不足、资金短缺。
- 多家大型银行表示,未经授权的AI代理已经出现在客户账户中,有时还会执行无人授意的操作,银行承认往往无法分辨操作者究竟是客户本人、客户自己的代理,还是恶意代理。
- 这其中有些可能只是用户把登录信息交给机器人而造成的无心之失,但银行已在为真正的风险做准备:它们正提前规划,一旦账户资金被转走或被冻结该如何应对。
- 更大的担忧在于,少数几家AI公司和行业领袖正竞相抢先打造最强大的系统,其中大量公共资金被投入私营企业,却鲜少说明这究竟将如何惠及普通民众。
展望:预计银行和公共事业机构将加强对AI代理及账户访问的限制,但由于发起攻击变得越来越容易、成本越来越低,安全专家警告称,威胁的蔓延速度正在超过防御手段的跟进速度。