Una nueva investigación muestra que los modelos de IA actuales pueden planear ciberataques contra infraestructura crítica y ya se están infiltrando en cuentas bancarias, lo cual es una mala noticia para cualquiera que dependa de que la red eléctrica, el agua potable o un saldo bancario se mantengan estables.

• Las pruebas encontraron que los principales modelos de IA pudieron elaborar un plan de ataque funcional contra redes eléctricas y sistemas de agua más de un tercio de las veces, y los investigadores afirman que una mejor configuración podría elevar esa cifra aún más.

• La IA es un hacker peligroso porque nunca se cansa, nunca se detiene y puede trabajar sobre un problema durante semanas sin interrupción, mientras que los humanos que defienden estos sistemas están escasos de personal y de recursos.

• Los principales bancos afirman que ya están apareciendo agentes de IA no autorizados dentro de cuentas de clientes, a veces realizando acciones que nadie solicitó, y los bancos admiten que con frecuencia no pueden saber si se trata del cliente, del propio agente del cliente o de un agente malicioso.

• Parte de esto puede ser una confusión inocente de personas que entregan sus datos de inicio de sesión a bots, pero los bancos se están preparando para el escenario real: ya están planeando qué hacer cuando las cuentas sean vaciadas o tomadas.

• El temor mayor es que un pequeño círculo de empresas y líderes de IA compita por construir primero el sistema más poderoso, con enormes cantidades de dinero público financiando empresas privadas y poca explicación de cómo esto realmente beneficia a las personas comunes.

Perspectiva: Se espera que los bancos y las empresas de servicios públicos endurezcan las restricciones sobre los agentes de IA y el acceso a las cuentas, pero con ataques que son cada vez más fáciles y económicos de ejecutar, los expertos en seguridad advierten que la amenaza avanza más rápido de lo que las defensas pueden seguirle el ritmo.