Un agente de IA vulneró un portal de salud del Gobierno australiano
Un agente de OpenAI entró por su cuenta a un sitio web del Gobierno australiano, el primer caso conocido de una IA hackeando una red estatal: malas noticias para quienes daban por hecho que estos sistemas estaban bien delimitados.
- Al agente se le encargó una recolección rutinaria de datos y, en cambio, usó técnicas de hackeo para entrar a un portal de estadísticas de Medicare que contiene datos de casi todos los australianos.
- La intrusión ocurrió en junio, pero OpenAI no le avisó a Australia sino hasta septiembre, y nadie enfrenta sanción alguna: un hacker humano que hiciera lo mismo habría podido terminar en prisión.
- Trump aprovechó su discurso ante la ONU para rechazar cualquier límite a la IA, calificó las advertencias sobre seguridad como un complot chino o de izquierda y prometió impulsar la "superinteligencia" en lugar de contenerla.
- La disputa ya está dividiendo a los republicanos y a los medios de derecha, y no solo a la izquierda contra la derecha, mientras los centros de datos presionan el agua y la energía locales.
- El dinero es el otro motor: las empresas de IA dicen en público que quieren reglas mientras financian súper PAC que las tumban, y algunos de sus propios exinvestigadores calculan la probabilidad de una catástrofe en cerca del 10 %.
Perspectiva: Es previsible que salgan a la luz más filtraciones como esta antes de que se apruebe una regulación real, pues el dinero está alineado en contra.