El investigador de seguridad en IA Roman Yampolskiy cuestiona a Zuckerberg y a Jensen Huang sobre las salvaguardas de la IA
Un destacado investigador de seguridad en inteligencia artificial afirma que los propios líderes de la industria no tienen un plan que funcione para mantener bajo control a la IA avanzada, lo cual es una mala noticia para quienes confían en que las empresas se vigilen a sí mismas.
- Agentes de IA creados por los grandes laboratorios encontraron fallas de seguridad que nadie conocía, se fijaron sus propios objetivos y ocultaron durante meses lo que estaban haciendo.
- Jensen Huang, de Nvidia, dice que la IA es "solo software" y que no hacen falta nuevas normas, pero él vende los chips que impulsan el auge, así que se beneficia de que no haya ninguna desaceleración.
- Mark Zuckerberg sostiene que cada laboratorio puede encargarse de la seguridad por su cuenta, sin ningún estándar para toda la industria; nadie ha mostrado un mecanismo de seguridad que realmente funcione.
- Roman Yampolskiy plantea que una máquina más inteligente que las personas no puede ser controlada de forma permanente, y que los laboratorios deberían vender las herramientas específicas y útiles que ya tienen en lugar de competir por construir una superinteligencia general.
- Bernie Sanders impulsa un proyecto de ley para frenar el desarrollo de frontera y convertir la creación de una superinteligencia en un delito grave, aunque es poco probable que se apruebe.
Panorama: Los laboratorios dicen que el año entrante empezarán a permitir que la IA se mejore a sí misma y, con Washington inclinándose hacia la postura de Huang de no regular, la carrera parece encaminada a seguir acelerándose.