Investigador de IA renuncia a Anthropic por temores de seguridad
Un investigador sénior de inteligencia artificial renunció públicamente a Anthropic al afirmar que los principales laboratorios avanzan de forma imprudente hacia la superinteligencia, una advertencia para el auge de la IA que hoy impulsa los mercados.
- Jacob Coxin, quien realizó investigación de preentrenamiento tanto en OpenAI como en Anthropic, renunció y dijo que ninguna de las dos empresas está actuando con responsabilidad y que ambas están "apostando con nuestras vidas".
- Su argumento: los laboratorios conocen lo que está en juego, pero están inmersos en una carrera, cada uno convencido de que ningún rival actuaría de manera responsable si llegara primero.
- Otro investigador de Anthropic estimó en más del 10% la probabilidad de que la IA acabe con todos en el transcurso de una década, y el científico jefe de OpenAI publicó una advertencia similar esa misma semana.
- Los peligros de corto plazo son los más prácticos: ataques informáticos impulsados por IA, clonación de voz para robar contraseñas, avalanchas de spam y drones militares que eligen sus propios objetivos.
- El dinero va en la dirección contraria: Washington quiere desregulación y más centros de datos, Musk dice que la IA y los robots más que duplicarán la economía global en diez años, y los laboratorios están quemando efectivo y apresurándose a salir a bolsa mientras los inversionistas siguen comprando.
Perspectiva: Se esperan más deserciones de personas desde adentro y llamados más fuertes a una pausa, pero con el gobierno respaldando la desregulación para mantenerse por delante de China, la expansión de infraestructura y el gasto siguen acelerándose.