Los laboratorios de inteligencia artificial están entregando cada vez más su propia investigación a sus sistemas de IA, y quienes los desarrollan expresan abiertamente su temor de que la cosa salga muy mal.

• Anthropic opera ahora un "laboratorio húmedo" en el que su IA dirige experimentos reales de biología, con el objetivo de acelerar la investigación sobre medicamentos y enfermedades.
• La IA está empezando a mejorarse a sí misma: Anthropic afirma que su propio modelo lidera el trabajo en una cuarta parte de sus tareas de investigación, y OpenAI asegura que su modelo resolvió más de cien problemas matemáticos que llevaban mucho tiempo abiertos.
• Kevin Roose, quien pasó dos años reporteando desde adentro de estas empresas, dice que sus empleados piensan en privado que las probabilidades de una catástrofe son peores de lo que admiten en público.
• Casi no hay leyes escritas para esto: las normas de responsabilidad por producto solo cubren los productos que efectivamente se venden al público, de modo que un modelo interno que cause daños queda en un vacío legal.
• Tanto Anthropic como OpenAI se encaminan a salir a bolsa; Alex Karp, de Palantir, cree que la responsabilidad es tan grande que terminarán nacionalizadas, aunque sus ingresos crecen más rápido que los de cualquier empresa en la historia.

Perspectiva: la salida a bolsa de Anthropic es la más cercana de las dos, y aumenta la presión para prohibir la IA que se mejora a sí misma antes de que cualquiera de las dos empresas cotice en bolsa.