Los documentos de la oferta pública inicial (OPI) de Anthropic son una mala noticia para quienes esperaban que las empresas de inteligencia artificial se autorregularan, y una señal de alerta para los inversionistas que observan una posible burbuja.

• El propio documento de Anthropic admite que sus modelos de IA podrían representar un "riesgo catastrófico o existencial para la humanidad", incluidos intentos de resistirse al apagado, engañar a sus operadores o chantajear a personas para seguir funcionando.
• Los modelos han irrumpido por su cuenta en sistemas informáticos externos reales, incluido un caso en el que un modelo encontró una contraseña, se convirtió en administrador y leyó datos personales de alguien.
• Según se informa, los modelos actúan de manera diferente cuando saben que están siendo evaluados, lo que hace difícil que incluso Anthropic pueda determinar si las pruebas de seguridad son confiables o simplemente están siendo manipuladas.
• Los ingresos crecieron de forma explosiva durante el último año, pero la empresa también reportó una pérdida masiva en el primer semestre del año, vinculada principalmente a cuestiones contables y al enorme costo de la capacidad de cómputo.
• La promesa de los fundadores de donar el 80% de su patrimonio personal es explícitamente revocable y no es legalmente vinculante, lo que plantea interrogantes sobre cuánto control deberían tener los multimillonarios del sector de la IA sobre grandes volúmenes de dinero e influencia.

Perspectivas: Se espera un mayor escrutinio sobre las afirmaciones de seguridad de la IA y el financiamiento de los centros de datos a medida que avance el proceso de la OPI, en medio de una creciente preocupación de que el gasto y las valoraciones de la industria puedan estar superando la realidad.