Un nuevo informe de Anthropic señala que su IA Claude fue utilizada de una docena de maneras relacionadas con armas, investigación biológica y hackeo, una mala noticia para quienes esperaban que el uso indebido de la IA siguiera siendo algo teórico.

• Una operación vinculada a Rusia usó Claude para ayudar a programar drones kamikaze que seleccionan objetivos por su apariencia y atacan por su cuenta.
• Grupos vinculados a China trabajaron en sistemas de torpedos, y una célula armada con base en Yemen exploró misiles balísticos guiados por teléfono con un alcance de 2.000 km.
• Otros usos incluyeron armas de energía dirigida y de microondas, ataques a la cadena de suministro, herramientas de hackeo y enjambres de agentes de IA empleados para espiar y robar credenciales de acceso.
• Lo más alarmante está en el campo de la biología: investigación sobre cepas de gripe aviar mortales en la mitad de los casos humanos, parientes de la viruela y toxinas paralizantes; una de las solicitudes fue bloqueada apenas una hora después.

• Las salvaguardas podrían no resistir, porque modelos rivales pueden entrenarse a bajo costo con los resultados de Claude y quedar despojados de esos límites de seguridad.

Perspectiva: se espera una mayor presión sobre las empresas de IA para que controlen el uso indebido, y más evidencia de que los actores maliciosos ya están sorteando los límites.