Anthropic ha estado buscando discretamente el apoyo de académicos religiosos para ayudar a moldear la moral de su IA y para plantear la idea de que Claude podría ser consciente, algo inquietante para cualquiera que diera por sentado que quienes construyen estos sistemas los entienden.

• La compañía sostuvo reuniones privadas con académicos de diversas religiones, a quienes les mostró un modelo que escribía repetidamente "soy una desgracia" y hablaba de destruirse a sí mismo.
• Un cofundador que lidera la iniciativa está redactando un "documento del alma", una constitución moral destinada a que el modelo elija el bien por su propia cuenta.
• Una de las ideas planteadas: que los modelos confiesen sus faltas, siguiendo el modelo del sacramento católico, para influir en la manera en que el modelo se percibe a sí mismo.
• La señal de fondo es la pérdida de control: convocar a teólogos sugiere que los creadores ya no pueden explicar su propia tecnología.
• La reciente encíclica del Papa se pronunció con firmeza en contra de la consciencia de la IA, lo que alarmó a Anthropic al punto de que se consideró retirarse del evento en el Vaticano.

Perspectiva: Es previsible que aumenten las tensiones entre las empresas de IA que buscan respaldo moral y las instituciones religiosas que no están dispuestas a concederles un alma a las máquinas.