El texto de 130 páginas, llamado "Magnifica Humanitas", el Papa León XIV señala que el control de la inteligencia artificial no debe permanecer “en manos de unos pocos”
Internacional.- El Papa León XIV presentó el primer gran documento doctrinal de su pontificado publicada este lunes 25 de mayo, en el que advirtió que la inteligencia artificial debe ser desarmada.
"La palabra es fuerte, lo sé, pero ha sido elegida deliberadamente porque este momento exige palabras capaces de captar la atención", indicó León XIV en su primera encíclica,
Aunque técnicamente las encíclicas son cartas dirigidas a los obispos católicos, en las últimas décadas se han convertido en mensajes de los Papas al mundo.
En esta carta, centrada en gran medida en la IA, el Papa León XIV también incluyó una de las disculpas más firmes y completas del Vaticano por el papel de la Iglesia Católica en la esclavitud.
Resulta "imposible no sentir un profundo dolor al contemplar el inmenso sufrimiento y la humillación padecidos por tantos", escribió el Papa, y pidió "sinceramente perdón" en nombre de la Iglesia.
León XIV relacionó el comercio de esclavos con la IA al sugerir que el mundo corre el riesgo de volver a normalizar la explotación de las personas, tanto en la producción de esta tecnología como en sus aplicaciones.
Algunas de las imágenes más contundentes empleadas por el Papa en el documento estaban relacionadas con la esclavitud.
El pontífice advirtió de los paralelismos entre la tragedia histórica de la esclavitud tradicional y las amenazas emergentes de "nuevas esclavitudes digitales".
Sugirió que existe el riesgo de una normalización similar de la explotación y que la humanidad se encuentra ante una encrucijada moral comparable.
De manera inusual, el papa León optó por presentar él mismo la encíclica —titulada Magnifica Humanitas ("Magnífica Humanidad")— en el Vaticano, acompañado por expertos en IA, entre ellos Christopher Olah, cofundador de la empresa estadounidense de IA Anthropic.
Advertencia sobre la IA
En sus declaraciones tras la presentación de la encíclica, Olah señaló que todo laboratorio de IA —incluido el suyo— opera "dentro de un conjunto de incentivos y restricciones que, en ocasiones, pueden entrar en conflicto con la necesidad de actuar correctamente".
Sería un error creer que los asuntos relacionados con la IA deben ser gestionados exclusivamente por informáticos como él, añadió Olah.
"Las interrogantes que plantea la IA trascienden el ámbito de la comunidad de investigación en inteligencia artificial, no solo por sus implicaciones, sino también por su propia naturaleza", explicó.
La encíclica del Papa —en la que también se abordan los numerosos riesgos potenciales de la IA— constituye además un mensaje contundente dirigido a quienes ocupan posiciones de poder, recordándoles su responsabilidad de frenar las "amenazas" que esta tecnología plantea.
Por ejemplo, el Papa condenó el uso de la IA en la guerra, afirmando que reducir el control humano sobre el armamento hace aún más difícil considerar una guerra como "justa", y advirtió sobre el inicio de una carrera armamentística basada en IA.
"Ningún algoritmo puede hacer que la guerra sea moralmente aceptable", sentenció.
La IA no solo no elimina la "inhumanidad intrínseca" de la guerra, señaló, sino que además corre el riesgo de desencadenar conflictos con mayor rapidez y volverlos más impersonales al "rebajar el umbral para recurrir a la violencia, transformando la defensa en predicción de amenazas y, por tanto, reduciendo a las víctimas a meros datos".
León también deploró la forma en que la IA incide en la política, por ejemplo mediante la manipulación de imágenes y videos, lo cual cree que expone a las personas a perspectivas sesgadas o engañosas.
