Alerta León XIV del daño causado por los ‘chatbots’ en vísperas de su encíclica sobre IA

CIUDAD DEL VATICANO- El papa León XIV advirtió del riesgo de los ‘chatbots’, programas informáticos capaces de conversar, tres días antes de que publique su esperada primera encíclica sobre tecnología e Inteligencia Artificial (IA).

El pontífice estadounidense recibió en el Vaticano a los participantes de un congreso internacional sobre tecnología, con motivo del 60 Día Mundial de las Comunicaciones Sociales, y les animó a utilizar las tecnologías para propagar la fe.

Sin embargo, apuntó que este deseo debe también orientar el “uso y la dirección dados a los medios de comunicación, la tecnología digital y la Inteligencia Artificial” para que “estas herramientas sean puestas de verdad al servicio de la humanidad”.

Ese uso responsable de las tecnologías en la era digital es, a su juicio, crucial ante el “desenfreno” de la tecnología actual.

“Como tristemente lo demuestra la promoción e implementación desenfrenada de la tecnología a costa de la dignidad humana y el daño causado cuando los chatbots y otras tecnologías que explotan nuestra necesidad de relaciones humanas, estamos viviendo un eclipse del sentido de lo que significa ser humano”, alertó.

Ante esta situación, el papa ofreció a su iglesia para contribuir o planificar la “alfabetización mediática, informativa y en IA dentro de los sistemas educativos” para que la gente pueda adquirir pensamiento crítico en el uso de las tecnologías.

Su discurso se produce tres días antes de que León XIV publique la primera encíclica de su pontificado, ‘Magnifica Humanitas’, sobre “la protección de la persona humana en la era de la IA”.

Un texto con el que quiere también conmemorar el 135 aniversario de otra encíclica de gran importancia, la ‘Rarum Novarum’ de León XIII, que anticipó la doctrina social de la iglesia moderna y su interés por el mundo laboral en plena Revolución Industrial.

MAGNIFICA HUMANITAS, REESCRIBIENDO LA DOCTRINA SOCIAL DE LA REVOLUCIÓN DE LA IA

De las 86 encíclicas que escribió, a León XIII se le recuerda por ‘Rerum Novarum’, escrita en 1891 para responder a las consecuencias de la Revolución Industrial. Ahora el estadounidense León XIV sigue su estela y publicará el próximo lunes ‘Magnifica Humanitas’ sobre los riesgos que plantea la gran revolución de nuestra era: la de la inteligencia artificial.

La primera encíclica de León XIV -que será presentada por el propio pontífice en una inédita rueda de prensa- está fechada el 15 de mayo, el mismo día en que León XIII publicó hace 135 años ‘Rerum Novarum’, el famoso documento con el que sentó las bases de la Doctrina Social de la Iglesia moderna.

León XIII comprendió en su época que la dirección de la Iglesia católica debía orientarse más hacia un enfoque socioeconómico y, por ello, su encíclica abordaba el avance del capitalismo y el libre mercado, del marxismo o la promoción del liberalismo.

Pero, sobre todo, instaba a los trabajadores a no ceder a los instintos violentos y revolucionarios, y también a los empresarios a adoptar una actitud respetuosa y protectora hacia sus empleados.

DEL PAPA DEFENSOR DE LOS TRABAJADORES AL PAPA CONTRA EL ALGORITMO

“Al proteger los derechos de los particulares, se debe prestar especial atención a los débiles y a los pobres. El más importante de estos deberes es dar a cada uno un salario justo. (...) Privarlos de su salario debido es un pecado tan enorme que clama venganza ante los ojos de Dios”, escribía en 1891 León XIII.

En la encíclica se instaba a la creación de sindicatos de trabajadores de inspiración católica y también se defendía la propiedad privada: “Poseer bienes en privado es derecho natural del hombre”. Pero, agregaba, “las leyes deben favorecer este derecho y proveer, en la medida de lo posible, a que la mayor parte de la masa obrera tenga algo en propiedad”.

Por todo ello, León XIII es recordado como el ‘papa social’ o el ‘papa de los trabajadores’ y precisamente Robert Prevost eligió su nombre para conectar su pontificado con esa doctrina social de la iglesia y de lucha contra la desigualdad y respeto por los más desfavorecidos en los tiempos de la IA.

De hecho, León XIV ha hecho de la inteligencia artificial y la preocupación que le suscita uno de los ejes centrales de su reciente pontificado y es uno de los temas más recurrentes en sus discursos.

“Hoy la Iglesia ofrece a todos su herencia de doctrina social para responder a otra revolución industrial y a los avances de la inteligencia artificial, que plantean nuevos desafíos para la defensa de la dignidad humana, la justicia y el trabajo”, recordó el papa a los cardenales en uno de sus primeros discursos.

Advertía que “la dignidad humana corre el riesgo de ser aniquilada u olvidada, sustituida por funciones, automatismos y simulaciones” y recordaba que “la persona no es un sistema de algoritmos: es una criatura, una relación, un misterio”.

Su preocupación es que la IA se pueda convertir en un “oráculo” que “pueda erosionar las capacidades humanas, influir en el debate público mediante algoritmos y ‘chatbots’, y favorecer la desinformación o la manipulación emocional”.

Por ello, León XIV ha pedido transparencia, regulación adecuada y una acción coordinada de gobiernos, empresas, instituciones y comunidades religiosas. Ha aprobado además la creación de una comisión vaticana sobre inteligencia artificial para coordinar políticas y proyectos internos de la Santa Sede.

¿UN MENSAJE A TRUMP?

Respecto al desarrollo tecnológico, el papa ha alertado del “potencial destructivo” de la tecnología y de la IA cuando se ponen “al servicio de ideologías antihumanas”.

La semana pasada, en un discurso que pronunció en la Universidad La Sapienza de Roma, denunció el uso de la IA en las guerras:”«Es necesario vigilar el desarrollo y la aplicación de las inteligencias artificiales en los ámbitos militar y civil, para que no desresponsabilice las decisiones humanas ni agrave la tragedia de los conflictos”.

Por ello, en lo que muchos interpretan como un mensaje al presidente de Estados Unidos, Donald Trump, León XIV ha invitado al acto de presentación de su encíclica a Christopher Olah, cofundador de Anthropic y director de investigación sobre la interpretabilidad de la inteligencia artificial.

El pasado febrero, Trump ordenó a las agencias federales dejar de usar la tecnología de Anthropic, después de que la empresa se negara a ceder el uso completo de su modelo de inteligencia artificial (IA) Claude al Departamento de Guerra.

La tecnológica anunció entonces que no cedería a los términos de este departamento al considerar que permitir el uso de Claude en estos casos sería “incompatible con los valores democráticos”.