El papa León advierte de los riesgos de la IA en una extensa encíclica

El papa León XIV presentó el lunes una visión general a los ejecutivos de empresas, los políticos y las personas que darán forma y serán moldeadas por el futuro de la inteligencia artificial, y advirtió a los líderes que protejan a la humanidad de los efectos más disruptivos de la IA.

La declaración de León llegó en forma de una encíclica papal, una carta abierta dirigida a “todos los hombres y mujeres de buena voluntad”, que en su versión en español tiene alrededor de 44.500 palabras. En ella expuso su deseo de proteger la dignidad y el albedrío humanos en una época en la que la tecnología amenaza con sustituir a los seres humanos en muchas funciones profesionales y sociales. La presentó junto a Christopher Olah, cofundador de Anthropic, una importante empresa desarrolladora de IA, en un gesto simbólico de diálogo entre líderes del mundo espiritual y el tecnológico.

Al tiempo que subrayaba que “la técnica no debe considerarse, en sí misma, como una fuerza antagónica respecto a la persona”, escribió que “el objetivo de obtener mayores beneficios no puede justificar decisiones que sacrifiquen sistemáticamente el empleo”.

Entre otras cosas, León pidió:

- La regulación gubernamental de las empresas privadas que impulsan el desarrollo de la IA

- Protección y capacitación de los trabajadores cuyos empleos están amenazados

- Educación para ayudar a los estudiantes a pensar críticamente sobre la tecnología

- Medidas para proteger a los niños de la información violenta, hipersexualizada o falsa en línea que a menudo es generada con IA

- Salvaguardias para garantizar que los humanos, y no la inteligencia artificial, sigan siendo responsables de todas las decisiones relativas al uso de armas

Sobre todo, hizo hincapié en la importancia de conservar un papel social fundamental para todos los seres humanos. “Una sociedad que garantizara trabajo solo a una pequeña parte de la población expondría a muchos a una situación de inactividad forzada”, escribió.

“Nos encontraríamos ante una paradoja de progreso material y regresión antropológica, en la que desaparecerían las condiciones para una paz social justa y estable”, añadió.

Al presentar la encíclica ante una sala abarrotada en el Vaticano, León explicó que sus opiniones se habían formado en conversaciones con científicos, ingenieros y dirigentes políticos. Destacó a Olah, con quien se comprometió a trabajar “para encontrar un camino para la humanidad en este tiempo de inteligencia artificial”.

“Qué gran signo de esperanza es que en nuestras diferencias podamos escucharnos unos a otros”, dijo León.

Olah, quien no es católico, alabó la iniciativa del papa, reconociendo que empresas como la suya necesitan una guía moral para evitar dejarse llevar por “un conjunto de incentivos y restricciones que a veces pueden entrar en conflicto con hacer lo correcto”.

“Necesitamos voces morales que los incentivos no puedan doblegar”, añadió Olah.

“Hoy es apenas el principio, el comienzo de una larga colaboración entre quienes estamos construyendo esto y quienes pueden ver lo que nosotros, desde dentro, no podemos ver”, dijo Olah. Ambos hablaron, junto con un grupo de teólogos y funcionarios del Vaticano, ante una audiencia de cardenales, informáticos, periodistas y diplomáticos, entre ellos Brian Burch, embajador de Estados Unidos ante la Santa Sede.

Ya en su segundo día como papa, hace poco más de un año, León había dejado clara su preocupación por la IA cuando dijo al Colegio Cardenalicio que, bajo su liderazgo, la Iglesia católica abordaría los riesgos que la tecnología en evolución plantea para “la dignidad humana, la justicia y el trabajo”.

Desde entonces ha hablado de la IA en repetidas ocasiones, incluso durante un viaje a Turquía y Líbano, en un discurso ante dirigentes universitarios católicos y al celebrar el día internacional de las matemáticas. La semana pasada, el Vaticano anunció que había creado una comisión de altos cargos católicos para debatir los retos que plantea la IA.

El papa Francisco, predecesor inmediato de León, también había advertido sobre los peligros de la inteligencia artificial y había hecho un llamado al uso ético de la tecnología.

Aunque León presentó públicamente su encíclica el lunes, la firmó formalmente el 15 de mayo, en el 135 aniversario de la publicación de Rerum Novarum, o “de las cosas nuevas”, una importante encíclica escrita en 1891 por su tocayo, León XIII.

La encíclica del papa fue publicada estratégicamente para suscitar comparaciones con ese documento anterior, que orientó la enseñanza católica sobre cómo proteger a los trabajadores tras los trastornos tecnológicos e industriales del siglo XIX.

Escrita en medio de la agitación de la Revolución industrial, la Rerum Novarum pretendía proteger los derechos y la dignidad de la clase obrera y se convirtió en uno de los textos fundacionales de la enseñanza social católica moderna. Exhortaba a los gobiernos a “librar a los pobres obreros de la crueldad de los ambiciosos, que abusan de las personas sin moderación, como si fueran cosas para su medro personal”, al tiempo que alababa los “adelantos de la industria”.

En la nueva encíclica, titulada Magnifica humanitas o “magnífica humanidad”, León adoptó un tono similar, advirtiendo de la nueva amenaza que representa la inteligencia artificial para los trabajadores.

El trabajo, escribió, es más que una forma de obtener ingresos; es “una necesidad inherente a la condición humana, un camino habitual hacia la madurez, el desarrollo y la realización personal”. Pidió “la protección de los puestos de trabajo y del papel insustituible de la persona”.

La encíclica también pedía que se impusieran “las restricciones éticas más rigurosas” a las armas desarrolladas con inteligencia artificial, en continuidad con la prolongada oposición de León —y del Vaticano— a la guerra.

“La creciente facilidad con la que se pueden emplear los sistemas de armas con autonomía operativa hace que la guerra sea más ‘viable’ y menos sujeta al control humano”, escribió León. Esto, añadió, contradice “el principio de que recurrir a la fuerza armada debe ser un último recurso en caso de legítima defensa”.

León también utilizó la encíclica para disculparse por el papel del Vaticano en la esclavitud. En una sección sobre la esclavitud moderna, León se disculpó personalmente por la incapacidad del papado para condenar formas anteriores de esclavitud y por apoyar a los gobernantes que la practicaban. Un papa anterior, Juan Pablo II, se disculpó en 1985 por el papel de los cristianos en la perpetuación de la trata de esclavos, pero no habló explícitamente del papel del Vaticano.

Aunque la encíclica incluye importantes referencias a las Escrituras y a las enseñanzas religiosas, el documento parece en muchos aspectos un documento político de un centro de pensamiento o de un legislador.

León escribió detalladamente, por ejemplo, sobre la importancia de proteger a los niños, quienes son especialmente susceptibles a los efectos distorsionadores de la tecnología.

“La literatura psicológica y psiquiátrica ha documentado con creciente insistencia cómo una exposición precoz y sin supervisión a los dispositivos digitales y a las redes sociales puede afectar negativamente al sueño, a la atención, a la regulación emocional y a las relaciones, especialmente en las edades más vulnerables, con consecuencias a veces dramáticas”, escribió.

Los académicos se mostraron divididos sobre el efecto que tendría el documento, si es que tendría alguno, en la industria tecnológica, en la que los gigantes tecnológicos rivales compiten con Anthropic por el dominio.

Brian Patrick Green, director de ética tecnológica de la Universidad de Santa Clara, en el norte de California, dijo que algunos líderes tecnológicos “tendrán que tomárselo en serio, en cierto sentido”, en parte porque les da “un imperativo moral”, aun reconociendo su autonomía.

La Iglesia católica, dijo, “no pretende suplantar las responsabilidades de la política o de las instituciones, sino que se ofrece como fundamento”, instando a otras instituciones a “reconocer y promover todo aquello que sirva a la dignidad de las personas, a la vitalidad de las comunidades y al bien común”.

Otros dijeron que los principales destinatarios de una encíclica son el clero y los fieles.

“No creo que los líderes tecnológicos de Silicon Valley vayan a hacer mucho caso”, dijo la profesora Noreen Herzfeld, directora de un programa sobre tecnología y ética en la Escuela de Teología y Seminario St. John de Collegeville, Minnesota. “Pero creo que, dentro de la Iglesia, estará ahí como referencia para sacerdotes y obispos y, sobre todo, para quienes educamos a seminaristas o a jóvenes”.

Los sacerdotes pueden utilizar el contenido del documento para orientar las conversaciones con los feligreses que compartan su preocupación por las presiones tecnológicas de la vida moderna, señaló Herzfeld. c. 2026 The New York Times Company.

Por Motoko Rich, Elisabetta Povoledo y Elizabeth Dias, The New York Times.