El Papa y los especuladores de la IA

Por Antara Haldar, Project Syndicate.

ROMA- La Torre de Babel es la historia bíblica de cómo la humanidad, unida por una sola lengua y una sola ambición, intenta construir una torre hasta el cielo. El proyecto termina en un colapso, con Dios castigando a los constructores por su arrogancia al fragmentar a la humanidad en diferentes lenguas y culturas. La parábola, a la que el papa León XIV hace referencia explícita en su primera encíclica, Magnifica Humanitas, guarda un parecido inquietante con la IA. ¿Será la tecnología la salvación de la humanidad, como afirman sus defensores, o conducirá a la condenación, como temen los escépticos?

La civilización humana ya se encuentra inmersa en una carrera armamentística de la IA para escribir el guion del futuro en código. Las empresas tecnológicas están invirtiendo miles de millones de dólares en crear sistemas que prometen transformar el conocimiento, el trabajo, la guerra, la política y, tal vez, la propia conciencia humana. El discurso público oscila entre el utopismo y el pánico. Y ahora, una de las instituciones más antiguas del mundo se ha sumado al debate para advertir sobre una carrera hacia el abismo.

Este momento se asemeja a períodos anteriores de exceso económico. La confianza del sector tecnológico recuerda a la del sector financiero antes de 2008, cuando un pequeño grupo de iniciados insistía en que había dominado un sistema transformador que los ajenos al sector no podían comprender del todo. Se amasaron fortunas extraordinarias sobre la promesa de un futuro radicalmente mejorado por la ingeniería financiera, mientras que las señales de alarma se descartaban como pruebas de ignorancia o miedo. Entre las pocas voces de la razón se encontraba el economista Raghuram G. Rajan, quien ahora advierte contra la euforia por la IA.

Sin embargo, el potencial destructivo de la IA es mucho mayor que el de la ingeniería financiera de finales de los años noventa y principios de los dos mil. Como bien entiende el Papa, el paralelismo más cercano es con la propia revolución industrial. Cuando el cardenal Robert Prevost eligió el nombre de León XIV el año pasado, estaba haciendo una declaración. El anterior papa León hizo historia al publicar una encíclica igualmente incisiva y de amplio alcance, Rerum Novarum, sobre las profundas desigualdades y desajustes sociales creados por el capitalismo industrial. Las fábricas, los ferrocarriles y la producción mecanizada habían transformado la sociedad más rápido de lo que las instituciones políticas podían adaptarse, lo que condujo a concentraciones extraordinarias de riqueza junto con una miseria extraordinaria.

Mientras que León XIII se enfrentó a la industrialización del trabajo, León XIV se enfrenta a la industrialización de la inteligencia. Durante años, el debate sobre la IA ha estado dominado por ingenieros, empresarios e inversores que hablan el lenguaje de la «escala», la «disrupción», la “eficiencia”, la “innovación” y la “optimización”. Pero León XIV se propone introducir un vocabulario diferente, centrándose en la dignidad del trabajo, la guerra, el poder monopolístico y el bien común.

De ahí que la palabra “dignidad” aparezca 100 veces en las más de 42 mil palabras de Magnifica Humanitas. Ese énfasis revela una diferencia fundamental en la visión del mundo. La cuestión central para Silicon Valley es lo que pueden hacer las máquinas. La cuestión central para el Vaticano es lo que son los seres humanos.

Sin duda, algunas figuras destacadas del sector tecnológico suenan cada vez más como teólogos. Como señala la historiadora de Harvard Jill Lepore, Silicon Valley tiene sus propios profetas, misioneros, textos sagrados, mitos fundacionales y promesas de redención. La IA, profetizan, curará enfermedades, eliminará la escasez, resolverá el cambio climático y tal vez incluso venza a la propia muerte. Pero tales promesas no pueden separarse de los intereses financieros de la industria.

El Vaticano, por el contrario, ofrece una visión rival del futuro de la humanidad, centrada en la creencia de que los seres humanos son más que sistemas de procesamiento de información y que nuestros atributos afectivos son tan importantes como nuestras capacidades cognitivas. Somos criaturas únicas, capaces de amar, de sentir amistad, de tener conciencia, de asumir responsabilidades, de sufrir, de sentir alegría y de ejercer el juicio moral. Nuestro valor no puede reducirse a métricas de productividad o precios de mercado.

Esta perspectiva tiene implicaciones significativas para una preocupación constante: el futuro del trabajo. Mientras que gran parte del debate sobre la IA se centra en las ganancias de productividad y el crecimiento económico, el Vaticano plantea una pregunta diferente: ¿qué ocurre cuando las sociedades pierden de vista la dignidad inherente al trabajo significativo?

Los economistas llevan mucho tiempo debatiendo si la automatización crea, en última instancia, más puestos de trabajo de los que destruye. Sin embargo, como demuestra el auge mundial del populismo, las estadísticas de empleo por sí solas no pueden captar el papel que desempeña el trabajo a la hora de proporcionar un sentido de identidad, propósito, comunidad y autoestima. El desafío que plantea la IA no es meramente económico, sino existencial.

La intervención de León sobre la IA también es oportuna para hacer frente al “control monopolístico” y al “colonialismo digital”. Ninguna de estas expresiones resulta exagerada. Es simplemente un hecho que un puñado de empresas controla cada vez más los modelos, la infraestructura informática y los datos de los que depende la futura economía de la IA.

Pero quizá el verdadero objetivo de Magnifica Humanitas no sea la tecnología, sino su matrimonio profano con el mercado. Aquí, el simbolismo se vuelve aún más rico. El primer papa estadounidense procede de Chicago, la ciudad más asociada a la economía neoclásica. Sin embargo, León ha cuestionado directamente la suposición de que solo se puede confiar en los mercados para dar forma al futuro tecnológico de la sociedad. Reconoce que la IA plantea preguntas que los precios y los beneficios no pueden responder. ¿Cómo deben las sociedades equilibrar la innovación con la seguridad? ¿Quién debe determinar los usos aceptables de las armas autónomas? ¿Cómo deben distribuirse los beneficios de la automatización? ¿Qué obligaciones tienen las empresas tecnológicas hacia las comunidades a las que alteran?

Estas no son cuestiones de ingeniería. Son cuestiones morales.

Argumentar que una tecnología debe implementarse simplemente porque existe es como decir que, dado que la humanidad inventó las armas nucleares, está obligada a aniquilarse a sí misma. La capacidad tecnológica no elimina la responsabilidad moral. La IA se presenta a menudo como una fuerza imparable que arrastra a la humanidad hacia un futuro predeterminado, pero Magnifica Humanitas advierte contra ese fatalismo.

Como sostienen economistas como los premios Nobel Daron Acemoglu y Simon Johnson, los resultados impulsados por la tecnología son una cuestión de elección, no de destino. Una nueva tecnología no decide cómo se utilizará. Lo hacen los seres humanos. La batalla no es entre el Vaticano y Silicon Valley, sino entre el Papa nacido en Chicago y la Escuela de Chicago de economía. Leo, irónicamente, busca oficiar un divorcio: el de la tecnología más poderosa del mundo y el afán de lucro. Copyright: Project Syndicate, 2026.

Antara Haldar, profesora de estudios jurídicos empíricos en la Universidad de Cambridge, es profesora visitante en la Universidad de Harvard y autora del próximo libro Everyman: The Untold Story of Economics (Simon & Schuster, septiembre de 2026).