La visión del papa sobre la IA y sus límites

Por Peter Singer, Project Syndicate

MELBOURNE- Hay que felicitar al papa León XIV por haber hecho de la inteligencia artificial tema de su primera encíclica, Magnifica Humanitas. El mundo está mal preparado para los peligros que trae consigo la transformación social y económica provocada por la IA. El llamado de León a una mayor reflexión y acción sobre esta tecnología merece la atención de los formuladores de políticas y de la gente (creyentes o no) en cualquier lugar que sea.

León señala con razón que la IA es una transformación de una magnitud comparable a la de la revolución industrial, y que lo mismo que con la industrialización, el carácter beneficioso o perjudicial de la tecnología dependerá de cómo se la use. También acierta al afirmar que no se puede confiar en que la “mano invisible” del mercado oriente la IA hacia el bien común, y que es urgente regularla.

La encíclica es clara en relación con los límites del tecnoutopismo. La promesa de que la IA liberará a la humanidad del trabajo pesado y dará inicio a una era de ocio ya se hizo en relación con la mecanización, la automatización e Internet. Pero en cada ocasión, la gran mayoría de los beneficios fueron para quienes ya tenían riqueza y poder, mientras que muchos salieron perjudicados. Es lo que volverá a suceder si no se persuade a los gobiernos de actuar con decisión antes de que sea demasiado tarde.

La urgencia es evidente sobre todo en la cuestión del empleo. Magnifica Humanitas dedica una atención considerable a las disrupciones que la IA ya provoca en el ámbito laboral, y que probablemente se intensificarán en los años venideros.

León insiste en que el trabajo no es solo fuente de ingresos, sino también expresión fundamental de la dignidad humana: “un camino habitual hacia la madurez, el desarrollo y la realización personal”. Una sociedad donde la IA concentre las mejoras de productividad en una pequeña élite condenando al mismo tiempo a un gran número de personas a la “inactividad forzada” podrá ser más eficiente en un sentido acotado, pero no será una sociedad mejor ni con más bienestar general.

No esperemos una transición gradual y manejable. Es probable que la IA provoque un desplazamiento de trabajadores humanos de una velocidad y alcance sin precedentes históricos, y con efectos sobre todas las ocupaciones: radiólogos y abogados, profesores y escritores, operarios de fábrica y camioneros.

Los tecnooptimistas nos aseguran que las nuevas tecnologías siempre crean nuevos empleos. Pero esa pauta histórica tal vez no sea aplicable a una tecnología capaz de desempeñar no solo las tareas físicas, sino también las cognitivas, en casi todos los ámbitos. El llamado de León a que los gobiernos den apoyo a programas de recualificación, protejan a los trabajadores en tiempos de crisis y garanticen un reparto equitativo de los beneficios de la IA es bienintencionado, pero ¿es también suficiente?

Los programas de recualificación, por muy bien diseñados que estén, no pueden absorber a millones de trabajadores desplazados cuando los puestos de trabajo para los que se los prepara están siendo automatizados. Es necesario un replanteo del vínculo entre trabajo e ingresos, ya sea mediante un ingreso básico universal, una reducción sustancial de la jornada laboral o algún otro mecanismo. La cuestión de cómo distribuir las mejoras de productividad de la IA con justicia y humanidad se tiene que resolver ya mismo, no en algún futuro indefinido.

Pero aún dejando eso de lado, subsiste la pregunta de qué podrá ocupar el lugar que para muchos tiene el trabajo como fuente de propósito y de vínculos sociales que trascienden las familias y las comunidades locales. Sería maravilloso que la gente encontrara satisfacción en hacer trabajo voluntario por los desfavorecidos o en la protección de nuestro frágil entorno natural, pero parece igual de probable que para superar el aburrimiento las personas apelen a respuestas menos satisfactorias y beneficiosas para la sociedad.

Aquí la visión del pontífice en relación con la comunidad y la solidaridad podría ofrecer más. La encíclica reconoce el trabajo como un “bien primario para las familias y para la sociedad”, pero no profundiza respecto de qué podría sustituirlo en un mundo donde para una parte sustancial de la población adulta, el trabajo tal y como lo concebimos hoy ya no estará disponible.

Cuando la encíclica trata la difícil cuestión del estatus moral de la IA misma, decepciona. León afirma de modo rotundo que los sistemas de IA «no viven una experiencia». Tal vez sea cierto ahora, pero puede no aplicarse a modelos de IA futuros.

Y la certeza de León no se justifica ni siquiera en relación con los sistemas de IA actuales. Dario Amodei, director ejecutivo de Anthropic, dijo en febrero: “No sabemos si los modelos son conscientes”. Si no lo saben Amodei y sus colegas (que crearon Claude, uno de los principales sistemas de IA), tampoco es probable que León lo sepa.

Esto tiene consecuencias prácticas. El marco de la encíclica se basa en una idea de la dignidad humana que refleja una ética específicamente antropocéntrica. Si algún día los sistemas de IA demuestran tener conciencia, entonces una ética cuyo único fundamento sea la dignidad humana resultará inadecuada, así como una ética cuyo único fundamento sean los intereses de una nación o de una raza siempre ha sido inadecuada cuando se necesitaba una consideración moral más amplia.

Ese mismo antropocentrismo que limita el tratamiento de la IA en la encíclica tiene una larga historia en el pensamiento moral católico. Llevó a Tomás de Aquino, el teólogo católico más influyente del último milenio, a negar que tengamos ningún deber para con los animales no humanos. Aunque el papa Francisco rompió con esa tradición en la encíclica Laudato Si’, parece que León ha vuelto a ella en Magnifica Humanitas. Pide la inclusión de los vulnerables, pero no menciona (ni una sola vez en 42 mil palabras) a los miles de millones de animales no humanos cuyas vidas y muertes ya padecen los efectos del uso de la IA en granjas industriales que infligen un sufrimiento de una magnitud apenas comprensible.

El mismo paradigma tecnocrático que trata a los trabajadores como recursos que hay que optimizar también trata a los animales sintientes como meras unidades de producción. Si el marco moral de la encíclica no tiene en cuenta esa realidad, no es porque el problema sea pequeño, sino porque el marco es demasiado estrecho.

La encíclica ofrece una visión de una tecnología orientada a la promoción de las personas. Pero hay que ampliar esa visión, para incluir los intereses de todos los seres sintientes, humanos o no, biológicos o acaso artificiales. Ojalá la primera encíclica de León impulse un debate que es urgente. Copyright: Project Syndicate, 2026.

Traducción: Esteban Flamini.

Peter Singer es profesor de Ética Médica en el Centro de Ética Biomédica de la Universidad Nacional de Singapur, profesor emérito de Bioética en la Universidad de Princeton, autor de The Life You Can Save y fundador de la organización sin fines de lucro del mismo nombre.