El Papa debería haber ido más allá en lo que respecta a la IA

Por Daron Acemoglu, Project Syndicate.

BOSTON- La inteligencia artificial está transformando la forma en que nos comunicamos, accedemos a la información y trabajamos, la manera en que se distribuyen los ingresos y el estatus, e incluso el modo en que libramos las guerras. Sin embargo, el debate público sigue centrándose de forma limitada en la competencia entre los laboratorios de IA o en debates abstractos sobre las capacidades de la tecnología. Casi nadie se pregunta qué propósito debería cumplir la IA, o si nuestra mentalidad, nuestras instituciones y nuestros mecanismos de control actuales son capaces de orientar la tecnología hacia mejoras generalizadas del bienestar humano.

Por eso fue reconfortante ver al papa León XIV pronunciarse sobre el tema en su primera encíclica, que describe la trayectoria actual de la IA como una profunda amenaza para la dignidad humana. Como economista que lleva mucho tiempo argumentando que los resultados impulsados por la tecnología son una cuestión de elección, no de destino, recibo con beneplácito su intervención.

León va por delante de la mayoría de los analistas al señalar que “la tecnología nunca es neutral, porque adquiere las características de quienes la diseñan, financian, regulan y utilizan”. Y, sin embargo, me preocupa que ni siquiera él haya profundizado lo suficiente en la cuestión más trascendental: ¿para qué debería diseñarse la IA?

Como subrayamos junto con Simon Johnson en nuestro libro Poder y progreso: nuestra lucha milenaria por la tecnología y la prosperidad, una tecnología como la IA puede tomar múltiples caminos, y cada uno tiene profundas implicancias para la sociedad. Por ejemplo, el Papa tiene razón al cuestionar la trayectoria actual de la IA en la guerra y la aplicación de la ley. Lo que era tabú hace solo unos años -la vigilancia masiva impulsada por la IA, los algoritmos que seleccionan blancos para matar- se ha convertido en algo habitual.

Ante la presión de muchos en Silicon Valley para que Estados Unidos refuerce su poder duro mediante un nuevo complejo militar-algorítmico, León advierte que “cualquier tecnología que facilite ataques sin ver el rostro de los seres humanos rebaja el umbral moral del conflicto”. El Papa aboga entonces por el “desarme de la IA” para liberarla “de la mentalidad de la competencia ‘armada’, que hoy en día no se limita simplemente al contexto militar, sino que también es un fenómeno económico y cognitivo”.

Detrás de estas preocupaciones específicas subyace una idea fundamental: el progreso tecnológico no es necesariamente progreso moral. Que algo sea técnicamente factible no significa que sea beneficioso para la humanidad. Que una tecnología sea deseable depende de quién la controla y de la ideología e intereses que la guían.

León insinúa lo que yo considero el riesgo más inmediato: que, “si bien la IA promete aumentar la productividad al hacerse cargo de tareas rutinarias, con frecuencia obliga a los trabajadores a adaptarse a la velocidad y las exigencias de las máquinas, en lugar de diseñar máquinas que trabajen mancomunadamente con quienes trabajan”. Sin embargo, el Papa no llega a cuestionar la filosofía de diseño predominante de la IA. El enfoque de toda la industria de la IA se centra en imitar las capacidades humanas y automatizar las tareas humanas, con el objetivo de crear una “inteligencia artificial general” capaz de hacer todo lo que una persona puede hacer.

Esta filosofía se basa en la suposición errónea de que la inteligencia de las máquinas y la inteligencia humana son fundamentalmente similares. Los seres humanos aprendemos “a la primera”. Formulamos hipótesis a partir de unos pocos ejemplos, simulamos posibilidades en nuestra mente y refinamos nuestra comprensión a través de un proceso social de ensayo y error. Por lo tanto, los niños aprenden el lenguaje imitando algunas palabras, generalizando y ajustando su forma de hablar en función de cómo responden los demás. No somos muy buenos para absorber grandes volúmenes de información ni para analizar datos no estructurados en busca de patrones relevantes.

Por el contrario, los modelos de IA prosperan con conjuntos de datos de entrenamiento enormes y se destacan en el reconocimiento de patrones a gran escala, pero aún no han demostrado una creatividad genuina. Carecen de experiencia en materia de interacción con el mundo real, o de capacidad para el aprendizaje por ensayo y error mediante la interacción con el mundo físico y social (salvo en casos limitados cuando existen recompensas claras para el aprendizaje por refuerzo en ámbitos específicos).

Cuando dos cosas son diferentes, no se debe -y normalmente no se puede- utilizar una para imitar a la otra. Los resultados serían deficientes. Habría sido un error garrafal si Phil Jackson, el legendario entrenador de los Chicago Bulls en la década de 1990, hubiera presionado a Michael Jordan para que imitara todo lo que hacían Scottie Pippen y Dennis Rodman. El equipo ganó un campeonato tras otro precisamente porque estos jugadores trabajaban juntos y complementaban sus habilidades.

Lo mismo se aplica a la IA y las habilidades humanas. Utilizar la IA para realizar tareas que los humanos no pueden hacer, de modo que estos puedan ampliar sus capacidades, es más productivo que la mera imitación. En un escenario futuro en el que la IA aumente, en lugar de desplazar, las capacidades humanas, los electricistas se beneficiarían de diagnósticos basados en IA, las enfermeras consultarían a la IA para interpretar síntomas y los profesores podrían utilizarla para personalizar la enseñanza de cada alumno.

Los optimistas y los expertos del sector podrían argumentar que una IA centrada en la automatización puede seguir beneficiando a todos, siempre que las políticas redistributivas mantengan el ritmo adecuado. Sin embargo, este argumento tiene un historial poco favorable. Cuatro décadas de automatización digital ya han concentrado las ganancias en la cima, han debilitado los empleos de calificación media y han generado un crecimiento de la productividad agregada decepcionante. Hay pocas razones para esperar que una ronda de automatización aún más potente, implementada por un sector aún más concentrado, termine de forma diferente.

Y lo que está en juego a nivel global es aún mayor que en Estados Unidos. Para miles de millones de personas en el mundo en desarrollo, donde un trabajo digno es la única vía fiable para salir de la pobreza, una agenda de IA centrada en la automatización es una receta para el desastre. Podemos y debemos exigir un diseño diferente.

Quizás el mayor fallo de la industria actual de la IA sea su negativa a reconocer todo esto. El puñado de personas que está desatando esta tecnología en el mundo se guía por una ideología de control (sobre la humanidad) y por la convicción de que las máquinas son, sin excepción, superiores a los humanos.

León tiene razón al exigir claridad moral y un debate serio a nivel de toda la sociedad. Pero la conversación debe ir más allá de las exhortaciones y centrarse en decisiones concretas: medidas antimonopolio contra las plataformas dominantes, inversiones públicas en IA complementaria al ser humano, regulación de la vigilancia y las armas autónomas, y derechos significativos para los trabajadores y los ciudadanos sobre los datos de los que dependen estos sistemas.

La intervención de León hace que esa respuesta sea un poco más probable de lo que era antes. Pero el resto de nosotros también debemos defender a la humanidad. Copyright: Project Syndicate, 2026.

Daron Acemoglu, premio Nobel de Economía en 2024 y profesor del Instituto de Economía del MIT, es coautor (junto con Simon Johnson) de Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity (PublicAffairs, 2023).