La IA puede complicar la labor pública

Por Sami Mahroum, Project Syndicate.

ABU DHABI- Desde el lanzamiento en 2022 de ChatGPT, los textos generados por inteligencia artificial se han vuelto una presencia constante, y a las instituciones les cuesta seguir el ritmo. La presión se evidencia sobre todo en los tribunales. En Estados Unidos, la proporción de demandas ante juzgados federales presentadas sin abogado creció desde una media del 11 % en 2005–22 a 16,8 % en 2025; y los investigadores atribuyen el aumento a la llegada de la IA. El mismo estudio halló que la proporción de demandas civiles ante juzgados federales donde es posible encontrar texto redactado por máquinas pasó del 1 % en 2023 al 18 % en la actualidad.

En julio, la Oficina de Responsabilidad Gubernamental de los Estados Unidos advirtió de que el Servicio de Impuestos Internos corre riesgo de enfrentar una oleada de comentarios de la gente sobre la normativa fiscal generados por IA. El informe agrega que la capacidad de los grandes modelos de lenguaje para generar variaciones casi ilimitadas de un mismo texto hace cada vez más difícil detectar comentarios duplicados.

Idéntica presión sufren las entidades que financian la investigación. Desde 2022 se ha registrado un aumento del 57 % en la cantidad de solicitudes de subvenciones recibidas por doce de esos organismos en el Reino Unido y Europa; este aumento es resultado de una avalancha de solicitudes creadas con ayuda de la IA.

En respuesta a esta oleada de textos generados por IA, los gobiernos han comenzado a automatizar su procesamiento. Un estudio de la OCDE en relación con 58 autoridades tributarias nacionales reveló que en 2023 usaba IA el 69 %, contra sólo el 9 % en 2016. Con el avance de las capacidades de la IA, también han crecido sus usos, y las autoridades tributarias ahora recurren a esta tecnología para facilitar el trabajo analítico y la selección de casos, mejorar los servicios a los contribuyentes, enviar correspondencia mediante asistentes virtuales y automatizar tareas repetitivas y de gran volumen.

Pero el aumento de la capacidad alienta un correspondiente aumento de la demanda. Si la capacidad de un organismo público para procesar comentarios de la gente se duplica, puede ocurrir que pronto también se duplique la cantidad de comentarios. El especialista en seguridad David Woods lo llama la “ley de los sistemas sobreexigidos“: cada mejora de las capacidades de un sistema se convierte enseguida en excusa para aumentar la escala de operación. Woods combina este concepto con lo que denomina “el mito de la sustitución”, según el cual la automatización no hace más que sustituir a los trabajadores humanos, cuando en la práctica, cambia la naturaleza del trabajo, y a menudo lo multiplica.

Pero la supervisión humana no admite una ampliación de escala tan fácil. La Ley de IA de la Unión Europea exige que los sistemas de alto riesgo se diseñen de modo tal que puedan someterse a supervisión efectiva de «personas físicas». La legislación de la UE en materia de protección de datos también da a las personas el derecho a no ser objeto de decisiones totalmente automatizadas.

Pero el mero hecho de que una empresa u organización coloque una persona al final del proceso no es garantía de que se cumplan estos requisitos. En su sentencia de 2023 sobre la agencia de calificación crediticia alemana SCHUFA, el Tribunal Europeo de Justicia sostuvo que el criterio determinante es que la decisión final dependa de una evaluación automatizada, incluso si la autoridad decisoria formal sigue en poder de una persona. Ponerle la firma a una decisión automatizada no implica supervisión efectiva.

La combinación de ambas fuerzas genera un cuello de botella. Todo lo que ocurre antes de la persona responsable (búsqueda, clasificación, redacción, verificación, direccionamiento) se agiliza, pero no así la persona misma. La avalancha de textos generados por IA aumenta la demanda de criterio humano, pero la velocidad a la que es posible tomar decisiones sigue siendo la misma.

Sirve de ejemplo del problema un estudio reciente del ámbito de la ingeniería. Los autores analizaron el otorgamiento de autorizaciones para reactores nucleares mediante un modelo en el que compararon el proceso manual actual con dos alternativas automatizadas. Hallaron que la demora prevista (unos quince meses incluso con los sistemas automatizados más integrados) se mantenía sin cambios aunque se adoptara un supuesto optimista en relación con las capacidades del sistema de IA. El cuello de botella estaba en la lista de revisores de alto nivel que debían dar la autorización final en los casos más complejos, y que sólo podían completar unos tres al día. Es decir, duplicar la capacidad de las máquinas no cambia demasiado la velocidad del proceso.

Hasta ahora, diversos gobiernos han empleado la IA para buscar documentos, resumir casos, clasificar comentarios de la gente y redactar correspondencia. Son tareas naturales para la IA, ya que pueden automatizarse sin delegar decisiones trascendentales en las máquinas. Pero cuando la capacidad de toma de decisiones no aumenta al mismo ritmo, lo único que hace la automatización es cambiar de lugar (e incluso agravar) el cuello de botella en vez de eliminarlo.

La alternativa no es dejar que las máquinas decidan (algo prohibido por ley en ciertos casos y, en general, no aconsejable), sino usarlas para reducir la carga cognitiva de la toma de decisiones, dejando el juicio final en manos de un ser humano.

En esto puede servir a modo de ilustración el modelo del psicólogo británico Alan Baddeley en relación con la memoria operativa de los seres humanos. Esta incluye áreas encargadas de almacenar y procesar información verbal y visual, y otra región (que Baddeley denomina «ejecutivo central») encargada de dirigir y asignar el recurso limitado de la atención. La IA ya puede leer, organizar, comparar y presentar información, pero decidir qué merece atención y formular un juicio siguen siendo funciones claramente humanas.

De modo que el objetivo de la adopción de la IA debería ser facilitar la toma de decisiones a los funcionarios públicos, mediante la creación de herramientas que identifiquen las disyuntivas e incertidumbres, hagan una presentación imparcial de argumentos contrapuestos y reconozcan sus propias limitaciones. Por desgracia, esa clase de sistemas es más difícil de construir que una herramienta de resumen (y también más difícil de promocionar, ya que su producción se parecería más a una presentación de informes mejorados que a una excusa para eliminar departamentos enteros).

El problema no es nuevo. En 1983, la psicóloga cognitiva Lisanne Bainbridge advirtió sobre las «ironías de la automatización»: cuando las máquinas se encargan de los casos más sencillos, a los humanos les quedan los difíciles. Aunque se refería a los sistemas de control de procesos industriales, la misma lógica se aplica a la IA. Los organismos públicos usan como indicadores la cantidad de solicitudes tramitadas y de casos resueltos, los tiempos de respuesta y (cada vez más) la proporción de tareas automatizadas. Pero no miden el aumento de la carga administrativa para los tomadores de decisiones.

Cuanto más trabajo pueden procesar los modelos de IA, más decisiones tienen que tomar los seres humanos. Si los gobiernos no tienen en cuenta este desequilibrio, tal vez descubran que automatizarlo todo no sirvió de nada. Copyright: Project Syndicate, 2026.

Sami Mahroum es fundador y director ejecutivo de Spark X y ocupó cargos en el INSEAD, la OCDE y Nesta.