CNDH exige regular la IA para evitar desigualdades y pérdida de empleo en México

CDMX.- La Comisión Nacional de los Derechos Humanos (CNDH) aseguró que el desarrollo sin regulación de la Inteligencia Artificial (IA) puede reproducir la discriminación, ampliar las desigualdades, desplazar empleos, vulnerar la privacidad, debilitar las capacidades intelectuales de niñas, niños y adolescentes y erosionar la vida democrática, por lo que propuso 10 parámetros para garantizar que esta tecnología permanezca subordinada a la dignidad y los derechos humanos.

En un comunicado, explicó que la IA representa una de las transformaciones tecnológicas más profundas de la época, debido a su capacidad para procesar enormes volúmenes de información, generar contenidos, automatizar tareas e influir en la toma de decisiones.Su incorporación, señaló, está modificando la manera en que las personas piensan, trabajan, aprenden, crean, se informan, se relacionan y ejercen sus derechos.

Sin embargo, enfatizó que la tecnología nunca es neutral, pues es diseñada por personas, instituciones y empresas para cumplir determinados fines y responde a necesidades e intereses específicos.

Por ello, consideró necesario preguntar quién diseña estas tecnologías, para qué lo hace, quién obtiene sus beneficios, quién asume sus costos y qué poder adquieren quienes controlan su infraestructura, sus datos y sus capacidades.

PERSONAS SUBORDINADAS A LOS SISTEMAS AUTOMATIZADOS

Reconoció que la IA puede contribuir a mejorar los sistemas de salud y educación, acelerar la investigación científica, facilitar el análisis de información, acercar servicios a personas y comunidades e incrementar algunas capacidades del Estado para anticipar problemas públicos y diseñar políticas.

“La tecnología, puesta al servicio de las personas, puede reducir y liberar tiempo, ampliar conocimiento y multiplicar capacidades”, expresó.

No obstante, alertó que esas posibilidades pueden convertirse en una nueva forma de dependencia cuando las personas quedan subordinadas a los sistemas automatizados.

La CNDH comparó la transformación actual con la Revolución Industrial del siglo XVIII, que modificó la economía y las relaciones laborales y humanas. La diferencia, indicó, es que nunca habían existido instrumentos con tal velocidad para producir conocimiento y con semejante capacidad para observar, clasificar, perfilar e influir simultáneamente en millones de personas.

“Nunca había sido tan sencillo producir información y conocimiento, pero nunca tampoco había sido tan fácil fabricar la apariencia de la verdad”, sostuvo.

LA IA PUEDE INCORPORAR PREJUICIOS Y DESIGUALDADES EN SUS DATOS

Advirtió que la IA no elimina por sí misma los prejuicios ni las desigualdades sociales, sino que puede incorporarlos en sus datos, convertirlos en patrones estadísticos y reproducirlos a una escala mucho mayor.

Los mismos sistemas utilizados para seleccionar personal, evaluar riesgos, recomendar tratamientos o apoyar decisiones políticas también pueden discriminar, excluir, invisibilizar y presentar desigualdades históricas como resultados aparentemente objetivos y válidos.

En materia laboral, la IA puede aumentar la productividad y crear nuevas ocupaciones, pero también eliminar actividades, desplazar trabajos, generar incertidumbre jurídica, acelerar la precarización y ensanchar las diferencias entre quienes poseen capital, tecnología y conocimientos y quienes dependen de su trabajo para sostenerse.

Señaló que el progreso tecnológico no debe medirse únicamente por cuánto produce una sociedad, sino por la manera en que se distribuyen los beneficios. La IA, apuntó, puede multiplicar la riqueza, pero también profundizar las desigualdades, por lo que no puede considerarse un progreso completo desde la perspectiva de los derechos humanos.

También manifestó preocupación por la recopilación y el almacenamiento masivo de datos personales, que pueden servir para mejorar servicios, pero igualmente para perfilar, vigilar, controlar, predecir e influir en las decisiones individuales.

“¿Qué espacio queda para la intimidad, la autonomía, la libertad y los derechos humanos cuando cada acción se convierte en un dato y cada dato en un instrumento de influencia?”, cuestionó.

CONTENIDOS ARTIFICIALES GENERAN PÉRDIDA DE CONFIANZA

Alertó además sobre la producción mediante IA de textos, fotografías y voces con apariencia de verdad, pero basados en información falsa. Estas herramientas, expuso, pueden utilizarse para fabricar identidades o acontecimientos, destruir reputaciones, manipular decisiones ciudadanas, organizar campañas de desinformación e impulsar prácticas bélicas a gran escala.

La propagación de contenidos artificiales, añadió, puede llevar a que la sociedad desconfíe de lo que vive, observa y escucha. La pérdida de esa confianza puede convertirse en una erosión de la vida democrática y del ejercicio de los derechos humanos.

En el ámbito educativo, el organismo reconoció que el acceso de niñas, niños y adolescentes a grandes cantidades de información puede ampliar sus posibilidades de aprendizaje, pero advirtió que también puede generar mayor desinformación.

Utilizada como sustituto reiterado del esfuerzo intelectual, la IA puede debilitar capacidades esenciales como el análisis, la memoria, la imaginación y el razonamiento.

Expuso que en distintos países han comenzado a surgir leyes para limitar el acceso de menores de edad a la Inteligencia Artificial y a internet.

“Una sociedad que delega paulatinamente su pensamiento en sistemas automatizados corre el riesgo de poseer cada vez más información, pero menor autonomía intelectual”, dijo.

EL MERCADO NO CONVERTIRÁ POR SÍ SOLO LA INNOVACIÓN EN BIENESTAR COLECTIVO

Destacó que esa autonomía permite formular preguntas, confrontar ideas, equivocarse, descubrir, imaginar y construir un criterio propio, capacidades que calificó como esenciales para la humanidad.

La Comisión llamó también a examinar quiénes deciden y se benefician del rumbo de esta transformación, pues la infraestructura tecnológica y la concentración de datos se encuentran en manos de un reducido número de corporaciones.

Consideró que el mercado no convertirá por sí solo la innovación en bienestar colectivo y advirtió que, cuando unas cuantas personas y empresas controlan tecnologías capaces de influir en la información, el trabajo, la educación, la cultura, el consumo y la vida política, se produce una concentración de poder y una nueva fuente de desigualdad.

Ante este escenario, afirmó que la IA debe desarrollarse bajo instituciones y regulaciones que garanticen que ninguna innovación tecnológica se coloque por encima de la dignidad humana.

Ningún sistema automatizado, agregó, debe sustituir la obligación constitucional de las autoridades de fundar y motivar sus decisiones ni permitir que las responsabilidades del Estado sean transferidas a una base de datos o a un modelo matemático.

Cuando una decisión derivada de la IA pueda afectar derechos, subrayó, siempre deberá existir una persona responsable plenamente identificable.

Asimismo, sostuvo que el desarrollo tecnológico debe respetar el derecho a un medio ambiente sano, la disponibilidad de agua, energía y recursos naturales, así como los derechos de las comunidades sobre sus territorios.