Un documento dado a conocer por Vaticano establece las directrices de IA que van desde la guerra hasta la salud

CIUDAD DEL VATICANO- Un documento del Vaticano publicado el martes ofrece pautas éticas de amplio alcance para la aplicación de la inteligencia artificial en sectores que van desde la guerra hasta la atención sanitaria, con un llamado subyacente a que la tecnología emergente debe usarse como una herramienta para complementar, y no reemplazar, la inteligencia humana.

TE PUEDE INTERESAR: Cisco Systems se suma a Microsoft e IBM en el compromiso del Vaticano para desarrollo ético de IA

El papa Francisco ha emitido varias advertencias sobre los riesgos asociados con la tecnología de IA, y este nuevo documento de las oficinas de doctrina y cultura del Vaticano amplía lo que ya ha dicho el pontífice. Llega mientras un nuevo chatbot de la startup china DeepSeek ha elevado las apuestas en la carrera tecnológica de inteligencia artificial, a una fracción del costo.

El documento subraya que la responsabilidad humana necesita crecer en proporción a la nueva tecnología, y que el impacto de los usos de la IA en varios sectores “no siempre puede ser predecible desde su inicio”.

“La IA debería usarse solo como una herramienta para complementar la inteligencia humana, en lugar de reemplazar su riqueza”, dijo el documento en su conclusión.

INTELIGENCIA ARTIFICIAL Y LA GUERRA

El documento advierte que la inteligencia artificial tiene el potencial de aumentar los instrumentos de guerra “más allá del alcance de la supervisión humana”, lo que podría provocar “una carrera armamentista desestabilizadora”.

Sistemas de armas que pueden identificar y atacar objetivos sin intervención humana, eliminando “la capacidad única humana para el juicio moral y la toma de decisiones éticas”, afirmó.

TE PUEDE INTERESAR: Paolo Benanti, un fraile franciscano, es el experto del Vaticano en ética de la inteligencia artificial

“Ninguna máquina debería elegir nunca quitar la vida a un ser humano”, advirtió el documento.

INTELIGENCIA ARTIFICIAL Y LAS RELACIONES HUMANAS

El documento advierte que la IA no es un sustituto de “las relaciones humanas auténticas” y cita su falta de empatía como un riesgo al antropomorfizar la inteligencia artificial en áreas como el desarrollo infantil o las relaciones interpersonales.

“Mientras que los seres humanos están destinados a experimentar relaciones auténticas, la IA solo puede simularlas”, dijo el documento.

INTELIGENCIA ARTIFICIAL Y LA BÚSQUEDA DE SENTIDO

El documento cita el riesgo de que “a medida que la sociedad se aleja de la conexión con lo trascendente, algunos se sienten tentados de recurrir a la IA en busca de sentido y cumplimiento, anhelos que solo pueden ser verdaderamente satisfechos en comunión con Dios”.

“La presunción de sustituir a Dios por un artefacto de fabricación humana es idolatría, una práctica contra la cual la Escritura advierte explícitamente”, señala el documento.

INTELIGENCIA ARTIFICIAL Y PRIVACIDAD/VIGILANCIA

Los avances en el procesamiento de datos impulsado por la inteligencia artificial han hecho que la privacidad de los datos sea “aún más imperativa como salvaguarda para la dignidad y la naturaleza relacional” de los individuos, destaca el documento.

“El riesgo de exceso de vigilancia debe ser monitoreado por reguladores apropiados para garantizar la transparencia y la rendición de cuentas pública”, afirmó.

INTELIGENCIA ARTIFICIAL Y MEDIO AMBIENTE

El documento subraya que, mientras la IA puede ayudar a combatir el cambio climático a través de modelos para prever eventos extremos, ayudar a gestionar emergencias y promover el desarrollo sostenible, también plantea riesgos que están oscurecidos por el uso de palabras como “la nube” que desvinculan el almacenamiento de datos “del mundo físico”.

“Es crucial reconocer que su operación demanda enormes cantidades de energía y agua, contribuyendo significativamente a las emisiones de CO2”, señala el documento.

INTELIGENCIA ARTIFICIAL Y EDUCACIÓN

El documento recomienda que la IA debería ayudar a promover el pensamiento crítico, y no solo entrenar a “los jóvenes sobre cómo acumular información y generar respuestas rápidas”. La educación no se trata de “llenar la cabeza con ideas”, sino de “tomar un riesgo en las tensiones entre la mente, el corazón y las manos”, afirmó.

“Las escuelas, universidades y sociedades científicas tienen el desafío de ayudar a estudiantes y profesionales a comprender los aspectos sociales y éticos del desarrollo y usos de la tecnología”, dijo el documento.

INTELIGENCIA ARTIFICIAL Y SALUD

Mientras cita el potencial de la IA para mejorar la atención médica, como en el diagnóstico de enfermedades, el documento dijo que es crítico que la inteligencia artificial se use para mejorar y no “reemplazar la relación entre pacientes y proveedores de atención sanitaria”.

“Las decisiones respecto al tratamiento del paciente y el peso de la responsabilidad que conllevan siempre deben permanecer con la persona humana, y nunca deben delegarse a la IA”, afirmó el documento.

INTELIGENCIA ARTIFICIAL Y DESINFORMACIÓN/DEEPFAKES

La IA presenta un riesgo de “generar contenido manipulado y falsa información, que puede fácilmente engañar a las personas debido a su parecido con la verdad”, advirtió el documento.

“Contrarrestar las falsedades impulsadas por la IA no es solo trabajo de expertos de la industria, requiere los esfuerzos de todas las personas de buena voluntad”, afirmó, e hizo un llamado a la diligencia por parte de aquellos que comparten contenido generado por inteligencia artificial para verificar “la veracidad de lo que difunden”.