La inteligencia artificial podría acabar con la humanidad. ¿Cómo debemos tomarlo?

NUEVA YORK- Podría lanzar un ataque con armas biológicas o una guerra mundial de drones. Podría detonar una bomba nuclear. O podría destruir a la sociedad humana de manera más gradual, al acaparar todos los recursos económicos del mundo y privarnos de alimentos, vivienda o medicinas.

Estos son los tipos de pensamientos oscuros que ahora giran en torno a la inteligencia artificial, una tecnología que ya ha demostrado ser un gran avance en los logros humanos, pero que, según temen algunos, también tiene el potencial de extinguir a la humanidad por completo.

Tales ansiedades ocuparon los titulares mundiales esta semana cuando un investigador de Anthropic renunció a la industria, citando temores de que su laboratorio y otros similares estuvieran construyendo máquinas superinteligentes que los humanos serían incapaces de controlar.

Las posibles amenazas que plantea la IA son, comprensiblemente, aterradoras. Pero el mundo moderno está repleto de una multitud de riesgos existenciales. Los humanos también nos enfrentamos a la perspectiva de la perdición a causa de asteroides asesinos, pandemias, una guerra termonuclear, el cambio climático, gigantescas masas de material incandescente disparadas desde el Sol, el colapso ecológico y el inicio de una repentina era de hielo.

El problema, dicen los científicos y expertos en políticas públicas, no son tanto estas amenazas, de las cuales la IA es simplemente la más reciente, sino la dificultad humana innata de ponerlas en perspectiva.

“Toleramos los riesgos a los que estamos acostumbrados pero tememos a los nuevos”, dijo James Hammitt, director del Centro de Análisis de Riesgos de Harvard.

Conducimos autos con más frecuencia de la que volamos en aviones, dijo, así que “las aerolíneas se perciben como peligrosas en comparación con los vehículos de motor, cuando en realidad no lo son”.

La inteligencia artificial, señaló, “obviamente no se entiende ni está bajo nuestro control percibido, por lo que genera una enorme preocupación social”.

Entre los ejecutivos tecnológicos y los investigadores que construyen sistemas de IA, siempre ha habido un contingente que ha advertido sobre el potencial de la IA para destruir a la humanidad.

A corto plazo, dicen algunos, la inteligencia artificial podría ayudar a personas no cualificadas pero malintencionadas a crear virus o sustancias tóxicas capaces de causar enfermedades y muertes generalizadas. Apenas el jueves, Anthropic dijo que había frustrado varios intentos de científicos que estaban realizando investigaciones que potencialmente podrían conducir al desarrollo de armas biológicas.

A más largo plazo, quienes advierten sobre los peligros potenciales de la IA argumentan que las empresas tecnológicas podrían dotar a los sistemas de IA de mayor autonomía, conectarlos a internet e incluso vincularlos a infraestructura vital, incluidas las redes eléctricas, los mercados bursátiles y las armas militares. Una vez que estén conectados a esta infraestructura, argumentan, los sistemas de IA podrían causar problemas de maneras inesperadas.

Hoy en día, cuando los sistemas de IA se descontrolan, empresas como OpenAI simplemente pueden apagarlos. Pero a algunos expertos les preocupa que los sistemas futuros se resistan a los esfuerzos por apagarlos.

Por ahora, estas son preocupaciones hipotéticas.

“Estamos muy lejos”, dijo Oren Etzioni, catedrático de la Universidad de Washington y director ejecutivo fundador del Instituto Allen de Inteligencia Artificial. “Si tuviera que preocuparme ya sea por una IA que escape del laboratorio y mate a millones de personas o por un virus que escape y mate a millones, no hay competencia. La preocupación es el virus”.

Resulta que, incluso el ántrax tiene una probabilidad razonable de acabar con la humanidad.

El ántrax ha existido desde la antigüedad, pero más recientemente ha sido uno de los favoritos de las naciones rebeldes que desarrollan programas de armas biológicas.

Los científicos saben desde hace mucho tiempo que tan solo un galón de ántrax, si se distribuye adecuadamente, podría acabar con la vida humana en la Tierra. Pero eso no ha sucedido, a pesar de que desde hace mucho tiempo se sospecha que Corea del Norte y otros estados beligerantes (incluido Irán) albergan el germen letal.

Lo que a menudo se pierde en los pánicos frenéticos de la vida moderna es que, al menos con las amenazas intencionales, la simple y tradicional disuasión puede salvar la situación. Los actores estatales son reacios a desatar el ántrax sobre un enemigo porque enfrentarán represalias, lo que convierte un ataque en un suicidio, lo que crea un incentivo para la moderación.

El Centro de Harvard, fundado en 1989, busca poner estos numerosos escenarios catastróficos en perspectiva, especialmente los que no se pueden disuadir, como los riesgos ambientales y las principales amenazas a la salud humana. Busca aplicar ciencia de decisiones, economía y evaluación de riesgos para evaluar y mejorar la formulación de políticas.

De manera similar, la NASA depende de las supercomputadoras en su Proyecto de Evaluación de Amenazas de Asteroides. En general, la agencia espacial sitúa el riesgo en este siglo de un impacto de asteroide que pondría en peligro la existencia humana en esencialmente cero. Y calcula que los terrícolas pueden (con toda probabilidad) dar un respiro de alivio durante al menos los próximos mil años.

¿Y CÓMO EVALÚAN LOS CIENTÍFICOS EXPERTOS EL RIESGO DE UNA PANDEMIA MUNDIAL QUE ACABE CON LA MAYOR PARTE DE LA VIDA HUMANA?

Consideran que la amenaza es baja, si no nula. Toby Ord, investigador de la Universidad de Oxford, en su libro de 2020 The Precipice: Existential Risk and the Future of Humanity (El precipicio: el riesgo existencial y el futuro de la humanidad), situó el riesgo a 100 años de una catástrofe existencial por una pandemia en uno de cada 30, o aproximadamente una probabilidad del 3 por ciento.

Lo que diferencia a los catastrofistas de la industria tecnológica de, digamos, un científico de aerolíneas que evalúa los riesgos de accidentes, es que muchos ejecutivos e investigadores de IA tenían esas creencias extremas incluso antes de que la tecnología comenzara a mostrar su poder. Creen que el riesgo existencial es un problema grave en parte porque siempre lo han creído.

“Yo estaba ahí cuando se desarrolló esta subcultura”, dijo Zack Korman, fundador de la empresa de seguridad de IA Embroidery. Se refería a su tiempo en la Universidad de Oxford, cuando era un semillero del movimiento de “altruismo eficaz”, en el que se incubaron por primera vez muchos de estos temores de riesgo existencial de la IA. Demasiados pensadores sobre el tema hoy en día, dijo Korman, “interpretan todos los eventos a la luz de esta historia que se ha contado durante más de una década”.

Sin embargo, muchos de los principales investigadores del mundo no comparten esas creencias. Dicen que los temores están enormemente exagerados. Y los científicos fuera de Silicon Valley tienden a tener una visión muy diferente sobre la amenaza de la IA.

“La discusión tiene un marco, y es un marco muy particular. Ese es el marco que existía antes de que despegara el aprendizaje profundo, y se ha mantenido ahí”, dijo Branton DeMoss, investigador de IA en Oxford, en referencia al auge de las redes neuronales. “Y no estoy de acuerdo con él”.

En una publicación de blog reciente, Ord resumió los diferentes riesgos del mundo moviéndose al alza y a la baja: una catástrofe climática a la baja, un desastre nuclear al alza. Su opinión sobre las pandemias y la IA es mixta: muchos cambios, pero sin una dirección clara en los riesgos generales.

Los expertos señalan que los riesgos catastróficos y existenciales también pueden mitigarse con planes sólidos y sistemas de alerta temprana. Ante un peligro claro e inminente (como un asteroide en trayectoria de colisión con el planeta), es muy probable que la humanidad se una contra un enemigo común, dejando las disputas en segundo plano.

Ord espera que llegue el día de lo que él llama seguridad existencial.

“Es un estado futuro hipotético del mundo donde el riesgo existencial es bajo y se mantiene bajo”, escribió en su publicación. La humanidad no solo extinguiría los incendios actuales, escribió Ord, sino que “pondría en marcha los mecanismos para garantizar que el fuego ya no represente una amenaza sustancial”.