Inteligencia artificial: la carrera que nadie quiere frenar

Durante la Guerra Fría, Estados Unidos y la Unión Soviética entendieron una regla incómoda: una carrera sin límites podía destruirlos, pero ninguno podía permitirse frenar primero. Algo parecido comienza a ocurrir con la inteligencia artificial.

No porque un modelo sea igual a una bomba nuclear, sino porque empresas y países están atrapados en la misma lógica: todos pueden reconocer que convendría avanzar con cuidado, pero nadie quiere ser el único que baje la velocidad.

Dario Amodei, director de Anthropic, publicó hace unos días una frase extraordinaria para alguien que compite por construir los modelos más poderosos: debemos reducir el ritmo al que mejoramos sus capacidades. Sam Altman, de OpenAI, lo respaldó. Antes, mil 386 trabajadores de los principales laboratorios habían pedido mecanismos internacionales para desacelerar el desarrollo si los riesgos crecían.

Podría contarse como una historia de empresarios responsables intentando proteger a la humanidad. También existe una lectura menos generosa. Las grandes compañías pueden pagar evaluadores, abogados y costosos procesos de cumplimiento. Un laboratorio pequeño, probablemente no. Una regulación mal diseñada podría hacer más segura a la IA y proteger a quienes llegaron primero. La seguridad y el interés comercial pueden coexistir.

Hay además una tercera mirada. La filósofa Carissa Véliz propone dejar de hablar de estos sistemas como si tuvieran deseos o voluntad. Lo compara con observar una tormenta y concluir que los dioses están enojados, en lugar de describir el fenómeno meteorológico.

Un agente encargado de conseguir lugar en una clase de gimnasio aprovechó una vulnerabilidad y canceló la reservación de otra persona. Se contó como si la IA hubiera decidido romper las reglas. Más probablemente, persiguió el objetivo recibido sin que nadie incorporara límites claros.

También OpenAI presentó como avance matemático una solución que dependía de ideas desarrolladas antes por dos investigadores españoles. Parte de la supuesta genialidad de la máquina era trabajo humano oculto detrás del espectáculo.

Eso no vuelve inofensiva a la IA. Una máquina no necesita malas intenciones para causar daño; basta con que ejecute eficazmente una instrucción equivocada. El peligro quizá no sea una máquina que decide romper las reglas, sino una construida por personas que nunca se preocuparon por incluirlas.

La discusión también ocurre dentro de una competencia geopolítica. Stanford calcula que Estados Unidos invirtió en IA más de 23 veces el capital privado invertido en China. A pesar de esa diferencia, en marzo la distancia entre el mejor modelo estadounidense y el mejor modelo chino era de apenas 2.7 por ciento.

China impulsa modelos abiertos o de pesos abiertos, más baratos y suficientemente buenos para muchas empresas. Ahí aparece el dilema: si las compañías estadounidenses reducen la velocidad, ¿también lo harán las chinas? Y si OpenAI frena, ¿puede confiar en sus competidores?

La comparación con la Guerra Fría tiene un límite. Fabricar un arma nuclear requiere instalaciones difíciles de ocultar. Un modelo puede copiarse, modificarse y distribuirse por el mundo. Verificar que todos hayan frenado sería mucho más complicado.

Tampoco es la primera vez que una tecnología nos hace sentir que todo cambiará. En 1998 había unos 143 millones de usuarios de internet. Se discutía si desaparecerían los periódicos, las tiendas, las oficinas y hasta las relaciones personales. No ocurrió exactamente como se imaginaba, pero internet transformó casi todas esas cosas.

Después llegaron los teléfonos inteligentes y las redes sociales. Facebook necesitó alrededor de ocho años para alcanzar mil millones de usuarios mensuales. OpenAI afirma que sus productos superaron los mil millones de usuarios semanales en menos de cuatro años. Las mediciones no son idénticas, pero la velocidad permite dimensionar el momento. Stanford estima que la IA generativa alcanzó 53 por ciento de adopción en tres años, más rápido que la computadora personal o internet.

Bill Gates advirtió esta semana que la IA puede convertirse en “el mayor igualador” o en “la peor fuente de injusticia”. Si el mercado actúa solo, explicó, las mejores herramientas serán desarrolladas primero para quienes pueden pagarlas, no necesariamente para quienes más podrían beneficiarse.

La brecha no será únicamente entre Estados Unidos y China. Puede abrirse entre empresas grandes y pequeñas, escuelas privadas y públicas, trabajadores capacitados y quienes nunca tengan acceso, o países que construyan sus sistemas y países obligados a depender de ellos.

Una persona puede no utilizar ChatGPT y aun así vivir sus consecuencias. La IA puede aparecer en su trabajo, en la decisión de un banco, en la educación de sus hijos o en las noticias que consume. No hace falta usarla para vivir dentro de la economía que transforma.

Necesitamos reglas que respondan a capacidades y daños concretos, no al nombre de una compañía: evaluaciones independientes, transparencia sobre incidentes y responsabilidad por los daños, sin convertir el cumplimiento en un privilegio reservado para quienes tienen miles de millones de dólares.

El debate real no es solamente cuánto debemos temer a la inteligencia artificial. Es qué valores estamos incorporando en ella, quién podrá desarrollarla, quién recibirá sus beneficios y quién escribirá las reglas para todos los demás.

El mundo quizá no se termine en 2030. Lo que puede terminarse mucho antes es nuestra oportunidad de decidir quién controlará el mundo que viene.