El papa y cofundador de Anthropic lanzarán encíclica del pontífice sobre IA y la dignidad humana

El Vaticano informó que el papa León XIV y el cofundador de la empresa de inteligencia artificial Anthropic lanzarán la primera encíclica del pontífice el 25 de mayo, anunció el lunes el Vaticano en referencia a un documento sobre el cuidado de la dignidad humana en la era de la IA.

Anthropic se ha presentado como la empresa de IA que más prioridad le da a la seguridad y la mitigación de riesgos. Como resultado, la presencia de su director Christopher Olah en el Vaticano es significativa y sugiere que la postura del pontífice sobre la IA se convertirá en un nuevo foco de tensión con el gobierno de Trump.

El gobierno estadounidense ordenó en febrero a todas las agencias que dejaran de usar la tecnología de inteligencia artificial de Anthropic e impuso otras sanciones importantes por negarse a permitir que el ejército use su tecnología sin restricciones. Anthropic está demandando al gobierno, al que acusa de tomar represalias en su contra debido a su intento de imponer límites sobre cómo puede desplegarse su tecnología de IA.

León, que ha convertido la IA en una prioridad de su joven pontificado, está profundamente preocupado por el uso de esa tecnología para fines bélicos y ha pedido una mejor supervisión humana.

La presencia del papa en el lanzamiento del documento Magnifica Humanitas también es significativa, ya que este tipo de presentaciones suelen realizarse en la sala de prensa del Vaticano con unos pocos funcionarios seleccionados e invitados que responden a preguntas de reporteros sobre el documento.

ANTHROPIC MANTIENE SU POSTURA SOBRE UN USO SEGURO DE LA IA

El director de Anthropic, Dario Amodei, había trabajado en OpenAI antes de que él y un grupo renunciaran para formar Anthropic en 2021, en desacuerdo con el director Sam Altman sobre la seguridad de la IA. La empresa nueva prometió un enfoque más claro en la seguridad de la tecnología superior a la humana llamada inteligencia artificial general que ambas firmas de San Francisco buscan construir.

En su sitio web, Anthropic escribió sobre la competencia entre Estados Unidos y China en IA y las amenazas de que la tecnología caiga en manos de regímenes autoritarios. Advirtió que Estados Unidos y sus aliados democráticos deben seguir liderando el desarrollo de la IA e imponer reglas y normas sobre su expansión, para evitar que China y otros regímenes autoritarios la desplieguen para fines de represión y vigilancia.

A principios de este año, Anthropic, de propiedad privada, afirmó que su valoración creció hasta 380 mil millones de dólares, posicionándose con su chatbot Claude junto a rivales como OpenAI y el fabricante de cohetes de Elon Musk, SpaceX, que recientemente se fusionó con su startup de IA xAI, creadora del chatbot Grok.