Un antiguo hotel muestra el auge de la tecnorreligión de Silicon Valley

BERKELEY- Este complejo cerrado, que ocupa gran parte de una manzana, incluye cinco edificios y un pequeño parque salpicado de rosales, fuentes de piedra y estatuas neoclásicas. Las vidrieras brillan en la última planta del edificio más alto, llamado Bayes House en honor a un matemático y filósofo del siglo XVIII.

Lighthaven es la sede de facto de un grupo que se autodenomina “los racionalistas”. Este grupo tiene muchos intereses relacionados con las matemáticas, la genética y la filosofía. Una de sus creencias fundamentales es que la inteligencia artificial puede ofrecer una vida mejor si no destruye primero a la humanidad. Y los racionalistas creen que depende de las personas que crean la IA garantizar que sea una fuerza para el bien común.

TE PUEDE INTERESAR: Inteligencia Artificial en los negocios. ¡El futuro es hoy!

Los Racionalistas llevaban años hablando de los riesgos de la IA antes de que OpenAI creara ChatGPT, que popularizó la IA y revolucionó Silicon Valley. Su influencia se ha extendido silenciosamente por muchas empresas tecnológicas, desde gigantes del sector como Google hasta pioneros de la IA como OpenAI y Anthropic.

Muchos de los nombres más importantes del mundo de la IA, como Shane Legg, cofundador de DeepMind de Google; Dario Amodei, director ejecutivo de Anthropic; y Paul Christiano, antiguo investigador de OpenAI que ahora dirige el trabajo de seguridad en el Centro de Estándares e Innovación en IA de Estados Unidos, han sido influenciados por la filosofía racionalista. Elon Musk, que dirige su propia empresa de IA, ha afirmado que muchas de las ideas de la comunidad coinciden con las suyas.

Musk conoció a su expareja, la estrella del pop Grimes, después de que ambos hicieran la misma referencia descarada a una creencia racionalista llamada “el basilisco de Roko”. Este elaborado experimento mental sostiene que, , cuando llegue una IA todopoderosa, castigará a todos los que no hayan hecho todo lo posible para que existiera.

Sin embargo, estos líderes de la industria tecnológica no llegan a autodenominarse racionalistas, a menudo porque esa etiqueta ha sido objeto de burlas a lo largo de los años.

La comunidad racionalista está estrechamente entrelazada con el movimiento del altruismo eficaz, que tiene como objetivo rehacer la filantropía calculando cuántas personas se beneficiarían de cada donación. Esta forma de utilitarismo tiene como objetivo beneficiar no solo a las personas que están vivas hoy, sino a todas las personas que vivirán alguna vez. Muchos altruistas eficaces, o EA, han decidido que la mejor manera de beneficiar a la humanidad es protegerla de la destrucción por parte de la IA.

Los racionalistas suelen identificarse como EA. Y los EA suelen adoptar filosofías racionalistas. Juntos, estos dos movimientos han invertido cientos de millones de dólares en empresas, laboratorios de investigación y think tanks que tienen como objetivo construir IA y garantizar su seguridad. Entre los principales financiadores se encuentran magnates tecnológicos como Jaan Tallinn, creador del servicio de llamadas por Internet Skype, y Dustin Moskovitz, cofundador de Facebook.

TE PUEDE INTERESAR: Estudio revela que la música generada por IA puede emocionar más que la humana

“Han construido un ecosistema vasto y bien financiado para difundir, amplificar y validar su ideología”, afirma Mollie Gleiberman, antropóloga que ha estudiado el auge de los racionalistas y el altruismo eficaz.

Independientemente de si sus preocupaciones casi religiosas sobre la IA son acertadas o erróneas, la industria tecnológica está teniendo en cuenta sus creencias.

A finales de 2023, el director ejecutivo de OpenAI, Sam Altman, fue destituido temporalmente de su cargo porque los miembros del consejo de administración vinculados a los movimientos racionalista y EA afirmaron que no podían confiar en él para crear una IA que beneficiara a la humanidad.

Lighthaven es una manifestación física de hasta qué punto estas ideas han impregnado Silicon Valley y el área de la bahía de San Francisco: un templo moderno.

El edificio principal, llamado Aumann Hall, en honor al teórico israelí de juegos Robert Aumann, cuenta con siete dormitorios y múltiples zonas comunes para fiestas y conferencias de fin de semana. Eigenspace, llamado así por un concepto matemático esotérico, incluye un gimnasio y otra zona común con capacidad para 40 personas. Doscientas personas pueden dispersarse por el parque cubierto de césped sintético, que también cuenta con sillas y fogatas eléctricas.

“Es un lugar donde pueden ocurrir cosas fortuitas. Algunas personas lo comparan con un campus universitario o con el MIT Media Lab”, dice Alex K. Chen, miembro veterano de la comunidad, en referencia al laboratorio de diseño del Instituto Tecnológico de Massachusetts.

Cada primavera, Lighthaven acoge LessOnline, una conferencia en la que se reúnen en persona blogueros y comentaristas de sitios web racionalistas. Todos los martes a las 6:30 p. m., casi como si se tratara de un estudio bíblico, la gente se reúne para leer y debatir The Sequences, el texto original que dio origen al movimiento.

“La religión es texto, historia y ritual”, afirma Ilia Delio, hermana franciscana y profesora de teología en la Universidad de Villanova. “Todo eso se aplica aquí”.

El movimiento racionalista es tanto un estilo de vida como un conjunto de ideas. Sus seguidores combinan su interés por la IA con consejos sobre cómo vivir la vida y gestionar la carrera profesional. La comunidad abraza ideas poco convencionales, como el poliamor y la genética de la inteligencia, así como el altruismo eficaz, que también es un estilo de vida. Y para los aspirantes a desarrolladores de IA, los eventos racionalistas se han convertido en oportunidades esenciales para establecer contactos.

Las reuniones como el programa Machine Learning Alignment and Theory Scholars (MATS), que se celebra cada verano en Lighthaven, son una forma más importante de entrar en el campo de la seguridad de la IA que el mundo académico, según Sonia Joseph, investigadora de IA en la Universidad McGill de Montreal y en el gigante tecnológico Meta.

Los racionalistas surgieron a finales de la década de 2000, cuando un filósofo online llamado Eliezer Yudkowsky escribió The Sequences, una colección de ensayos que enseñaba a la gente a reexaminar el mundo a través de un pensamiento frío y cuidadoso. A menudo, esto implicaba el uso de estadísticas y probabilidades para tomar decisiones informadas. Mit tutorial, mit entretenimiento y mit viaje místico, los ensayos de Yudkowsky se convirtieron en un manual para la comunidad racionalista.

En 2010, Yudkowsky presentó a los fundadores de una empresa británica de IA llamada DeepMind al inversor de capital riesgo Peter Thiel, lo que ayudó a que su empresa despegara. Menos de cuatro años después, DeepMind fue adquirida por Google por 650 millones de dólares. Ahora, su tecnología y sus ejecutivos lideran los esfuerzos en IA del gigante tecnológico.

Yudkowsky también dirigió una organización sin ánimo de lucro dedicada a la seguridad de la IA llamada Machine Intelligence Research Institute en Berkeley. Poco a poco, el movimiento se globalizó. Aparecieron casas compartidas por grupos racionalistas en ciudades como Nueva York y Boston. Se celebraron reuniones en Gran Bretaña, los Países Bajos y Australia.

La primera cumbre internacional de Altruismo Eficaz se celebró en 2013 en una casa compartida en Oakland, California, que servía de sede para Leverage Research, una startup con profundos vínculos con la comunidad racionalista. Figuras destacadas de la comunidad racionalista, como Yudkowsky y Tallinn, ayudaron a orientar el movimiento EA hacia sus preocupaciones comunes sobre la inteligencia artificial.

Las críticas a los movimientos racionalista y EA han sido frecuentes, incluyendo denuncias de acoso sexual en casas compartidas y quejas sobre el interés de la comunidad por la eugenesia y la ciencia racial. La reputación de la comunidad se vio dañada en 2023 después de que Sam Bankman-Fried, fundador de la plataforma de intercambio de criptomonedas FTX, que era uno de los principales financiadores de los dos movimientos, fuera condenado por fraude. Pero el movimiento sigue prosperando.

Bankman-Fried se había convertido en un operador financiero para beneficiar al mayor número de personas a través de las causas de EA, incluida la lucha por la seguridad de la IA. Al final, fue declarado culpable de robar 8000 millones de dólares a sus clientes.

“Cuando piensas en los miles de millones que están en juego y en la transformación radical de vidas en todo el mundo debido a la excéntrica visión de este grupo, ¿cuánto más sectario tiene que ser para que se considere una secta? No mucho”, afirmó Greg M. Epstein, capellán de Harvard que fue testigo del auge de las comunidades racionalistas y EA en la universidad durante la última década y autor de “Tech Agnostic”, un libro que analiza la tecnología como una nueva religión.

“¿Qué suelen hacer las religiones sectarias y fundamentalistas?”, añadió Epstein. “Hacen que la gente ignore su sentido común sobre los problemas del aquí y ahora para centrar su atención en un futuro fantástico”.

Cada diciembre, cientos de miembros de la comunidad se reúnen en lugares como el planetario Chabot, en las colinas de Oakland, y la sala de conciertos Freight and Salvage, en el centro de Berkeley, para celebrar una tradición navideña anual. Celebran el solsticio de invierno, la noche más larga del año, con canciones, historias, humor y preguntas sobre el destino del mundo.

La celebración más reciente comenzó con una canción titulada Uplift, que alababa el poder de la tecnología a lo largo de la historia de la humanidad. Acompañados por guitarra, violín y teclados, dos cantantes comenzaron en la Edad de Piedra y terminaron en el futuro. “¡Luz para impulsar las velas, leer los datos, las ciudades brillan! Las manos teclean, hacen clic con el ratón, ¡y allá vamos!”, cantaban. “¡Nuestras voces llegan a todo el mundo y al espacio! ¡Enviadnos a colonizar otro lugar!”.

Pero Ozy Brennan, un racionalista veterano del Área de la Bahía que actuó como maestro de ceremonias esa noche, advirtió de los nubarrones que se avecinaban. “Nos enfrentamos a una serie de amenazas que nuestros antepasados no podrían haber imaginado: la guerra nuclear, las pandemias bioingenierizadas, la inteligencia artificial”, afirmó. “Si fracasamos, y hay muchas posibilidades de que así sea, el 100 % de los niños morirán, al igual que todos los demás”.

El edificio principal de Lighthaven, una casa de estilo Tudor con fachada rosa y blanca, fue construido en 1905. En la década de 1970, se convirtió en un bed and breakfast llamado Rose Garden Inn y pronto se incorporó a la lista de lugares históricos de Berkeley.

Hace unos tres años, la propiedad fue comprada por 16,5 millones de dólares por una empresa llamada Lightcone Rose Garden, según los registros de la propiedad. La empresa era propiedad de Lightcone Infrastructure, que gestiona LessWrong, la principal sede online de los racionalistas. “Cono de luz” es un término físico que los racionalistas y los EA suelen utilizar para describir el volumen de acontecimientos futuros en los que pueden influir desde el momento actual.

Ahora, Lightcone también gestiona Lighthaven. Entre el personal que supervisa la propiedad se encuentra Ray Arnold, quien organizó el primer Solsticio Secular. Según una demanda judicial, la compra se financió con dinero de dos de los mayores financiadores de la comunidad: Tallinn y Bankman-Fried. Los fondos de Bankman-Fried, que se utilizaron como depósito, fueron devueltos posteriormente como parte de un acuerdo judicial.

No siempre se permite la entrada a personas ajenas a Lighthaven. Oliver Habryka, director de Lightcone, rechazó una solicitud de The New York Times para visitar las instalaciones.

El año pasado, Joseph, investigador de McGill y Meta, pasó el verano en Lighthaven tras ser aceptado en el programa MATS. Joseph, que ahora tiene casi 30 años, descubrió la comunidad racionalista cuando tenía 14 años, al empezar a leer “Harry Potter y los métodos de la racionalidad”. En la novela serializada de 660 000 palabras, también escrita por Yudkowsky, Harry Potter se niega a aceptar el mundo de la magia basándose en la fe ciega y se apoya en las leyes de la filosofía, la ciencia y el pensamiento racional. Esto también atrajo a cientos de personas a la comunidad.

“Atrae a los marginados”, dijo Joseph. “Si eres un chico gay en Kansas que no recibe ningún apoyo de la religión, puedes descubrir Harry Potter y los métodos de la racionalidad y encontrar una comunidad que te acepta de verdad”.

Al igual que LessWrong, MATS puede ser una vía de acceso a puestos de trabajo en empresas de IA. Los candidatos al programa suelen ser seleccionados por los mejores investigadores en IA de empresas como Anthropic. Pero para Joseph y otros, el programa es más que un mero cambio de carrera.

Al recordar su verano en Lighthaven, se acordó de las rosas y los querubines de piedra que bordeaban el camino hacia un edificio de tres pisos con ventanas de vidrieras. Recordó el espejo reluciente al pie de las escaleras que le evocaba “Harry Potter y los métodos de la racionalidad”. Recordó el letrero de una puerta cerrada que decía: “Oficina de Eliezer Yudkowsky”.

“Todo esto parece mítico”, dijo. “Incluso los científicos no racionalistas lo encuentran fascinante, al igual que lo fue el Proyecto Manhattan. Queremos trabajar en algo mítico”. c.2025 The New York Times Company.

Por Cade Metz, The New York Times.