ChatGPT consume muchísima agua

Des Moines.- El costo de crear un producto de inteligencia artificial como ChatGPT puede ser difícil de medir. Pero una cosa que OpenAI, respaldada por Microsoft, necesitaba para su tecnología era mucha agua, extraída de la cuenca de los ríos Raccoon y Des Moines en el centro de Iowa para enfriar una poderosa supercomputadora que ayudaba a enseñar a sus sistemas de inteligencia artificial cómo imitar la escritura humana.

Mientras corren por capitalizar la moda de la IA generativa, los principales desarrolladores de tecnología, incluidos Microsoft, OpenAI y Google, han reconocido que la creciente demanda de sus herramientas de IA conlleva costos elevados, desde costosos semiconductores hasta un aumento en el consumo de agua.

TE PUEDE INTERESAR: 25 años después, Google es mucho más que un simple navegador de búsqueda, puede presumir 59,972 mdd de beneficio neto en 2022

Pero a menudo son reservados sobre los detalles. Pocas personas en Iowa conocían su estatus como lugar de nacimiento del modelo de lenguaje grande más avanzado de OpenAI, GPT-4, antes de que un alto ejecutivo de Microsoft dijera en un discurso que “fue literalmente hecho junto a campos de maíz al oeste de Des Moines”.

Construir un modelo de lenguaje grande requiere analizar patrones en una enorme cantidad de texto escrito por humanos. Toda esa informática consume mucha electricidad y genera mucho calor. Para mantenerlo fresco en los días calurosos, los centros de datos necesitan bombear agua, a menudo a una torre de enfriamiento fuera de sus edificios del tamaño de un almacén.

En su último informe medioambiental, Microsoft reveló que su consumo mundial de agua aumentó un 34% entre 2021 y 2022 (a casi mil 700 millones de galones, o más de 2 mil 500 piscinas olímpicas), un fuerte aumento en comparación con años anteriores que investigadores externos relacionan con su investigación de IA.

“Es justo decir que la mayor parte del crecimiento se debe a la IA”, incluida “su fuerte inversión en IA generativa y su asociación con OpenAI”, dijo Shaolei Ren, investigador de la Universidad de California en Riverside, que ha estado tratando de calcular la Impacto ambiental de los productos de IA generativa como ChatGPT.

En un artículo que se publicará a finales de este año, el equipo de Ren estima que ChatGPT bebe 500 mililitros de agua (cerca de lo que hay en una botella de agua de 16 onzas) cada vez que le haces una serie de entre 5 y 50 indicaciones o preguntas. La oferta varía según dónde se encuentren sus servidores y la temporada. La estimación incluye el uso indirecto de agua que las empresas no miden, como para enfriar las plantas de energía que suministran electricidad a los centros de datos.

TE PUEDE INTERESAR: OpenAI, rumbo a generar sus primeros mil mdd en ventas

“La mayoría de la gente no es consciente del uso de recursos subyacente a ChatGPT”, dijo Ren. “Si no se es consciente del uso de los recursos, entonces no hay manera de que podamos ayudar a conservarlos”.

Google informó un crecimiento del 20% en el uso de agua en el mismo período, lo que Ren también atribuye en gran medida a su trabajo con IA. El aumento de Google no fue uniforme: fue constante en Oregon, donde su uso de agua ha atraído la atención del público, mientras que se duplicó fuera de Las Vegas. También tenía sed en Iowa, donde atraía más agua potable a sus centros de datos de Council Bluffs que a cualquier otro lugar.

En respuesta a preguntas de The Associated Press, Microsoft dijo en un comunicado esta semana que está invirtiendo en investigación para medir la huella energética y de carbono de la IA “mientras trabaja en formas de hacer que los sistemas grandes sean más eficientes, tanto en capacitación como en aplicación”.

“Continuaremos monitoreando nuestras emisiones, aceleraremos el progreso y al mismo tiempo aumentaremos nuestro uso de energía limpia para alimentar los centros de datos, compraremos energía renovable y otros esfuerzos para cumplir nuestros objetivos de sostenibilidad de ser carbono negativo, agua positiva y cero residuos para 2030”, afirmó.

OpenAI se hizo eco de esos comentarios en su propia declaración del viernes, diciendo que está “pensando mucho” en el mejor uso de la potencia informática.

TE PUEDE INTERESAR: Google apuesta a la Inteligencia Artificial para crear consejero de vida

“Reconocemos que entrenar modelos grandes puede consumir mucha energía y agua y trabajamos para mejorar la eficiencia”, dijo.

Microsoft realizó su primera inversión de mil millones de dólares en OpenAI, con sede en San Francisco, en 2019, más de dos años antes de que la startup presentara ChatGPT y despertara la fascinación mundial por los avances de la IA. Como parte del acuerdo, el gigante del software suministraría la potencia informática necesaria para entrenar los modelos de IA.

Para hacer al menos parte de ese trabajo, las dos compañías buscaron West Des Moines, Iowa, una ciudad de 68 mil habitantes donde Microsoft ha estado acumulando centros de datos para impulsar sus servicios de computación en la nube durante más de una década. Su cuarto y quinto centro de datos abrirán allí a finales de este año.

“Los están construyendo lo más rápido que pueden”, dijo Steve Gaer, quien era alcalde de la ciudad cuando Microsoft llegó a la ciudad. Gaer dijo que la compañía se sintió atraída por el compromiso de la ciudad de construir infraestructura pública y contribuyó con una suma “asombrosa” de dinero a través del pago de impuestos que respaldan esa inversión.

Microsoft dijo por primera vez que estaba desarrollando una de las supercomputadoras más poderosas del mundo para OpenAI en 2020, negándose a revelar su ubicación a AP en ese momento, pero describiéndola como un “sistema único” con más de 285 mil núcleos de semiconductores convencionales y 10 mil procesadores gráficos, un tipo de chip que se ha vuelto crucial para las cargas de trabajo de IA.

Los expertos han dicho que puede tener sentido “preentrenar” un modelo de IA en una única ubicación debido a las grandes cantidades de datos que deben transferirse entre los núcleos informáticos.

TE PUEDE INTERESAR: No a la IA; medios comienzan a negar su contenido para entrenar inteligencia artificial

No fue hasta finales de mayo que el presidente de Microsoft, Brad Smith, reveló que había construido su “centro de datos de supercomputación de IA avanzada” en Iowa, exclusivamente para permitir a OpenAI entrenar lo que se ha convertido en su modelo de cuarta generación, GPT-4. El modelo ahora impulsa las versiones premium de ChatGPT y algunos de los productos propios de Microsoft y ha acelerado un debate sobre cómo contener los riesgos sociales de la IA.

“Fue hecho por estos extraordinarios ingenieros en California, pero en realidad fue hecho en Iowa”, dijo Smith.

En cierto modo, West Des Moines es un lugar relativamente eficiente para entrenar un potente sistema de inteligencia artificial, especialmente en comparación con los centros de datos de Microsoft en Arizona, que consumen mucha más agua para la misma demanda informática.

Durante gran parte del año, el clima de Iowa es lo suficientemente fresco como para que Microsoft utilice el aire exterior para mantener la supercomputadora funcionando correctamente y ventilar el calor del edificio. Sólo cuando la temperatura supera aproximadamente 85 grados Fahrenheit (los 29.3 grados Celsius) extrae agua, dijo la compañía en un comunicado público.

Todavía puede haber mucha agua, especialmente en verano. En julio de 2022, un mes antes de que OpenAI diga que completó su entrenamiento de GPT-4, Microsoft bombeó alrededor de 11.5 millones de galones de agua a sus centros de datos de Iowa, según West Des Moines Water Works. Esto representa aproximadamente el 6% de toda el agua utilizada en el distrito, que también suministra agua potable a residentes de la ciudad.

En 2022, un documento de West Des Moines Water Works dijo que él y el Gobierno de la ciudad “sólo considerarán futuros proyectos de centros de datos” de Microsoft si esos proyectos pueden “demostrar e implementar tecnología para reducir significativamente el uso máximo de agua de los niveles actuales” para preservar el suministro de agua para necesidades residenciales y otras necesidades comerciales.

Microsoft dijo el jueves que está trabajando directamente con las empresas de agua para abordar sus comentarios. En una declaración escrita, la empresa de agua dijo que la compañía ha sido un buen socio y ha estado trabajando con funcionarios locales para reducir su huella hídrica y al mismo tiempo satisfacer sus necesidades.