Algunas empresas tecnológicas ya lo hacen. Google y Microsoft declararon a WIRED que sus funciones de búsqueda utilizan modelos más pequeños cuando es posible, lo que también puede significar respuestas más rápidas para los usuarios. Pero, en general, los proveedores de modelos han hecho poco por incitar a los usuarios a consumir menos energía. La rapidez con la que un modelo responde a una pregunta tiene un gran impacto en su consumo de energía, pero eso no se explica al usuario cuando se presentan los productos de IA, indica Noman Bashir, el Becario de Informática e Impacto Climático del Consorcio Clima y Sostenibilidad del MIT.
“El objetivo es ofrecer toda esta información de la forma más rápida posible para que el usuario no abandone la plataforma. Si ChatGPT de repente empieza a darte una respuesta a los cinco minutos, irás a alguna otra herramienta que te dé una respuesta inmediata”, explica.
Desde la escritura del código hasta las pruebas de la nueva Alexa+, los ingenieros de Amazon usaron la IA generativa durante todo el proceso de creación. Hablamos con Daniel Rausch, de Amazon, sobre la próxima versión del asistente de voz.
Patrocinado por TecnoArtesanos ¿Tu empresa ya está usando IA? Automatizamos procesos, integramos asistentes inteligentes y conectamos tus sistemas. Descubre cómo →Las condiciones en las que se ejecutan las consultas en el mundo real importan
Sin embargo, hay muchas otras consideraciones a tener en cuenta a la hora de calcular el consumo energético de las consultas complejas de IA, porque no se trata solo de algo teórico. Bashir señala que el hardware físico marca la diferencia a la hora de calcular las emisiones. Dauner realizó sus experimentos en una GPU Nvidia A100, pero esta unidad de procesamiento gráfico, diseñada especialmente para cargas de trabajo de IA y que, según la compañía, cada vez es más popular, consume mucha más energía.
La infraestructura física también marca la diferencia cuando hablamos de emisiones. Los grandes centros de datos necesitan sistemas de refrigeración, luz y equipos de red, que añaden más energía; suelen funcionar en ciclos diurnos, descansando por la noche, cuando las consultas son menores. También están conectados a distintos tipos de redes, según su ubicación: las que funcionan mayoritariamente con combustibles fósiles y las que lo hacen con energías renovables.
Bashir compara los estudios que analizan las emisiones de las consultas de IA sin tener en cuenta las necesidades de los centros de datos con el hecho de levantar un auto, pisar el acelerador y contar las revoluciones de una rueda como forma de realizar una prueba de eficiencia de combustible: “No se tiene en cuenta el hecho de que esta rueda tiene que transportar al vehículo y al pasajero”.
Tal vez lo más importante para nuestra comprensión de las emisiones de la IA sea que los modelos de código abierto, como los que Dauner utilizó en su estudio, representan una fracción de los modelos de IA que utilizan los consumidores hoy en día. Entrenar un modelo y actualizar los modelos desplegados consume una enorme cantidad de energía, cifras que muchas grandes empresas mantienen en secreto. No está claro, por ejemplo, si la estadística de la bombilla sobre ChatGPT de Altman, de OpenAI, tiene en cuenta toda la energía utilizada para entrenar los modelos que alimentan el chatbot. Sin una mayor divulgación, el público simplemente se está perdiendo gran parte de la información necesaria para empezar a entender hasta qué punto esta tecnología está afectando al planeta.
“Si tuviera una varita mágica, obligaría a cualquier empresa que pusiera en producción un sistema de inteligencia artificial, en cualquier parte del mundo, en cualquier aplicación, a revelar las cifras de carbono”, afirma Luccioni.
Artículo originalmente publicado en WIRED. Adaptado por Alondra Flores.
