Si no te preocupas por el consumo energético de Netflix, no lo hagas con la IA

Hace unos días, publiqué un mapa sobre las diferentes elementos que son necesarios para el funcionamiento de la Inteligencia Artificial Generativa, destacando el consumo de energía y agua. Como no profundicé en los números, decidí investigar en detalle para ver qué se sabe realmente sobre este consumo. Me he basado en varios papers y datos publicados por los principales actores, que hay que tomar con cautela, pero aquí están los datos.

Primero, es crucial diferenciar entre el entrenamiento (el proceso de crear el modelo) y la inferencia (el uso diario a través de consultas). La inferencia es el foco principal de este análisis, ya que es la que se produce a escala masiva.

Para poner el consumo de la IA en perspectiva, miremos primero a los grandes centros de datos y al streaming.

1. Consumo de los Centros de Datos Los centros de datos son la columna vertebral de la infraestructura digital global.

• Impacto global: La Agencia Internacional de la Energía (IEA) estima que los centros de datos consumieron 460 TWh de electricidad en 2022, más que el consumo total de Francia ese mismo año. Las previsiones apuntan a que esta cifra podría duplicarse hasta los 1.000 TWh para 2026.
• Caso específico - AWS en Aragón: Se estima que la región cloud de AWS en Aragón consumirá 10.900 GWh/año cuando esté a pleno rendimiento. En términos de agua, se prevé un consumo de 5.000 m³/día, un dato significativo si lo comparamos con la dotación de agua del Ebro en la región, que es de 9.000 m³. AWS se ha comprometido a reponer más agua de la que consume globalmente para 2030.

2. Consumo del Streaming (Netflix) Ver una película parece inofensivo, pero también tiene su huella.

• Electricidad: El consumo eléctrico de una hora de streaming en Netflix es de aproximadamente 0,077 kWh. La distribución de este consumo es interesante: el 72% corresponde al dispositivo que usamos, el 23% a la transmisión y solo el 5% a los centros de datos. Esto demuestra que la eficiencia del dispositivo (por ejemplo, un smartphone vs. una TV 4K) influye más que la red en sí.
• Emisiones: Una hora de streaming genera alrededor de 36 gCO₂e, una cifra muy inferior a las estimaciones iniciales de 1,6 kgCO₂e que circularon hace unos años, gracias a las mejoras en la eficiencia de las redes y los centros de datos.

Ahora, volvamos al mundo de los LLMs (Large Language Models), donde la transparencia aún es limitada, pero se han publicado algunos datos interesantes.

1. Datos de Google Según su propio paper “Measuring the environmental impact of delivering AI at Google Scale”, Google afirma que el consumo de su asistente Gemini es sorprendentemente bajo.

• Consumo: Una consulta de texto promedio a Gemini consume solo 0,24 Wh, una cifra significativamente menor que muchas estimaciones públicas.
• Comparación: Este consumo equivale a ver solo 9 segundos de televisión y consume el equivalente a cinco gotas de agua (0,26 mL). Además, Google ha logrado una reducción de 33 veces en el consumo de energía y 44 veces en la huella de carbono para la consulta promedio de Gemini en un año.

2. Datos de OpenAI La información oficial de OpenAI es escasa; la última publicación de consumo energético fue para GPT-3 en 2020.

• Estimaciones: El consumo de energía por consulta (sin especificar modelo) se estima en 0,34 Wh, mientras que el consumo de agua es de aproximadamente 0,32 mL.
• Arquitectura: Aunque no hay datos oficiales de consumo para GPT-4 o GPT-5, se sabe que OpenAI ha trabajado en la eficiencia, utilizando una arquitectura Mixture of Experts y hardware más eficiente.

3. Datos de Investigadores Independientes El trabajo de investigadores como los de la Universidad de Rhode Island nos ofrece una visión más detallada y a menudo alarmante.

• GPT-5: Se estima que una respuesta media de ~1.000 tokens de GPT-5 podría consumir hasta 40 Wh (máximo) o 18 Wh (promedio), muy por encima de las cifras de Google.
• Escala: Si extrapolamos este consumo a los 2.500 millones de consultas diarias que se estiman, el consumo diario equivaldría al de 1,5 millones de hogares en EE.UU.
• Factores clave: El consumo de energía aumenta con el razonamiento más largo y la multimodalidad, pero puede reducirse con arquitecturas como Mixture of Experts y hardware más eficiente.

Como muestra la información, no todo el consumo de la IA es igual, y las estimaciones varían drásticamente. Mientras que las grandes compañías como Google publican datos que muestran una eficiencia notable, las estimaciones de investigadores independientes revelan un potencial de consumo masivo, especialmente con la evolución de modelos más complejos y grandes como GPT-5. La lección es clara: si el consumo de Netflix no te quita el sueño, el de los LLMs tampoco debería hacerlo, al menos no de manera general, pero sí debemos estar atentos a la transparencia y la dirección que toma la industria.

Referencias:

How Hungry is AI - Dashboard Overview

The carbon footprint of streaming video: fact-checking the headlines

We did the math on AI’s energy footprint. Here’s the story you haven’t heard.

Measuring the environmental impact of delivering AI at Google Scale