The ultimate carbon cost of a ChatGPT query

Cuando le pedimos a una computadora que escriba una historia, resuelva un problema matemático o resuma un documento, estamos aprovechando una vasta e invisible red de energía y recursos. Estos sistemas, conocidos como modelos de lenguaje de gran tamaño, no piensan de la misma manera que los humanos; en su lugar, procesan información realizando miles de millones de diminutos cálculos matemáticos. Cada vez que un usuario envía un mensaje, el sistema debe activar un hardware potente, a menudo ubicado en enormes centros de datos, para procesar estos números. Este proceso consume electricidad y genera calor, lo que a su vez libera gases de efecto invernadero a la atmósfera. Aunque el acto de escribir una pregunta se siente instantáneo y sin peso, la maquinaria física detrás de ello deja una marca tangible en el planeta. Los científicos han estudiado durante mucho tiempo cuánto utilizan estas máquinas, pero una nueva perspectiva plantea una pregunta diferente: ¿cuál es el verdadero costo a largo plazo de esa energía para el futuro de la humanidad?

Un estudio reciente de Paul Kron busca responder a esto conectando los puntos entre una sola consulta informática y el costo último del cambio climático. La investigación combina datos sobre cuánta energía consumen los chips de las computadoras, cuánto carbono emite la electricidad que los alimenta y el daño económico a largo plazo causado por esas emisiones. El autor introduce un concepto llamado "costo de carbono último", que intenta traducir la contaminación de un solo chat en un valor monetario que refleje el daño causado a las generaciones futuras a lo largo de miles de años. Este enfoque va más allá de simplemente contar el dióxido de carbono para comprender las consecuencias más amplias de nuestros hábitos digitales. El estudio se centra específicamente en el popular chatbot ChatGPT, utilizándolo como un caso de estudio para revelar la huella ambiental oculta de la inteligencia artificial.

Los investigadores comenzaron analizando el costo físico de construir y ejecutar las computadoras que alimentan estos modelos. Calcularon las emisiones generadas durante la fabricación del hardware, como procesadores especializados y servidores, así como la energía utilizada para mantenerlos funcionando. Estimaron que el entrenamiento de un modelo avanzado como GPT-4 requirió una cantidad masiva de potencia de cómputo, liberando un estimado de diez mil toneladas de dióxido de carbono equivalente. Esta es una cantidad de contaminación asombrosa, comparable a las emisiones anuales de miles de personas. Sin embargo, debido a que este modelo es utilizado por millones de personas para miles de millones de preguntas, los investigadores dividieron este enorme total por el número de consultas para encontrar el costo de una sola interacción. Estimaron que el modelo fue utilizado para aproximadamente 1.4 billones de búsquedas durante su principal periodo de operación. Cuando las emisiones de entrenamiento se distribuyen entre todas esas preguntas, la parte correspondiente a cada consulta individual es sorprendentemente pequeña, ascendiendo a una fracción minúscula de un gramo de carbono.

El verdadero peso del costo, sin embargo, proviene de la electricidad utilizada para responder a cada pregunta específica. La cantidad de energía necesaria depende en gran medida de qué tan compleja sea la pregunta y cuántas palabras, o "tokens", tenga que procesar la computadora. Para una conversación simple y corta, el uso de energía es bajo. Pero para tareas compleas, como escribir código, analizar documentos largos o resolver problemas de múltiples pasos, la computadora debe realizar muchos más cálculos. El estudio encontró que una consulta simple podría involucrar mil tokens, mientras que una compleja podría involucrar treinta mil o más. Esta diferencia cambia drásticamente el impacto ambiental. Al calcular la energía requerida para estos diferentes escenarios y aplicar el costo de las emisiones de carbono resultantes, los investigadores llegaron a un precio específico para cada interacción.

El estudio concluye que el costo de carbono último de una sola consulta compleja a un modelo de lenguaje de gran tamaño es de aproximadamente cuarenta centavos. Esta cifra representa el daño estimado a la población humana futura causado por los gases de efecto invernadero emitidos para responder a esa única pregunta. Para una consulta más simple y corta, el costo cae a alrededor de un centavo. Aunque cuarenta centavos pueda no parecer una suma grande para una sola interacción, el estudio destaca con qué rapidez se acumulan estos costos. Si un usuario hace muchas preguntas complejas en un día, o si una empresa entera utiliza el sistema intensamente, el costo total puede ascender a miles o incluso millones de dólares en daños ambientales. La investigación también señala que la forma actual en que se utilizan estos sistemas es a menudo ineficiente. Algunos informes internos sugieren que empleados de grandes empresas tecnológicas han utilizado miles de millones de tokens para tareas que podrían haberse realizado con muchos menos, creando contaminación innecesaria sin proporcionar beneficios proporcionales.

A pesar de los altos costos asociados con el uso intensivo, el estudio observa que, para un individuo promedio, la huella de carbono de usar un chatbot sigue siendo pequeña en comparación con otras actividades diarias como conducir un automóvil o calentar un hogar. La persona promedio en Europa emite unos setecientos cincuenta kilogramos de dióxido de carbono equivalente al mes. Para alcanzar ese mismo nivel de contaminación solo usando un chatbot, una persona necesitaría procesar miles de millones de tokens, un volumen que supera ampliamente el uso humano típico. Sin embargo, el estudio advierte que a medida que estas tecnologías se integren más en nuestras vidas y manejen tareas más complejas, el volumen total de uso crecerá. Los investigadores enfatizan que la actual falta de transparencia de las empresas tecnológicas dificulta conocer las cifras exactas, ya que los datos sobre el uso de energía y el conteo de tokens suelen estar ocultos o ser especulativos.

El documento argumenta finalmente que necesitamos ser más conscientes de los costos ocultos de la inteligencia artificial. Al adjuntar un valor monetario familiar a las emisiones de carbono de una consulta digital, el estudio pretende que el concepto abstracto del cambio climático se sienta más concreto e inmediato. Sugiere que, si bien la tecnología ofrece grandes beneficios, su trayectoria actual coloca una carga significativa sobre el planeta y las generaciones futuras. Los investigadores piden mejores datos, sistemas más eficientes y un cambio en cómo pensamos sobre el impacto ambiental de nuestras decisiones digitales. Proponen que comprender el "costo de carbono último" puede ayudar a individuos y responsables políticos a tomar decisiones más informadas, asegurando que el desarrollo de la inteligencia artificial no se produzca a expensas de la salud de la Tierra. El estudio no pretende haber resuelto el problema, sino más bien haber iluminado un camino hacia una conversación más honesta sobre el verdadero precio de nuestro futuro digital.