The ultimate carbon cost of a ChatGPT query

Wanneer we een computer vragen om een verhaal te schrijven, een wiskundig probleem op te lossen of een document samen te vatten, maken we gebruik van een enorm, onzichtbaar netwerk van energie en middelen. Deze systemen, bekend als grote taalmodellen, denken niet op de manier waarop mensen dat doen; in plaats daarvan verwerken ze informatie door miljarden kleine wiskundige berekeningen uit te voeren. Elke keer dat een gebruiker een bericht stuurt, moet het systeem krachtige hardware activeren, die vaak in enorme datacentra's is gevestigd, om deze getallen te verwerken. Dit proces verbruikt elektriciteit en genereert warmte, wat op zijn beurt broeikasgassen in de atmosfeer vrijgeeft. Hoewel de handeling van het typen van een vraag aanvoelt als instant en gewichtloos, laat de fysieke machine erachter een tastbare afdruk op de planeet achter. Wetenschappers bestuderen al lang hoeveel energie deze machines gebruiken, maar een nieuw perspectief stelt een andere vraag: wat is de werkelijke, langetermijnprijs van die energie voor de toekomst van de mensheid?

Een recente studie door Paul Kron probeert dit te beantwoorden door de verbanden te leggen tussen een enkele computeropdracht en de uiteindelijke kosten van klimaatverandering. Het onderzoek combineert gegevens over hoeveel energie computertips verbruiken, hoeveel koolstof er wordt uitgestoten door de elektriciteit die hen voedt, en de langetermijnschade door de economie veroorzaakt door die emissies. De auteur introduceert een concept genaamd "ultieme koolstofkosten", dat probeert de vervuiling van een enkele chat te vertalen naar een monetaire waarde die de schade aan toekomstige generaties over duizenden jaren weergeeft. Deze benadering gaat verder dan alleen het tellen van koolstofdioxide door het bredere de gevolgen van onze digitale gewoonten te begrijpen. De studie richt zich specifiek op de populaire chatbot ChatGPT, waarbij deze wordt gebruikt als een casestudy om de verborgen ecologische voetafdruk van kunstmatige intelligentie te onthullen.

De onderzoekers begonnen met het bekijken van de fysieke kosten van het bouwen en draaien van de computers die deze modellen voeden. Ze berekenden de emissies die vrijkomen tijdens de productie van de hardware, zoals gespecialiseerde processors en servers, evenals de energie die nodig is om ze draaiende te houden. Ze schatten dat het trainen van een geavanceerd model zoals GPT-4 een enorme hoeveelheid rekenkracht vereiste, waarbij naar schatting tienduizend ton koolstofdioxide-equivalent werd uitgestoten. Dit is een overweldigende hoeveelheid vervuiling, vergelijkbaar met de jaarlijkse emissies van duizenden mensen. Omdat dit model echter door miljoenen mensen wordt gebruikt voor miljarden vragen, hebben de onderzoekers deze enorme totale som gedeeld door het aantal opdrachten om de kosten van een individuele interactie te vinden. Ze schatten dat het model ongeveer 1,4 biljoen zoekopdrachten heeft gehad tijdens de belangrijkste periode van gebruik. Wanneer de trainingsemissies over al die vragen worden verspreid, is het aandeel per individuele opdracht verrassend klein, oplopend tot een fractie van een gram koolstof.

Het werkelijke gewicht van de kosten komt echter voort uit de elektriciteit die wordt gebruikt om elke specifieke vraag te beantwoorden. De hoeveelheid energie die nodig is, hangt sterk af van hoe complex de vraag is en hoeveel woorden, of "tokens", de computer moet verwerken. Voor een eenvoudige, korte conversatie is het energieverbruik laag. Maar voor complexe taken, zoals het schrijven van code, het analyseren van lange documenten of het oplossen van meerstaps-problemen, moet de computer veel meer berekeningen uitvoeren. De studie vond dat een eenvoudige opdracht ongeveer duizend tokens kan bevatten, terwijl een complexe opdracht er dertig duizend of meer kan bevatten. Dit verschil verandert de ecologische impact drastisch. Door de benodigde energie voor deze verschillende scenario's te berekenen en de kosten van de resulterende koolstofemissies toe te passen, kwamen de onderzoekers tot een specifieke prijssticker voor elke interactie.

De studie concludeert dat de ultieme koolstofkosten van een enkele, complexe vraag aan een groot taalmodel ongeveer veertig cent bedragen. Dit cijfer vertegenwoordigt de geschatte schade aan de toekomstige menselijke populatie veroorzaakt door de broeikasgassen die werden uitgestoten om die ene vraag te beantwoorden. Voor een eenvoudigere, kortere vraag daalt de kosten naar ongeveer één cent. Hoewel veertig cent misschien niet als een groot bedrag lijkt voor een enkele interactie, benadrukt de studie hoe snel deze kosten zich ophopen. Als een gebruiker veel complexe vragen per dag stelt, of als een heel bedrijf het systeem intensief gebruikt, kunnen de totale kosten oplopen tot duizenden of zelfs miljoenen dollars aan milieuschade. Het onderzoek wijst ook erop dat de huidige manier waarop deze systemen worden gebruikt, vaak inefficiënt is. Sommige interne rapporten suggereren dat werknemers bij grote technologiebedrijven miljarden tokens hebben gebruikt voor taken die met veel minder gedaan hadden kunnen worden, wat onnodige vervuiling creëert zonder evenredige voordelen te bieden.

Ondanks de hoge kosten die gepaard gaan met intensief gebruik, merkt de studie op dat voor een gemiddeld individu de koolstofvoetafdruk van het gebruik van een chatbot nog steeds klein is in vergelijking met andere dagelijkse activiteiten zoals autorijden of het verwarmen van een huis. De gemiddelde persoon in Europa stoot ongeveer zevenhonderdvijftig kilogram koolstofdioxide-equivalent per maand uit. Om datzelfde niveau van vervuiling te bereiken door alleen een chatbot te gebruiken, zou een persoon miljarden tokens moeten verwerken, een volume dat ver buiten het typische menselijke gebruik ligt. De studie waarschuwt echter dat naarmate deze technologieën meer geïntegreerd raken in ons leven en meer complexe taken afhandelen, het totale volume van het gebruik zal groeien. De onderzoekers benadrukken dat het huidige gebrek aan transparantie van technologiebedrijven het moeilijk maakt om de exacte cijfers te kennen, aangezien gegevens over energieverbruik en tokenaantallen vaak verborgen of speculatief zijn.

Het artikel betoogt uiteindelijk dat we meer bewust moeten zijn van de verborgen kosten van kunstmatige intelligentie. Door een vertrouwde monetaire waarde te koppelen aan de koolstofemissies van een digitale opdracht, beoogt de studie het abstracte concept van klimaatverandering concreter en directer te maken. Het suggereert dat hoewel de technologie grote voordelen biedt, de huidige koers een aanzienlijke last legt op de planeet en toekomstige generaties. De onderzoekers pleiten voor betere gegevens, efficiëntere systemen en een verschuiving in hoe we denken over de ecologische impact van onze digitale keuzes. Ze stellen voor dat het begrijpen van de "ultieme koolstofkosten" individuen en beleidsmakers kan helpen om meer geïnformeerde beslissingen te nemen, zodat de ontwikkeling van kunstmatige intelligentie niet ten koste gaat van de gezondheid van de aarde. De studie beweert niet het probleem te hebben opgelost, maar eerder een pad te hebben verlicht naar een eerlijker gesprek over de werkelijke prijs van onze digitale toekomst.