The ultimate carbon cost of a ChatGPT query

Quando chiediamo a un computer di scrivere una storia, risolvere un problema matematico o riassumere un documento, stiamo attingendo a una vasta, invisibile rete di energia e risorse. Questi sistemi, noti come modelli linguistici di grandi dimensioni, non pensano nel modo in cui lo fanno gli esseri umani; invece, elaborano le informazioni eseguendo miliardi di minuscoli calcoli matematici. Ogni volta che un utente invia un messaggio, il sistema deve attivare un hardware potente, spesso situato in enormi data center, per elaborare questi numeri. Questo processo consuma elettricità e genera calore, che a sua volta rilascia gas serra nell'atmosfera. Sebbene l'atto di digitare una domanda sembri istantaneo e privo di peso, il macchinario fisico che c'è dietro lascia un segno tangibile sul pianeta. Gli scienziati studiano da tempo quanto utilizzino energia queste macchine, ma una nuova prospettiva pone una domanda diversa: qual è il vero costo, a lungo termine, di quell'energia per il futuro dell'umanità?

Un recente studio di Paul Kron cerca di rispondere a questo quesito collegando i punti tra una singola query informatica e il costo ultimo del cambiamento climatico. La ricerca combina i dati su quanta energia utilizzano i chip informatici, quanta carbonio viene emesso dall'elettricità che li alimenta e il danno economico a lungo termine causato da tali emissioni. L'autore introduce un concetto chiamato "costo del carbonio ultimo", che tenta di tradurre l'inquinamento derivante da una singola chat in un valore monetario che rifletta il danno arrecato alle generazioni future nel corso di migliaia di anni. Questo approccio va oltre il semplice conteggio dell'anidride carbonica per comprendere le conseguenze più ampie delle nostre abitudini digitali. Lo studio si concentra specificamente sul popolare chatbot ChatGPT, utilizzandolo come caso di studio per rivelare l'impronta ambientale nascosta dell'intelligenza artificiale.

I ricercatori hanno iniziato esaminando il costo fisico della costruzione e del funzionamento dei computer che alimentano questi modelli. Hanno calcolato le emissioni generate durante la produzione dell'hardware, come processori specializzati e server, nonché l'energia utilizzata per mantenerli in funzione. Hanno stimato che l'addestramento di un singolo modello avanzato come GPT-4 richiedesse una quantità massiccia di potenza di calcolo, rilasciando una stima di diecimila tonnellate di CO2 equivalente. Si tratta di una quantità di inquinamento sbalorditiva, paragonabile alle emissioni annuali di migliaia di persone. Tuttavia, poiché questo modello è utilizzato da milioni di persone per miliardi di domande, i ricercatori hanno diviso questo enorme totale per il numero di query per trovare il costo di una singola interazione. Hanno stimato che il modello sia stato utilizzato per circa 1,4 trilioni di ricerche durante il suo principale periodo di operatività. Quando le emissioni di addestramento vengono distribuite su tutte quelle domande, la quota per ogni singola query è sorprendentemente piccola, ammontando a una minuscola frazione di un grammo di carbonio.

Il vero peso del costo, tuttavia, deriva dall'elettricità utilizzata per rispondere a ogni specifica domanda. L'energia necessaria dipende fortemente da quanto sia complessa la domanda e da quanti termini, o "token", il computer debba elaborare. Per una conversazione semplice e breve, l'uso di energia è basso. Ma per compiti complessi, come scrivere codice, analizzare documenti lunghi o risolvere problemi a più fasi, il computer deve eseguire molti più calcoli. Lo studio ha rilevato che una query semplice potrebbe coinvolgere mille token, mentre una complessa potrebbe coinvolgere trentamila o più. Questa differenza cambia drasticamente l'impatto ambientale. Calcolando l'energia richiesta per questi diversi scenari e applicando il costo delle relative emissioni di carbonio, i ricercatori sono arrivati a un prezzo specifico per ogni interazione.

Lo studio conclude che il costo del carbonio ultimo di una singola query complessa a un modello linguistico di grandi dimensioni è di circa quaranta centesimi di dollaro. Questa cifra rappresenta il danno stimato alla popolazione umana futura causato dai gas serra emessi per rispondere a quella singola domanda. Per una query più semplice e breve, il costo scende a circa un centesimo. Sebbene quaranta centesimi possano non sembrare una somma elevata per una singola interazione, lo studio evidenzia come questi costi si accumulino rapidamente. Se un utente pone molte domande complesse in un giorno, o se un'intera azienda utilizza il sistema intensamente, il costo totale può salire a migliaia o persino milioni di dollari in danni ambientali. La ricerca sottolinea inoltre che il modo attuale in cui questi sistemi vengono utilizzati è spesso inefficiente. Alcuni rapporti interni suggeriscono che i dipendenti di importanti aziende tecnologiche abbiano utilizzato miliardi di token per compiti che avrebbero potuto essere svolti con molti meno, creando inquinamento non necessario senza fornire benefici proporzionali.

Nonostante gli alti costi associati a un uso intensivo, lo studio nota che, per un individuo medio, l'impronta di carbonio derivante dall'uso di un chatbot è ancora piccola rispetto ad altre attività quotidiane come guidare un'auto o riscaldare una casa. Una persona media in Europa emette circa settecentocinquanta chilogrammi di CO2 equivalente al mese. Per raggiungere lo stesso livello di inquinamento solo utilizzando un chatbot, una persona dovrebbe elaborare miliardi di token, un volume ben oltre l'uso umano tipico. Tuttavia, lo studio avverte che man mano che queste tecnologie diventano più integrate nelle nostre vite e gestiscono compiti più complessi, il volume totale di utilizzo crescerà. I ricercatori sottolineano che l'attuale mancanza di trasparenza da parte delle aziende tecnologiche rende difficile conoscere i numeri esatti, poiché i dati sull'uso dell'energia e sui conteggi dei token sono spesso nascosti o speculativi.

Il documento sostiene infine che abbiamo bisogno di essere più consapevoli dei costi nascosti dell'intelligenza artificiale. Attribuendo un valore monetario familiare alle emissioni di carbonio di una query digitale, lo studio mira a rendere il concetto astratto del cambiamento climatico più concreto e immediato. Suggerisce che, sebbene la tecnologia offra grandi benefici, la sua traiettoria attuale pone un carico significativo sul pianeta e sulle generazioni future. I ricercatori invocano migliori dati, sistemi più efficienti e un cambiamento nel modo in cui pensiamo all'impatto ambientale delle nostre scelte digitali. Propongono che la comprensione del "costo del carbonio ultimo" possa aiutare individui e decisori politici a prendere decisioni più informate, garantendo che lo sviluppo dell'intelligenza artificiale non avvenga a spese della salute della Terra. Lo studio non pretende di aver risolto il problema, ma piuttosto di aver illuminato un percorso verso una conversazione più onesta sul vero prezzo del nostro futuro digitale.