Frontier AI Forecasting Has a Measurement Problem: An Audit of Progress Evidence

Viviamo in un'era in cui le capacità dell'intelligenza artificiale vengono spesso previste con la precisione di una previsione meteorologica. Gli esperti osservano quanto velocemente stanno diventando veloci i computer, quanti dati vengono loro somministrati e quanto bene si comportano nei test standardizzati per indovinare quando le macchine raggiungeranno il ragionamento di livello umano o addirittura lo supereranno. Queste previsioni assumono solitamente la forma di una data specifica su un calendario, suggerendo che entro un certo anno, un'IA sarà in grado di risolvere un problema complesso o eseguire un compito specifico. La logica sembra semplice: se puoi misurare quanto velocemente va un'auto, puoi calcolare quando arriverà a destinazione. Ma questo approccio si basa su un presupposto nascosto: che il righello usato per misurare la velocità sia lo stesso di ieri e che il tachimetro funzioni correttamente per ogni singola auto sulla strada.

Una nuova analisi di Fabricio F. Costa mette in discussione questo presupposto. Il documento non sostiene che prevedere il futuro dell'IA sia impossibile, quanto piuttosto che il modo attuale in cui ci si prova sia costruito su fondamenta fragili. L'autore ha condotto un rigoroso audit dei registri pubblici utilizzati per fare queste previsioni, trattando i dati non come una linea fluida su un grafico, ma come una collezione di singoli eventi, misurazioni e fonti. L'indagine rivela che il collegamento tra le risorse utilizzate per costruire questi sistemi e le loro prestazioni effettive è molto più frammentato di quanto suggeriscano le previsioni popolari. Lo studio trova che le prove a sostegno di queste previsioni sono spesso incomplete, incoerenti e pesantemente dipendenti da una singola fonte di informazione, rendendo le date specifiche spesso citate nelle notizie più un conjetto che una conclusione scientifica.

Per comprendere l'ampiezza del problema, bisogna innanzitutto osservare come vengono costruite tipicamente queste previsioni. I ricercatori cercano solitamente di collegare due cose: la quantità di potenza di calcolo utilizzata per addestrare un modello e i risultati che ottiene in un test di benchmark. Un benchmark è semplicemente un insieme standardizzato di domande o compiti progettati per misurare una specifica abilità, come rispondere a quiz o risolvere problemi di matematica. L'idea è che man mano che si fornisce a un modello più potenza di calcolo, il suo punteggio in questi test aumenta in modo prevedibile. Se si può mappare questa relazione, si può proiettare in avanti per vedere quando il punteggio raggiungerà una certa soglia. Tuttavia, affinché questa proiezione sia valida, è necessario avere punti dati in cui sia la potenza di calcolo che il punteggio del test siano noti per lo stesso sistema.

Quando l'autore ha esaminato il registro pubblico di sessantadue importanti sistemi di intelligenza artificiale, è emersa una lacuna significativa. Sebbene le informazioni sulla potenza di calcolo utilizzata fossero disponibili per molti sistemi, esse mancavano per un gran numero dei modelli più avanzati a codice chiuso. Al contrario, i punteggi di prestazione di un programma di misurazione specifico e ampiamente citato, chiamato METR, erano disponibili per molti modelli a codice chiuso ma erano completamente assenti per i sistemi open-source. Ciò ha creato una situazione in cui i due pezzi di dati necessari per tracciare una linea — il "carburante" e la "velocità" — raramente esistevano insieme per la stessa macchina. Nell'intero set di sessantadue sistemi, solo sette avevano sia la stima della potenza di calcolo che il punteggio di prestazione registrati. Ciò significa che le curve fluide spesso visibili nelle previsioni sono in realtà tracciate attraverso solo un manipolo di punti dati, mentre il resto del panorama è uno spazio vuoto.

Il problema si aggrava se si considera che i test stessi non sono statici. Proprio come un righello potrebbe essere sostituito da uno nuovo con segni leggermente diversi, i benchmark usati per misurare l'IA vengono costantemente aggiornati, rivisti o sostituiti per evitare che i modelli si limitino a memorizzare le risposte. L'audit ha esaminato come queste diverse versioni dei test si relazionano tra loro. Ha scoperto che quando si tenta di confrontare i punteggi di una versione precedente di un test con quelli di una versione più recente, la relazione non è sempre un semplice spostamento lineare. A volte, il nuovo test misura qualcosa di leggermente diverso, o la difficoltà cambia in un modo che fa saltare o scendere i punteggi inaspettatamente. Lo studio ha testato questo aspetto osservando come i sistemi si sono comportati su due versioni di un test popolare e ha scoperto che la connessione tra i vecchi punteggi e i nuovi dipendeva fortemente dal metodo matematico utilizzato per il confronto. In alcuni casi, la nuova versione sembrava mostrare un miglioramento molto più ripido rispetto alla vecchia, mentre in altri, il miglioramento appariva piatto. Ciò suggerisce che un aumento di un punteggio potrebbe non significare sempre che l'IA sia diventata più intelligente; potrebbe semplicemente significare che il test è cambiato.

Un altro problema critico identificato è la concentrazione delle prove. La stragrande maggioranza dei punti dati specifici utilizzati per tracciare il progresso dell'IA proviene da un singolo programma di misurazione. Su settantuno eventi quantitativi principali registrati nell'audit, cinquantadue provenivano da una sola fonte. Questo è come cercare di comprendere i modelli meteorologici di un intero continente basandosi sulle letture del termometro di una singola città. Sebbene quella città possa essere accurata, non dice se il resto del continente stia vivendo le stesse condizioni. L'audit ha anche notato che molte di queste misurazioni provengono da rilasci di laboratorio piuttosto che da test sul campo nel mondo reale. In un laboratorio, le condizioni sono controllate, ma nel mondo reale, l'IA interagisce con ambienti imprevedibili, utenti diversi e vari livelli di supporto. Il documento sostiene che fare affidamento su una singola fonte e su un singolo tipo di test crea un falso senso di certezza, dove la fiducia in una previsione è alta semplicemente perché i dati sembrano coerenti, anche se non sono veramente indipendenti.

L'autore ha anche esaminato la potenza dei test statistici utilizzati per collegare queste diverse misurazioni. L'analisi ha mostrato che gli attuali set di dati sono spesso troppo piccoli per rilevare qualsiasi cosa che non siano cambiamenti molto grandi. Se la relazione tra potenza di calcolo e prestazioni cambiasse anche solo di poco, i record attuali probabilmente lo perderebbero del tutto. Lo studio ha calcolato che per rilevare in modo affidabile un piccolo cambiamento nel modo in cui questi sistemi migliorano, i ricercatori avrebbero bisogno di molti più sistemi testati simultaneamente sia sui vecchi che sui nuovi benchmark. Senza questo set di dati più ampio e diversificato, qualsiasi previsione che dichiara di sapere esattamente quando verrà raggiunto un determinato traguardo è essenzialmente una congettura.

Il documento non suggerisce che dovremmo smettere di cercare di misurare il progresso dell'IA. Al contrario, invoca un approccio più onesto e complesso. Piuttosto che cercare di comprimere tutte le capacità dell'IA in un unico numero o in una singola data, l'autore propone una "portfolio" di misurazioni. Ciò comporterebbe il monitoraggio di diverse cose contemporaneamente: quanta energia e denaro occorrono per far funzionare un modello, quanto sia affidabile nel lungo periodo, come si comporta in compiti del mondo reale e come gestisce i rischi per la sicurezza. Richiederebbe anche un sistema in cui diversi gruppi di ricerca testino gli stessi modelli utilizzando metodi differenti per garantire che i risultati non siano solo un artefatto di un laboratorio specifico o di un test specifico. L'obiettivo è passare dall'idea di un unico, perfetto righello verso una collezione di strumenti che possano misurare diversi aspetti dell'intelligenza con le proprie incertezze.

In definitiva, lo studio conclude che una previsione difendibile sul futuro dell'intelligenza artificiale deve essere trasparente su cosa sta misurando e su come lo sta misurando. Deve ammettere dove i dati mancano, dove i test sono cambiati e da dove provengono le prove. Una previsione che fornisce semplicemente una data senza spiegare il sistema di misurazione sottostante non è un'affermazione scientifica; è una congettura. Il documento esorta il settore a trattare il sistema di misurazione stesso come parte della previsione, riconoscendo che la data è significativa solo quanto il righello usato per trovarla. Finché la comunità non potrà costruire un registro in cui potenza di calcolo, prestazioni e risultati nel mondo reale siano misurati in modo coerente e indipendente attraverso molti diversi sistemi, la parte più precisa di qualsiasi previsione sarà la data sul calendario, mentre la parte meno precisa sarà ciò che viene effettivamente misurato lungo il percorso.