The Authenticity Gap in Human Evaluation

Nel mondo del linguaggio informatico, dove le macchine vengono istruite a scrivere storie, rispondere a domande e sostenere conversazioni, esiste un problema persistente: come facciamo a sapere se la macchina sta davvero facendo un buon lavoro? Per anni, il metodo standard è stato quello di assumere persone per leggere il testo prodotto dal computer e assegnargli un punteggio, proprio come un giudice in un talent show. Queste valutazioni umane sono trattate come la verità ultima, il gold standard rispetto al quale vengono misurati tutti i nuovi programmi informatici. La logica sembra semplice: se un computer scrive una storia che le persone valutano positivamente, allora è un buon scrittore. Ma questo approccio si basa su un'assunzione nascosta: che quando una persona assegna un numero a un pezzo di testo, quel numero catturi perfettamente il suo vero sentimento riguardo ad esso. Presuppone che la distanza tra un punteggio "buono" e uno "eccellente" sia la stessa per tutti, e che fare la media di questi punteggi ci dica esattamente quale computer sia migliore.

Un team di ricercatori dell'Università di Stanford ha deciso di esaminare più da vicino questo processo, non solo per vedere se i giudici stessero facendo il loro lavoro, ma per chiedere se il sistema di valutazione stesso fosse difettoso. Hanno affrontato il problema attraverso la lente di come gli economisti comprendono le scelte umane, vedendo la capacità di un computer di generare testo come una sorta di scommessa. Quando un computer scrive, non produce un singolo risultato fisso; produce una gamma di risultati possibili, alcuni brillanti e altri terribili. I ricercatori hanno scoperto che il modo standard di chiedere agli esseri umani di valutare questi risultati spesso non riesce a catturare ciò che le persone preferiscono realmente. In effetti, hanno scoperto che l'atto stesso di fare la media di queste valutazioni può talvolta ribaltare i risultati, facendo sembrare un computer peggiore migliore di uno superiore, o nascondendo il fatto che gli esseri umani possono distinguere tra una macchina e una persona.

Per correggere questo, i ricercatori hanno proposto un modo completamente nuovo di chiedere opinioni. Inveve di chiedere a una persona di valutare una singola storia su una scala da uno a cinque, hanno chiesto loro di guardare i due computer fianco a fianco e stimare la probabilità che uno sia complessivamente migliore dell'altro. Questo metodo, che chiamano valutazione probabilistica a livello di sistema, tratta il giudice umano non come un calcolatore di punteggi, ma come un esperto che stima una probabilità. Quando hanno testato questo nuovo metodo contro il vecchio utilizzando diverse versioni di un potente modello linguistico, i risultati sono stati sorprendenti. Il vecchio metodo, che è lo standard del settore da anni, non riusciva a rilevare differenze chiare tra i modelli che avrebbero dovuto essere ovvie. Non riusciva a distinguere che un computer più grande e avanzato fosse migliore di uno più piccolo, e suggeriva persino che un computer fosse significamente migliore di uno scrittore umano, una scoperta che contraddice ricerche precedenti.

Il nuovo metodo, tuttavia, ha funzionato esattamente come speravano i ricercatori. Quando le persone utilizzavano l'approccio basato sulla probabilità, identificavano costantemente l'ordine corretto dei modelli informatici, riconoscendo che i sistemi più grandi e complessi producevano storie migliori. Identificavano anche correttamente che, mentre il computer più piccolo era chiaramente peggiore di un essere umano, il più grande era indistinguibile da uno scrittore umano. Questo successo non era dovuto ad avere più persone o più dati; i ricercatori hanno utilizzato lo stesso gruppo di novanta volontari per entrambi i test. La differenza risiedeva interamente nel modo in cui veniva posta la domanda. Il metodo standard, che chiede una valutazione su una scala fissa, costringe le persone a compiere giudizi che il loro cervello non è cablato per fare in modo coerente. Presuppone che il divario tra un punteggio di tre e uno di quattro significhi la stessa cosa per ogni persona, un'assunzione che raramente trova riscontro nella realtà.

I ricercatori hanno dimostrato che questa falla non è solo un errore tecnico minore, ma un malinteso fondamentale di come funziona la preferenza umana. Quando alle persone viene chiesto di valutare un testo su una scala, spesso stanno indovinando la distanza tra i punti, e tali ipotesi possono variare enormemente da persona a persona. Una persona potrebbe pensare che un punteggio di quattro sia solo leggermente migliore di un tre, mentre un'altra potrebbe pensare che sia il doppio di buono. Quando si fa la media di queste visioni contrastanti, il risultato è un segnale torbido che oscura la verità. Il nuovo metodo evita questa confusione chiedendo alle persone di fare un passo indietro e guardare il quadro generale. Invece di giudicare una singola frase, giudicano l'intero sistema, stimando quanto spesso preferirebbero un computer rispetto all'altro se vedessero molti esempi. Questo approccio riconosce che gli esseri umani non possono vedere ogni possibile output che un computer potrebbe generare, ma possono comunque formare un senso affidabile di quale sistema sia superiore basandosi su un campione.

Le implicazioni di questa scoperta vanno ben oltre il semplice test di computer che scrivono storie. Essa mette in discussione il modo in cui l'intero campo dell'intelligenza artificiale valuta i propri progressi. Per anni, i ricercatori hanno costruito nuovi modelli e hanno sostenuto che fossero migliori perché ricevevano punteggi medi più alti dai giudici umani. Se quei punteggi sono matematicamente infedeli alla preferenza umana, allora molte di quelle affermazioni potrebbero essere errate. Lo studio suggerisce che il campo debba allontanarsi dalle semplici scale di valutazione e muoversi verso metodi che rispettino la complessità del giudizio umano. Chiedendo alle persone di stimare probabilità invece di assegnare numeri, possiamo ottenere un quadro più chiaro e onesto di ciò che queste macchine sono effettivamente capaci di fare.

Nei loro esperimenti, i ricercatori hanno utilizzato un set specifico di prompt per storie e hanno chiesto ai volontari di confrontare diverse versioni di un modello linguistico, che andavano da una versione piccola e basilare a una massiccia e avanzata. Hanno anche incluso storie scritte da esseri umani reali per fungere da termine di paragone. I risultati sono stati chiari: il nuovo metodo ha recuperato tutte le preferenze attese, classificando correttamente i computer dal peggiore al migliore e collocando accuratamente lo scrittore umano nel mezzo. Il vecchio metodo, nonostante utilizzasse gli stessi volontari e le stesse storie, ha recuperato solo due dei cinque expected preferences. Non è riuscito a vedere la differenza tra i computer di medie dimensioni e, cosa ancora più sorprendente, ha concluso che lo scrittore umano fosse significamente peggiore del computer più grande. Questo errore evidenzia un punto cieco pericoloso nelle attuali pratiche di valutazione, dove un protocollo difettoso può portare i ricercatori a credere che le loro macchine abbiano superato la capacità umana quando non è così.

I ricercatori hanno testato questo nuovo approccio anche sulla generazione di immagini, chiedendo alle persone di giudicare quale computer producesse immagini migliori. I risultati hanno confermato nuovamente che il metodo funziona attraverso diversi tipi di compiti creativi. Hanno scoperto che più esempi le persone vedevano, più diventavano certe delle loro preferenze, ma anche con un numero limitato di esempi, il metodo basato sulla probabilità era in grado di individuare il vincitore corretto. Ciò suggerisce che il metodo sia robusto ed efficiente, capace di fornire risposte affidabili senza richiedere una quantità impossibile di dati. Rispetta i limiti dell'attenzione umana pur catturando l'essenza della preferenza umana.

In definitiva, questo lavoro riguarda l'allineamento dei nostri strumenti con la realtà. Il protocollo standard per valutare l'intelligenza artificiale è stato costruito su una base di assunzioni che non corrispondono a come gli esseri umani pensano o sentono realmente. Spostando l'attenzione da numeri arbitrari a oneste stime di probabilità, i ricercatori hanno offerto una via verso valutazioni più accurate e affidabili. È un promemoria del fatto che, nella ricerca di costruire macchine migliori, dobbiamo prima assicurarci che i nostri metodi per misurarle siano solidi. L'obiettivo non è solo sapere quale computer vinca, ma capire cosa quella vittoria significhi realmente per il futuro dell'interazione uomo-computer. Poiché questi sistemi diventano sempre più integrati nelle nostre vite, fare la valutazione corretta non è solo un esercizio accademico; è una necessità per garantire che la tecnologia che costruiamo serva veramente le persone che la utilizzano.