LZ Penalty: An information-theoretic repetition penalty for autoregressive language models

Nel mondo dell'intelligenza artificiale, esiste una classe di potenti programmi informatici noti come modelli linguistici. Questi sistemi sono addestrati per prevedere la parola successiva in una frase, permettendo loro di scrivere storie, rispondere a domande e persino risolvere complessi problemi matematici generando lunghe catene di ragionamento. Per effettuare queste previsioni, i modelli si affidano a un processo statistico in cui scelgono la parola successiva più probabile da una vasta lista di possibilità. Tuttavia, un problema persistente ha tormentato questi sistemi, particolarmente quando vengono interrogati per compiti difficili: a volte si incastrano in un ciclo. Invece di procedere con un'idea nuova, il modello inizia a ripetere le stesse parole o frasi ripetutamente, degradando il proprio output in un non-sense. Questo problema è noto come ripetizione degenerata, ed è stato un ostacolo significativo nell'uso di questi modelli per compiti deterministici e affidabili dove l'output deve essere coerente e privo di errori.

Per anni, gli ingegneri hanno cercato di risolvere il problema applicando semplici penalità alle scelte del modello. Queste penalità agiscono come una leggera spinta, scoraggiando il modello dal scegliere parole che ha già utilizzato di recente. Un metodo conta quante volte una parola è apparsa e ne riduce la probabilità; un altro penalizza semplicemente qualsiasi parola che sia apparsa in precedenza. Sebbene questi metodi funzionino bene per la conversazione casuale, spesso falliscono quando il modello è impegnato in un ragionamento profondo. I modelli di ragionamento, che generano sequenze di testo molto lunghe per affrontare enigmi logici, cadono frequentemente in cicli ripetitivi nonostante questi correttivi standard. Il risultato è un sistema che potrebbe iniziare con forza ma che alla fine collassa in un ciclo di balbuzie di parole ripetute, rendendo l'output inutile per applicazioni serie.

Un team di ricercatori di Salesforce AI Research ha proposto una nuova soluzione che trae ispirazione da un campo completamente diverso: la compressione dei dati. Il loro lavoro introduce un metodo chiamato penalità Lempel-Ziv, progettato per fermare questi cicli ripetitivi senza sacrificare la capacità del modello di pensare chiaramente. L'idea centrale si basa su una connessione fondamentale tra la previsione della parola successiva in una frase e la compressione di un file di dati. Nel mondo dell'informatica, gli algoritmi di compressione lavorano trovando schemi e ripetizioni nei dati per rendere i file più piccoli. Se una sequenza di parole si ripete spesso, un algoritmo di compressione può descriverla in modo molto efficiente, utilizzando meno bit di informazione. I ricercatori si sono resi conto che se avessero potuto misurare quanto facilmente il flusso di testo attuale del modello potesse essere compresso, avrebbero potuto usare quell'informazione per guidare il modello lontano dai pattern ripetitivi.

I ricercatori hanno sviluppato un sistema che simula un tipo specifico di algoritmo di compressione, noto come algoritmo Lempel-Ziv, in tempo reale mentre il modello genera il testo. Questo algoritmo guarda indietro a una finestra scorrevole della storia recente del testo, cercando le corrispondenze più lunghe possibili di sequenze di parole. Quando il modello considera una nuova parola, il sistema calcola quanto quella parola cambierebbe la dimensione totale del file compresso. Se la nuova parola crea un pattern lungo e ridondante che l'algoritmo di compressione può codificare facilmente, il sistema applica una penalità a quella parola, rendendola meno probabile nella scelta. Al contrario, se la parola introduce informazioni nuove e imprevedibili che non possono essere facilmente compresse, la penalità è bassa o inesistente. Questo approccio è distinto dai metodi precedenti perché non si limita a contare quante volte appare una singola parola; invece, osserva la lunghezza della sequenza ripetuta e quanto indietro quella sequenza si sia verificata.

Per testare questo nuovo approccio, i ricercatori lo hanno applicato a due modelli di ragionamento avanzati, uno con 32 miliardi di parametri e un altro con 14 miliardi. Hanno confrontato le prestazioni del loro nuovo sistema di penalità rispetto ai metodi standard utilizzati oggi. I risultati sono stati sorprendenti. Utilizzando le penalità standard di frequenza o di ripetizione, i modelli cadevano ancora in cicli di ripetizione degenerata circa il 4% delle volte, anche quando i ricercatori cercavano di regolare le impostazioni per prevenirlo. Al contrario, la nuova penalità Lempel-Ziv ha ridotto il tasso di questi fallimenti ripetitivi a praticamente zero. I modelli sono stati in grado di generare lunghe e complesse catene di ragionamento senza incastrarsi, e la loro accuratezza nei test di benchmark difficili è rimasta invariata. Ciò suggerisce che il nuovo metodo rimuove con successo la ridondanza che causa i cicli senza interferire con le reali capacità di ragionamento del modello.

I ricercatori hanno anche esaminato il costo computazionale dell'esecuzione di questa nuova penalità. Poiché il sistema deve simulare un passaggio di compressione per ogni singola parola generata, è richiesto un piccolo sforzo extra. Tuttavia, hanno scoperto che questo sovraccarico è sorprendentemente piccolo. Per i modelli di grandi dimensioni, il rallentamento della velocità è stato inferiore all'uno percento, una differenza così minima da essere quasi impercettibile nell'uso reale. Questa efficienza rende il metodo pratico per un'adozione immediata, offrendo un modo per rendere i modelli di ragionamento più affidabili senza richiedere una nuova potenza di calcolo significativa.

Una limitazione notata dal team è che il metodo è specificamente progettato per il linguaggio naturale. L'algoritmo di compressione si basa sull'assunto che il linguaggio possieda certe proprietà statistiche, come il fatto che le parole tendono a ripetersi in modi prevedibili nel tempo. Sebbene il metodo funzioni eccezionalmente bene per il testo, i ricercatori avvertono che potrebbe non essere altrettanto efficace per altri tipi di dati, come immagini o audio, senza aggiustamenti specifici. Inoltre, il sistema non è perfetto per ogni scenario concepibile; ad esempio, se un utente chiede esplicitamente al modello di ripetere una lettera cento volte, la penalità potrebbe interferire con quella specifica istruzione. Tuttavia, per la stragrande maggioranza dei compiti in cui l'obiettivo è un ragionamento coerente e non ripetitivo, il nuovo metodo appare come una soluzione robusta.

Le scoperte suggeriscono un cambiamento nel modo in cui pensiamo al controllo dell'intelligenza artificiale. Invece di fare affidamento su strumenti rozzi che si limitano a bandire le parole in base al loro conteggio, questo approccio utilizza i principi matematici della teoria dell'informazione per comprendere la struttura del testo stesso. Trattando la generazione di testo come un processo di compressione, i ricercatori hanno creato uno strumento che filtra naturalmente il rumore della ripetizione preservando il segnale del pensiero. Ciò consente ai modelli di ragionamento open-source di operare con un livello di determinismo che era precedentemente difficile da raggiungere, aprendo la strada ad applicazioni più affidabili in campi dove la coerenza è fondamentale. Il lavoro dimostra che guardando il problema attraverso la lente della compressione dei dati, possiamo trovare soluzioni eleganti ai glitch ostinati che hanno a lungo ostacolato il progresso dei modelli linguistici.