Compress and Forget: bitsandbytes Quantization Amplifies Proactive Interference in LLMs

Immaginate un grande modello linguistico come un assistente molto attento che può sostenere una conversazione, ricordare i dettagli e aggiornare la propria conoscenza man mano che arrivano nuove informazioni. Nel mondo reale, questi assistenti sono spesso chiamati a monitorare fatti che cambiano: un orario di una riunione che si sposta dalle due alle tre alle quattro in punto, o la preferenza di un utente che evolve durante un lungo dialogo. Affinché questi sistemi siano utili, devono non solo ricordare l'ultimo aggiornamento, ma anche ignorare le versioni precedenti, ormai errate. Tuttavia, i ricercatori hanno scoperto una specifica debolezza nel modo in cui questi modelli gestiscono tali aggiornamenti. Quando un pezzo di informazione viene sovrascritto molte volte, la capacità del modello di recuperare la versione più recente inizia a svanire. Inizia a confondere la risposta attuale con una delle versioni precedenti, ormai scartate. Questo fenomeno, noto come interferenza proattiva, è un modo di fallimento documentato in cui l'accumulo di passati aggiornamenti rende più difficile ricordare la verità presente, rispecchiando una lotta simile riscontrata nella memoria di lavoro umana.

Mentre questi modelli passano dai laboratori di ricerca alle applicazioni quotidiane, gli sviluppatori affrontano una sfida pratica: come farli girare in modo efficiente sull'hardware standard. Per risparmiare memoria e velocizzare l'elaborazione, l'industria ha ampiamente adottato una tecnica chiamata quantizzazione post-addestramento. Questo processo comprime i numeri interni del modello, riducendo la loro precisione da un formato ad alta fedeltà a una versione molto più piccola e grossolana. È emersa una credenza comune secondo cui questa compressione sia sicura, causando solo una perdita trascurabile nelle prestazioni complessive. L'assunto è che, sebbene i numeri siano leggermente meno precisi, l'intelligenza fondamentale del modello rimanga intatta. Ma questo assunto non era mai stato testato contro il compito specifico e fragile di monitorare informazioni che cambiano frequentemente.

Un team di ricercatori si è proposto di testare direttamente questo assunto. Hanno preso tre diversi e popolari modelli linguistici open-source e li hanno sottoposti a un rigoroso test di memoria progettato per misurare l'interferenza proattiva. In questo test, ai modelli veniva presentato un personaggio le cui caratteristiche, come il colore preferito o l'occupazione, venivano aggiornate ripetutamente. Il numero di aggiornamenti variava da uno solo fino a ben novantasei. Dopo l'ultimo aggiornamento, ai modelli veniva chiesto di ricordare solo l'ultimo valore. I ricercatori hanno eseguito lo stesso test su ciascun modello utilizzando tre diversi livelli di precisione: la versione originale ad alta fedeltà, una versione compressa a otto bit e una versione altamente compressa a quattro bit. Hanno mantenuto il compito esattamente lo stesso, cambiando solo la precisione dei numeri interni del modello.

I risultati hanno rivelato un modello chiaro e preoccupante. Mentre i modelli funzionavano quasi perfettamente quando utilizzavano le loro impostazioni originali ad alta fedeltà, le versioni altamente compresse a quattro bit faticavano significativamente quando il numero di aggiornamenti era elevato. In uno dei modelli testati, l'accuratezza è scesa dall'ottantuno percento nella versione ad alta fedeltà al sessantotto percento nella versione a quattro bit di fronte a un alto numero di aggiornamenti. Questa non era una fluttuazione minore; l'analisi statistica ha confermato che il calo era reale e consistente in tutti e tre i modelli testati. I ricercatori hanno scoperto che i modelli compressi non stavano semplicemente commettendo errori casuali. Inveve, stavano specificamente confondendo la risposta attuale con uno dei valori precedenti che erano stati sovrascritti. Quando il modello falliva, sceglieva quasi sempre un valore che era stato vero precedentemente nella conversazione ma che non era più corretto.

Fondamentalmente, lo studio ha dimostrato che questo problema non era causato da un rumore generale o da una semplice perdita di intelligenza. Il fallimento era altamente specifico per il tipo di informazione monitorata. Quando i ricercatori hanno testato i modelli con valori numerici, come prezzi azionari o temperature, dove i numeri non condividevano significati simili, la compressione a quattro bit non ha avuto quasi alcun effetto negativo. I modelli gestivano gli aggiornamenti numerici altrettanto bene come le versioni ad alta fedeltà. Questa distinzione è vitale perché prova che la compressione non rende il modello semplicemente "più stupido" in senso generale. Invezione, essa sfuma specificamente i confini tra cose semanticamente simili, rendendo più difficile per il modello mantenere concetti distinti separati quando vengono aggiornati ripetutamente.

I ricercatori hanno anche indagato dove fosse avvenuto questo breakdown. Hanno scoperto che il problema originava nel corpo principale del modello, la parte responsabile dell'elaborazione e del mantenimento delle informazioni, piuttosto che nell'ultimo strato che produce la risposta. Ciò suggerisce che il processo di compressione stia alterando il modo in cui il modello rappresenta le idee simili, causandone la sovrapposizione in un modo che porta alla confusione. Inoltre, lo studio ha messo in discussione l'idea che un livello di compressione intermedio, utilizzando otto bit, fosse completamente sicuro. Sebbene la compressione a otto bit performasse meglio della versione a quattro bit, i ricercatori hanno scoperto che comportava comunque una penalità piccola ma misurabile in due dei tre modelli testati. Ciò indica che anche i livelli di compressione "più sicuri" non sono del tutto privi di rischi per compiti che coinvolgono aggiornamenti frequenti.

Questi risultati suggeriscono che la diffusa pratica di comprimere i modelli linguistici per risparmiare risorse possa comportare un costo nascosto per le applicazioni che dipendono dal monitoraggio di informazioni in evoluzione e semanticamente dense. Per un chatbot che gestisce una lunga conversazione o un sistema che traccia le mutevoli preferenze di un utente, i benchmark standard che mostrano un'elevata accuratezza complessiva potrebbero nascondere una vulnerabilità specifica. I modelli potrebbero apparire perfetti nei test generali, ma quando affrontano un flusso di aggiornamenti in cui il passato deve essere dimenticato per ricordare il presente, le versioni compresse sono più propense a inciampare. Lo studio conclude che, sebbene la compressione sia uno strumento potente per l'implementazione, non è uno strumento neutro: essa erode selettivamente il meccanismo che permette a questi modelli di resistere alla confusione tra idee simili, un difetto che solo test mirati possono rivelare.