Can Scientific Claims Be Removed from Large Language Models? A Systematic Evaluation of Claim-Level Unlearning

I moderni sistemi di intelligenza artificiale, spesso chiamati grandi modelli linguistici, agiscono come vaste biblioteche della conoscenza umana. Sono addestrati leggendo enormi collezioni di testi, inclusi articoli scientifici, per imparare come rispondere a domande e risolvere problemi. Tuttavia, la scienza non è un archivio statico; è un processo vivo e pulsante di costante revisione. Quando un nuovo studio dimostra l'erroneità di un'idea precedente, o quando un articolo viene ritirato a causa di un errore, il record scientifico si aggiorna. Il problema è che questi modelli di IA non si aggiornano automaticamente. Una volta appreso un fatto, tendono a conservarlo, anche dopo che la comunità scientifica lo ha dichiarato falso. Ciò crea il rischio che un'IA possa ripetere con sicurezza informazioni superate o smentite, potenzialmente fuorviando i ricercatori o persino causando danni in campi come la medicina.

Per affrontare questo problema, i ricercatori hanno sviluppato una tecnica chiamata "machine unlearning" (oblio delle macchine). L'obiettivo è insegnare a un modello a "dimenticare" specifici pezzi di informazione pur mantenendo intatta la sua capacità di rispondere ad altre domande. Immaginate un bibliotecario che deve rimuovere un libro specifico e errato dagli scaffali senza disturbare il resto della biblioteca o perdere la capacità di trovare altri libri. Sebbene questa tecnica sia stata testata per la rimozione di dati personali o materiale protetto da copyright, gli scienziati non hanno ancora scoperto come rimuovere efficacemente specifiche affermazioni scientifiche. Queste affermazioni sono complicate perché sono profondamente interconnesse; conoscere un fatto spesso dipende dalla comprensione di molti altri. Se si tenta di rimuovere un fatto, il modello potrebbe semplicemente imparare a riformularlo leggermente per mantenere viva la conoscenza, oppure potrebbe accidentalmente dimenticare tutto il resto.

Un team di ricercatori di TCS Research e dell'Università di Yale si è posto l'obiettivo di risolvere questo problema specifico. Hanno creato un nuovo ambiente di test chiamato SciUnlearn per vedere se gli attuali modelli di IA fossero realmente in grado di dimenticare le affermazioni scientifiche. Hanno costruito un dataset utilizzando veri articoli scientifici di informatica e medicina, inclusi un set di articoli che erano stati ufficialmente ritirati. Per ogni articolo, hanno estratto il nucleo delle affermazioni scientifiche e le hanno trasformate in vari tipi di domande, come a scelta multipla, vero o falso e completamento. Per garantire che il test fosse equo, hanno diviso le domande in due gruppi: un gruppo per insegnare al modello a dimenticare, e un altro gruppo di domande riformulate basate sugli stessi fatti sottostanti per vedere se il modello avesse davvero dimenticato il concetto o avesse solo memorizzato le domande specifiche.

I ricercatori hanno poi preso i metodi di unlearning esistenti e li hanno applicati a questi modelli. Hanno chiesto ai modelli di dimenticare il primo gruppo di domande e poi hanno testato il secondo gruppo, così come domande di cultura generale, per verificare che i modelli non fossero diventati inutili. I risultati sono stati rivelatori. I metodi hanno funzionato bene nel far fallire i modelli sulle domande specifiche per cui erano stati addestrati a dimenticare, ma quando affrontavano le domande riformulate che testavano la stessa affermazione scientifica sottostante, i modelli spesso davano comunque le risposte corrette. Ciò suggerisce che i modelli non stavano effettivamente rimuovendo la conoscenza, ma stavano solo sopprimendo i pattern specifici di parole utilizzati nelle domande di addestramento. Era come se il modello avesse imparato a ignorare una frase specifica piuttosto che cancellare il fatto che vi stava dietro.

Lo studio ha anche esaminato quanto bene i modelli ricordassero altre informazioni non correlate. Alcuni metodi che cercavano di dimenticare le affermazioni bersaglio hanno accidentalmente degradato la capacità del modello di rispondere a domande generali, mentre altri sono riusciti a mantenere intatta la restante conoscenza. I ricercatori hanno scoperto che la difficoltà di dimenticare un'affermazione dipendeva da quanto fosse profondamente radicata nella letteratura scientifica. Le affermazioni provenienti da articoli citati frequentemente da molti altri studi erano molto più difficili da rimuovere. Queste idee altamente citate erano rinforzate da un ampio reticolo di testi correlati, rendendole resistenti all'essere cancellate da un singolo tentativo di unlearning. Al contrario, le affermazioni provenienti da articoli meno citati erano più facili da interrompere, ma anche in quel caso, l'oblio era spesso limitato alla forma superficiale della domanda.

In definitiva, lo studio conclude che gli attuali metodi non sono ancora in grado di un vero unlearning di affermazioni scientifiche. Possono nascondere istanze specifiche di conoscenza, ma faticano a rimuovere la comprensione concettuale sottostante. I ricercatori suggeriscono che il lavoro futuro debba concentrarsi su metodi che possano mirare a queste connessioni più profonde e strutturate all'interno della conoscenza del modello, piuttosto che limitarsi a sopprimere i pattern superficiali. Fino ad allora, questi modelli di IA potrebbero continuare a portare il peso della scienza obsoleta, trattenendo fatti che il resto del mondo ha già superato.