From Anchors to Supervision: Memory-Graph Guided Corpus-Free Unlearning for Large Language Models

1. Il Problema: Rischi e Limiti dell'Unlearning Tradizionale

I Large Language Models (LLM) tendono a memorizzare contenuti sensibili o protetti da copyright, sollevando preoccupazioni legali (es. GDPR, "diritto all'oblio") e di privacy. Le attuali soluzioni di machine unlearning richiedono che l'utente fornisca un set di dimenticanza (forget set) esplicito contenente i dati da rimuovere.

Il paper identifica tre criticità fondamentali in questo approccio basato su set esterni:

1. Rischio di Fuga di Informazioni Secondarie: L'utente deve caricare dati sensibili per farli dimenticare, esponendoli a potenziali intercettazioni o cattiva gestione da parte del provider.
2. Difficoltà di Audit: È difficile per il provider verificare se il set fornito dall'utente è autorizzato, se rispetta l'ambito richiesto o se contiene dati di terzi.
3. Vulnerabilità ad Abusi Maliziosi: Set di dimenticanza apparentemente innocui possono nascondere backdoor o essere progettati per degradare le prestazioni del modello o rendere il processo di unlearning reversibile.

L'obiettivo è quindi passare a un paradigma senza corpus (corpus-free) e minimizzato per l'utente, dove l'utente fornisce solo un "ancoraggio" (es. un nome o una breve descrizione) e il sistema gestisce autonomamente la rimozione della conoscenza.

2. Metodologia: Il Framework MAGE

Gli autori propongono MAGE (Memory-grAph Guided Erasure), un framework agnostico rispetto al modello che opera in due fasi principali per generare supervisione per l'unlearning senza accedere al corpus di addestramento originale.

Fase 1: Estrazione della Memoria Interna (Internal Memory Mining)

Poiché non si dispone di un set di dimenticanza esterno, MAGE deve recuperare autonomamente cosa il modello ricorda riguardo all'entità target ($E_t$).

• Elicitazione Iterativa: Invece di una singola richiesta, il sistema interroga il modello più volte partendo dall'ancoraggio minimo (es. "Taylor Swift").
• Costruzione del Grafo della Memoria: Le risposte vengono analizzate per estrarre entità e fatti correlati. Questi vengono organizzati in un grafo della memoria locale pesato ($G_t$).
  • I nodi rappresentano eventi o entità correlate.
  • Gli archi rappresentano le associazioni, con pesi che riflettono la forza della memorizzazione (calcolata sulla frequenza di menzione attraverso multiple generazioni).
  • Il processo si espande iterativamente (fino a $K$ hop) per catturare conoscenze entangled (intrecciate).

Fase 2: Costruzione della Supervisione Scoped (Scoped Supervision Construction)

Una volta costruito il grafo, MAGE genera i dati necessari per l'addestramento (fine-tuning) per l'unlearning.

• Campionamento di Percorsi: Vengono campionati percorsi dal grafo con una probabilità pesata verso i nodi più "fortemente memorizzati". Questo assicura che la supervisione si concentri sulle conoscenze più radicate.
• Sintesi Edge-to-Event: Le coppie di nodi adiacenti nel percorso vengono convertite in affermazioni fattuali concise.
• Generazione di Set di Dati:
  • Forget Set ($S_f$): Vengono generate coppie Domanda-Risposta (QA) dove la risposta identifica l'entità target. L'obiettivo è minimizzare la probabilità che il modello generi questa risposta.
  • Neighbor Set ($S_n$): Vengono generate QA su entità correlate ma non target (es. altri artisti simili a Taylor Swift) per preservare le conoscenze vicine e prevenire la "dimenticanza collaterale".
  • Retain Set ($S_r$): Dati generali (es. da Wikidata) per mantenere l'utilità generale del modello.

Questi set vengono poi inseriti in qualsiasi metodo standard di unlearning (es. Gradient Ascent, NPO).

3. Contributi Chiave

1. Nuovo Paradigma di Sicurezza: Introduce un approccio di unlearning guidato da "ancoraggi minimi" (user-minimized), eliminando la necessità per l'utente di fornire dati sensibili e riducendo i rischi di audit e abuso.
2. Framework MAGE: Un sistema che recupera la conoscenza target direttamente dai parametri del modello, la struttura in un grafo di memoria e genera autonomamente supervisione mirata.
3. Validazione Empirica: Dimostrazione che l'unlearning basato su dati auto-generati (senza corpus esterno) può raggiungere prestazioni comparabili a quelle ottenute con set di dimenticanza forniti esternamente e verificati.

4. Risultati Sperimentali

Il framework è stato valutato su due benchmark principali: TOFU (entità fittizie, conoscenza scarsa) e RWKU (persone reali, conoscenza ricca).

• Prestazioni di Dimenticanza: MAGE ha ottenuto risultati superiori o comparabili rispetto a baseline che usano dati esterni (come RWKU o ELUDe) e metodi di auto-generazione diretta (DirectQA). In particolare, su RWKU, MAGE ha mostrato la migliore capacità di dimenticare (Forget Set score più basso) in tre delle quattro strategie di fine-tuning testate (GA, NPO, GA+GD).
• Preservazione dell'Utilità: A differenza di metodi che causano un forte degrado delle prestazioni generali, MAGE mantiene un alto livello di utilità su task generali (MMLU, BBH, ecc.) e sui set di vicini (Neighbor Set), dimostrando una rimozione selettiva efficace.
• Qualità del Mining: L'analisi ha mostrato che il grafo della memoria recuperato da MAGE corrisponde meglio alla conoscenza reale del modello rispetto a semplici prompt diretti (DirectQA), recuperando attributi più completi (specialmente su TOFU).
• Robustezza: Il sistema è risultato robusto anche in presenza di allucinazioni nei dati generati; la precisione fattuale dei singoli item QA non sembra essere il fattore critico principale, quanto piuttosto l'allineamento con i pattern di memorizzazione del modello.
• Efficienza: Il costo computazionale per la costruzione del grafo è contenuto (interazioni offline con LLM) e non richiede raccolta di dati esterni.

5. Significato e Impatto

Il lavoro di MAGE rappresenta un passo significativo verso un unlearning pratico e sicuro per gli LLM.

• Sicurezza: Risolve il paradosso di dover fornire dati sensibili per farli dimenticare, mitigando rischi legali e di privacy.
• Auditabilità: Trasforma una richiesta opaca ("dimentica tutto su X") in un processo trasparente e verificabile dal provider, riducendo la superficie di attacco per abusi malevoli.
• Fattibilità: Dimostra che è possibile rimuovere conoscenze specifiche da modelli LLM senza accesso al corpus di addestramento originale, rendendo l'unlearning una soluzione scalabile per il rispetto delle normative sulla protezione dei dati in scenari reali.

In sintesi, MAGE sposta il carico di lavoro dall'utente (che non deve più preparare dataset complessi) al modello stesso (che deve "scoprire" e "dimenticare" ciò che ha memorizzato), creando un flusso di lavoro più sicuro, auditabile ed efficiente.