Toward Fine-Grained Forgetting:Attribute Unlearning for Multimodal Large Language Models

Sintesi Tecnica: Verso l'Oblio a Grana Fine: Attribute Unlearning per i Modelli Linguistici Multimodali Grandi

Definizione del Problema

I Modelli Linguistici Multimodali Grandi (MLLM) possiedono forti capacità visione-linguaggio, ma rischiano di memorizzare e divulgare informazioni sensibili. Mentre la ricerca esistente sull'unlearning (oblio) si concentra principalmente sulla cancellazione a livello di profilo (rimozione di tutte le informazioni relative a uno specifico entità, identità o personaggio), le richieste di privacy pratiche sono spesso più granulari. Gli utenti possono desiderare di eliminare un attributo specifico (ad es., una data di nascita, un indirizzo o un'affiliazione organizzativa) mantenendo al contempo le informazioni non sensibili sulla stessa identità.

Gli attuali benchmark per l'unlearning a livello di profilo (ad es., MLLMU-Bench, FIUBench) non testano esplicitamente la preservazione degli attributi non target di un'identità selezionata. Ciò crea un divario significativo: i metodi esistenti spesso non riescono a raggiungere la selettività a livello di attributo. Poiché gli attributi target e quelli da mantenere condividono la stessa identità e le stesse prove visive, essi risiedono spesso in regioni vicine dello spazio di rappresentazione e attraversano percorsi causali sovrapposti. Di conseguenza, gli interventi abbastanza ampi da rimuovere l'attributo target spesso causano una degradazione collaterale degli attributi non target della stessa identità, mentre interventi eccessivamente conservativi non riescono a sopprimere il target.

Metodologia: Causal Localization and Retain-Aware Projection (CLRP)

Per affrontare la sfida di isolare direzioni di attributi specifici preservando al contempo le rappresentazioni dell'identità condivisa, gli autori propongono CLRP, un framework leggero e privo di addestramento (training-free). CLRP opera senza aggiornare i parametri del modello e consiste in due componenti primarie:

1. Causal Layer Localization (Localizzazione Causale dello Strato):

   • Il metodo utilizza il patching delle attivazioni (activation patching) per identificare lo specifico strato transformer che media causalmente la divulgazione dell'attributo target.
   • Per ogni esempio target, una query target (che cerca l'attributo sensibile) viene accoppiata con una query di mantenimento (retain query) della stessa identità (che cerca informazioni non target).
   • Il sistema memorizza le attivazioni dall'esecuzione target e le inserisce (patching) nell'esecuzione di mantenimento. Lo strato che produce il massimo effetto di patching causale — dove l'evidenza dell'attributo target è ripristinata più fortemente — viene selezionato come punto di intervento ($\ell^*$).

2. Retain-Aware Contrastive Projection (Proiezione Contrastiva Consapevole del Mantenimento):

   • Una volta identificato lo strato di intervento, CLRP stima un sottospazio a bassa dimensionalità che rappresenta l'attributo target.
   • Fondamentalmente, questa stima è consapevole del mantenimento (retain-aware). Costruisce statistiche sia dalle rappresentazioni condizionate dal target sia dalle rappresentazioni di mantenimento della stessa identità (più prompt neutri).
   • Il metodo calcola un sottospazio di proiezione che cattura la variazione prominente nel target ma soppressa nelle rappresentazioni di mantenimento. Ciò viene ottenuto tramite il whitening della matrice di covarianza del target rispetto alla matrice di covarianza di mantenimento e selezionando gli autovettori principali.
   • Un operatore di proiezione attenua questo specifico sottospazio allo strato selezionato durante l'inferenza, rimuovendo efficacementamente la direzione dell'attributo target pur preservando la rappresentazione dell'identità condivisa necessaria per i fatti non target.

Contributi Chiave

Il documento apporta tre contributi primari:

1. Definizione di Unlearning a Livello di Attributo: Gli autori definiscono formalmente l'unlearning a livello di attributo per gli MLLM come un setting in cui determinati attributi devono diventare inaccessibili mentre i fatti non target della stessa identità rimangono disponibili. Ciò impone requisiti di località più severi rispetto alla cancellazione a livello di profilo.
2. Costruzione di AMU-Bench: Gli autori introducono l'Attribute-level Multimodal Unlearning Benchmark (AMU-Bench). A differenza dei benchmark precedenti, esso suddivide i target di cancellazione in categorie di testo lungo (descrittivo), numerico (date, stipendi) e testo breve (categorico). Valuta sistematicamente le prestazioni attraverso molteplici rapporti di dimenticanza (5%, 10%, 15%) e distinti tipi di domande (cloze, classificazione, generazione) su MLLM ampiamente utilizzati (LLaVA-1.5, Qwen2.5-VL).
3. Framework CLRP: La proposta di un metodo training-free che combina la localizzazione causale con la proiezione di sottospazio consapevole del mantenimento. Il metodo è progettato per navigare l'aggrovigliamento tra gli attributi target e quelli da mantenere.

Risultati Sperimentali

Gli autori hanno valutato CLRP contro quattro baseline (Gradient Ascent, Gradient Difference, KL Minimization e Preference Optimization) su LLaVA-1.5-7B, LLaVA-1.5-13B e Qwen2.5-VL-3B.

• Difficoltà di Oblio: La valutazione ha rivelato che il tipo di attributo impatta significativamente la difficoltà di oblio. Gli attributi numerici sono stati costantemente i più facili da sopprimere (raggiungendo spesso un'accuratezza vicino allo zero), mentre gli attributi a testo lungo e testo breve hanno mantenuto sostanzialmente più informazioni residue in tutti i metodi baseline.
• Guadagni di Prestazione: CLRP ha dimostrato una performance superiore nel bilanciare oblio e mantenimento.
  • Nei risultati con rapporto di dimenticanza del 5% per LLaVA-1.5-7B e Qwen2.5-VL-3B, CLRP ha ridotto l'accuratezza cloze dell'Attribute Forget Set fino a 16,00 punti percentuali (ad es., dal 20,00% al 4,00%) rispetto alla baseline più forte.
  • Contemporaneamente, ha migliorato l'accuratezza cloze dell'Attribute Retain Set fino a 3,02 punti percentuali (ad es., dal 14,77% al 17,79%), dimostrando una migliore preservazione dei fatti non target dello stesso profilo.
• Analisi del Trade-off: I metodi esistenti hanno mostrato trade-off instabili, degradando spesso la ritenzione degli attributi dello stesso profilo nel tentativo di dimenticare i target. CLRP ha ottenuto i risultati migliori o i migliori a parità di condizioni in 8 su 9 condizioni modello-attributo per l'accuratezza del Attribute Forget Set e ha mostrato punteggi di ritenzione migliorati, indicando che un oblio più forte del target non è avvenuto a scapito della degradazione dell'intero profilo.

Significato e Rivendicazioni

Il documento sostiene che AMU-Bench espone i limiti degli attuali approcci di unlearning a livello di profilo, specificamente la difficoltà di preservare la conoscenza dello stesso profilo rimuovendo attributi specifici. Gli autori affermano che CLRP fornisce una soluzione efficace per questo compito a grana fine sfruttando la localizzazione causale per individuare gli strati di intervento e la proiezione consapevole del mantenimento per distinguere tra rappresentazioni dell'attributo target e dell'identità condivisa.

La significatività di questo lavoro risiede nel suo passaggio dalla cancellazione grossolana dell'entità all'unlearning a livello di attributo, un setting che si allinea meglio alle pratiche richieste in materia di privacy. I risultati suggeriscono che l'oblio selettivo è fattibile negli MLLM senza riaddestramento, a patto che l'intervento sia localizzato causalmente e vincolato dalla geometria consapevole del mantenimento. Gli autori concludono che il loro approccio stabilisce prestazioni allo stato dell'arte nel bilanciare la soppressione degli attributi designati con la preservazione delle informazioni non target all'interno dello stesso profilo.