Riepilogo Tecnico: CoUn - Potenziamento dell'Apprendimento Non Appreso tramite Apprendimento Contrastivo

1. Definizione del Problema

L'Apprendimento Non Appreso (Machine Unlearning, MU) affronta la crescente necessità di privacy dei dati e conformità normativa (ad es. GDPR) rimuovendo l'influenza di specifici dati da "dimenticare" ($D_u$) da un modello addestrato, preservando al contempo l'utilità dei dati rimanenti da "conservare" ($D_r$). Lo standard aureo per il MU è l'apprendimento non appreso esatto, ottenuto riaddestrando un modello da zero su $D_r$ (il modello Retrain). Tuttavia, questo approccio è computazionalmente proibitivo.

I metodi di apprendimento non appreso approssimato mirano a ottenere risultati simili in modo più efficiente, ma spesso faticano a colmare il divario di prestazioni rispetto al modello Retrain. I metodi approssimati esistenti rientrano generalmente in due categorie:

1. Manipolazione delle Etichette: Assegnare ai campioni da dimenticare etichette semanticamente incoerenti o casuali per forzare una classificazione errata. Questo spesso degrada l'utilità del modello sui dati da conservare e richiede l'accesso ai dati da dimenticare.
2. Perturbazione dei Pesi del Modello: Modificare i pesi del modello per cancellare l'influenza dei dati da dimenticare. Una perturbazione eccessiva danneggia l'utilità, mentre una perturbazione insufficiente non riesce a rimuovere l'influenza dei dati da dimenticare.

Un'osservazione critica che guida questo lavoro è che un modello Retrain (addestrato solo su $D_r$) classifica i campioni da dimenticare ($D_u$) in base alla loro somiglianza semantica ai cluster di conservazione. Ad esempio, in uno scenario di dimenticanza per classe (rimozione di tutti i campioni "camion"), il modello Retrain classifica erroneamente i campioni "camion" da dimenticare in cluster semanticamente simili come "automobile" o "nave". Nella dimenticanza casuale, potrebbe classificare correttamente alcuni campioni da dimenticare se rimangono semanticamente vicini ai loro cluster di conservazione originali. I metodi approssimati attuali spesso non riescono a replicare questo comportamento sfumato, forzando o una classificazione errata totale o non riuscendo a disturbare sufficientemente l'influenza dei dati da dimenticare.

2. Metodologia: CoUn

Gli autori propongono CoUn (Contrastive learning for empowering Unlearning), un framework che ottiene un apprendimento non appreso efficace regolando le rappresentazioni dei dati apprese in base alla somiglianza semantica, utilizzando solo dati da conservare. CoUn non richiede l'accesso ai dati da dimenticare.

Meccanismo Principale

CoUn sfrutta il fatto che i pesi del modello originale catturano già le somiglianze semantiche tra tutti i campioni di addestramento. Regolando le rappresentazioni dei dati da conservare ($D_r$), il framework influenza indirettamente le rappresentazioni dei dati da dimenticare ($D_u$).

Il framework consiste in due obiettivi di apprendimento simultanei applicati a $D_r$:

1. Modulo di Apprendimento Contrastivo (CL):

   • Applicato ai dati da conservare per regolare le rappresentazioni.
   • Utilizza l'aumento dei dati per creare coppie positive (due visualizzazioni della stessa immagine) e coppie negative (immagini diverse).
   • Collisione di Cluster: Il modulo CL utilizza una perdita InfoNCE standard. Crucialmente, poiché il batch è campionato casualmente da $D_r$, include inevitabilmente falsi negativi (campioni della stessa classe del campione positivo ma trattati come negativi).
   • Questo induce una collisione di cluster, dove campioni della stessa classe vengono spinti l'uno lontano dall'altro. Di conseguenza, le rappresentazioni da dimenticare (che condividono informazioni semantiche con i dati da conservare tramite i pesi originali) vengono indirettamente spinte verso i cluster di altri campioni da conservare che mostrano la più alta somiglianza semantica con esse.
   • Nella dimenticanza per classe, questo spinge i campioni da dimenticare in cluster diversi. Nella dimenticanza casuale, allinea i campioni da dimenticare con i loro cluster di conservazione semanticamente più simili, mimando il comportamento del modello Retrain.

2. Apprendimento Supervisionato:

   • Applicato ai dati da conservare tramite un classificatore di testa utilizzando la perdita Cross-Entropy (CE).
   • Preservazione dell'Utilità: Mentre il CL induce collisione di cluster (che è benefica per l'apprendimento non appreso dei dati da dimenticare), rischia di degradare l'utilità del modello sui dati da conservare. La componente di apprendimento supervisionato contrasta questo fenomeno imponendo che le rappresentazioni da conservare rimangano all'interno dei loro rispettivi cluster corretti, mantenendo un'alta accuratezza su $D_r$.

Ottimizzazione

La funzione di perdita totale combina entrambi gli obiettivi:
$$L = L_{CE} + \lambda L_{CL}$$
Dove $L_{CE}$ è la perdita supervisionata cross-entropy, $L_{CL}$ è la perdita contrastiva e $\lambda$ è un fattore di scala che bilancia i due.

3. Contributi Chiave

1. Nuovo Framework: Introduzione di CoUn, un framework MU che ottiene un apprendimento non appreso efficace regolando le rappresentazioni apprese in base alla somiglianza semantica utilizzando CL e apprendimento supervisionato esclusivamente sui dati da conservare.
2. Insight Empirici e Teorici:
   • Dimostrato che CoUn apprende efficacemente spingendo le rappresentazioni da dimenticare nei cluster di rappresentazioni da conservare semanticamente simili, corrispondendo strettamente al comportamento del modello Retrain esatto.
   • Fornita un'analisi teorica che mostra come CoUn induca un tasso di classificazione errata più elevato sui dati da dimenticare, mantenendo al contempo un basso tasso di classificazione errata sui dati da conservare, ottimizzando sia la qualità della dimenticanza che l'utilità.
3. Validazione delle Prestazioni: Validato CoUn su più dataset (CIFAR-10/100, TinyImageNet) e architetture (ResNet-18, VGG-16, ViT). I risultati mostrano che CoUn supera costantemente le baseline dello stato dell'arte nel ridurre il divario di prestazioni rispetto al modello Retrain esatto.
4. Integrazione Modulare: Dimostrato che integrare il modulo CL di CoUn in metodi baseline esistenti potenzia significativamente la loro efficacia nell'apprendimento non appreso.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti in due scenari di dimenticanza: Per Classe (rimozione di un'intera classe) e Casuale (rimozione di una percentuale di campioni).

• Divario di Prestazioni: CoUn ha costantemente ottenuto il più basso "Divario Medio" (la differenza media tra Accuratezza di Conservazione, Accuratezza di Dimenticanza, Accuratezza di Test e tasso di successo MIA rispetto al modello Retrain) su tutti i dataset e modelli.
  • Su CIFAR-10 con ResNet-18 (10% di dimenticanza casuale), CoUn ha superato la migliore baseline del 16,7%.
  • Su CIFAR-100 con ResNet-18, il miglioramento è stato del 15,8%.
  • Su TinyImageNet, il miglioramento è stato del 6,3%.
• Confronto con le Baseline: CoUn ha superato metodi come NegGrad+, $\ell_1$-sparse, SalUn e NoT. In particolare, i metodi basati sulla manipolazione delle etichette (ad es. SalUn) hanno spesso sofferto di ridotta utilità sui dati da conservare.
• Integrazione: L'aggiunta del modulo CL di CoUn a baseline competitive (NegGrad+, $\ell_1$-sparse, NoT) ha portato a significativi incrementi delle prestazioni (ad es. fino a un miglioramento del 87,7% nel divario medio per $\ell_1$-sparse su CIFAR-100 con il 50% di dimenticanza).
• Studi di Ablazione:
  • Fattore di Scala ($\lambda$): Un'adeguata sintonizzazione è essenziale; un $\lambda$ elevato riduce i vincoli supervisionati, degradando l'utilità.
  • Temperatura ($\tau$): Temperature più basse migliorano generalmente l'efficacia del CL, con prestazioni ottimali a $\tau=0,1$.
  • Trasformazioni: Augmentations più forti nel CL possono portare a un clustering più stretto, il che paradossalmente ostacola l'apprendimento non appreso impedendo la necessaria sovrapposizione dei cluster. Trasformazioni più semplici (che corrispondono a quelle utilizzate nell'apprendimento supervisionato) hanno prodotto i migliori risultati.
  • Dimensione del Batch: Le prestazioni sono state ottimali quando la dimensione del batch corrispondeva a quella del modello Retrain (256).

5. Significato e Affermazioni

Il paper afferma che CoUn rappresenta un passo significativo in avanti nell'apprendimento non appreso approssimato, spostando il paradigma dal "forzare la classificazione errata" al "mimare la somiglianza semantica".

• Allineamento con l'Apprendimento Non Appreso Esatto: A differenza dei metodi precedenti che tentano di classificare erroneamente in modo accecante i dati da dimenticare, CoUn si allinea al comportamento naturale del modello Retrain esatto, che classifica i dati da dimenticare in base alla prossimità semantica ai dati da conservare.
• Efficienza e Utilità: CoUn ottiene un'alta efficacia nell'apprendimento non appreso senza richiedere l'accesso ai dati da dimenticare e mantiene un'alta utilità sui dati da conservare mitigando la collisione di cluster attraverso l'apprendimento supervisionato.
• Generalizzabilità: Il framework si è dimostrato efficace su diverse architetture di modelli e scenari di dimenticanza, e il suo modulo CL centrale può fungere da plug-in per potenziare i metodi esistenti di apprendimento non appreso.

Gli autori concludono che, sebbene CoUN si concentri attualmente sulla classificazione basata sulla visione su dataset relativamente piccoli, il suo approccio di sfruttare la somiglianza semantica e la collisione di cluster offre una direzione robusta per la ricerca futura nell'apprendimento non appreso.