Sintesi Tecnica: Stochastic Meta-Unlearning (SMU)

1. Definizione del Problema

L'unlearning (oblio) per i modelli Vision-Language (VLM) presenta una sfida unica, distinta dall'unlearning nei modelli linguistici (LLM) standalone. I VLM integrano un backbone linguistico con encoder visivi e moduli di proiezione in un sistema strettamente accoppiato. Il documento identifica un critico "disallineamento componente-sistema" negli approcci esistenti:

• Il Fenomeno: Un concetto target che viene rimosso con successo ("dimenticato") dal backbone linguistico quando interrogato tramite prompt testuali, può spesso essere recuperato quando lo stesso backbone viene ricomposto con moduli visivi congelati e interrogato con prompt condizionati da immagini.
• La Limitazione dei Metodi Correnti:
  • Unlearning Diretto del VLM: Ottimizzare direttamente l'intero VLM garantisce l'oblio multimodale, ma rischia di degradare capacità non correlate (utilità) poiché gli aggiornamenti si propagano in modo imprevedibile tra le modalità.
  • Unlearning del Backbone Linguistico: Aggiornare solo il backbone linguistico è computazionalmente efficiente e preserva i moduli visivi, ma gli standard obiettivi di unlearning (ottimizzati su dati puramente testuali) non riescono a garantire che l'oblio persista dopo la reintegrazione del backbone nel sistema visivo.

La sfida centrale è preservare l'utilità dell'unlearning del backbone linguistico garantendo al contempo che il comportamento di oblio sia valido nel VLM completamente composto e multimodale.

2. Metodologia: Stochastic Meta-Unlearning (SMU)

Gli autori propongono lo Stochastic Meta-Unlearning (SMU), un framework di meta-ottimizzazione bilevel progettato per allineare gli aggiornamenti del backbone linguistico con il comportamento di unlearning a livello di VLM.

2.1 Framework Bilevel

SMU tratta l'unlearning del VLM come un problema di meta-learning con due cicli distinti:

• Ciclo Interno (Unlearning lato Testo):

  • Opera esclusivamente sui parametri del backbone linguistico ($\theta_T$).
  • Applica $K$ passi di unlearning utilizzando solo dati testuali unimodali (set di dimenticato e set di mantenimento).
  • L'encoder visivo e i moduli di proiezione ($\phi$) rimangono congelati e non vengono aggiornati.
  • Questo passaggio produce il backbone aggiornato $\theta_{T,K}$.

• Ciclo Esterno (Feedback a livello di VLM):

  • Ricompone l'aggiornato backbone $\theta_{T,K}$ con i componenti visivi congelati $\phi$ per formare il VLM completo $F_{\theta_{T,K}, \phi}$.
  • Valuta il modello su query multimodali (immagine + testo) e query solo testuali.
  • Calcola una perdita ($L_{outer}$) basata sulle prestazioni di oblio (rimozione del target) e sulla preservazione dell'utilità (prestazioni su set di mantenimento/test) a livello di VLM.
  • Propaga il gradiente di questa perdita esterna attraverso i passi di unlearning del ciclo interno per aggiornare l'inizializzazione pre-unlearning ($\theta_T$).

2.2 Campionamento Stocastico dei Task

Per affrontare la generalizzazione, SMU non ottimizza per un singolo target di oblio o un operatore di unlearning fisso. Invece, durante il meta-training, campiona stocasticamente ambienti $e = (z, m, c)$ da una distribuzione $p(E)$, dove:

• $z$: Il target da dimenticare.
• $m$: L'operatore di unlearning del ciclo interno (es. GradDiff, NPO).
• $c$: La condizione di query.

Minimizzando la perdita esterna attesa su questi ambienti campionati, SMU apprende un'inizializzazione che è robusta ai cambiamenti del target, dell'algoritmo di unlearning e della modalità di query.

2.3 Fase di Meta-Test

In fase di deployment (meta-test), data una nuova richiesta di cancellazione:

1. Il sistema parte dall'inizializzazione appresa $\theta^*_T$.
2. Esegue i passi standard di unlearning lato testo utilizzando i nuovi dati target.
3. Il backbone risultante viene inserito nel VLM congelato.
4. Il modello finale viene valutato sia su set di test solo testuali che multimodali.

3. Contributi Chiave

1. Identificazione del Disallineamento Componente-Sistema: Il documento dimostra empiricamente che l'unlearning solo testuale è insufficiente per i VLM, poiché i target dimenticati nel backbone linguistico possono essere recuperati tramite input visivi.
2. Stochastic Meta-Unlearning (SMU): Un nuovo framework bilevel che utilizza il feedback a livello di VLM per meta-apprendere un'inizializzazione per il backbone linguistico. Ciò assicura che gli aggiornamenti locali del backbone si traducano in un oblio multimodale globale.
3. Generalizzazione tramite Stocasticità: L'introduzione del campionamento stocastico dei task permette all'inizializzazione appresa di trasferirsi a nuovi target di oblio non visti e a diversi operatori di unlearning, evitando l'overfitting su specifici scenari di cancellione.

4. Risultati Sperimentali

Gli autori hanno valutato SMU su due VLM (Qwen2.5-VL e InternVL3) e due dataset di meme multimodali (Hateful Memes e COVID Memes), confrontandolo con tre baseline: GradDiff, NPO e RMU.

• Trade-off Forget-Retain (Oblio-Mantenimento): SMU ha ottenuto il miglior equilibrio complessivo. Rispetto alla baseline più forte per ciascuna metrica, SMU ha ridotto l'accuratezza media di Forget di 10,52 punti, migliorando l'accuratezza media di Retain di 20,10 punti e l'accuratezza di Test di 17,01 punti.
• Robustezza Multimodale: A differenza delle baseline che fallivano nell'oblio sotto condizioni di immagine o distruggevano l'utilità, SMU ha rimosso con successo i target nel VLM ricomposto mantenendo al contempo alte prestazioni su compiti non correlati.
• Trasferibilità:
  • Trasferimento del Target: SMU, addestrato su un target, si è generalizzato con successo a nuovi target di oblio non visti.
  • Trasferimento dell'Operatore: SMU, addestrato con un operatore di unlearning (es. GradDiff), è rimasto efficace quando testato con operatori differenti (es. RMU, NPO).

5. Significato e Rivendicazioni

Il documento afferma che SMU fornisce una soluzione più affidabile e trasferibile per l'unlearning dei VLM colmando il divario tra gli aggiornamenti a livello di componente e il comportamento a livello di sistema.

• Affidabilità: Utilizzando il feedback a livello di VLM per guidare l'inizializzazione, SMU assicura che l'oblio non sia un artefatto della valutazione solo testuale, ma sia valido nel pieno contesto multimodale.
• Efficienza: Mantiene l'efficienza computazionale di aggiornare solo il backbone linguistico, evitando la degradazione dell'utilità associata all'ottimizzazione diretta del VLM.
• Praticità: Il design stocastico rende il metodo robusto a scenari reali dove le richieste di cancellazione variano nel contenuto e l'algoritmo specifico di unlearning utilizzato può differire dalle assunzioni di addestramento.

Gli autori concludono che il feedback a livello di VLM è essenziale per rendere efficace l'unlearning del backbone linguistico per i sistemi multimodali e che il meta-learning offre una via percorribile per raggiungere questo obiettivo senza dover riaddestrare l'intero modello o compromettere l'utilità.