Rethinking Incompleteness: Formalizing Protocol Divergence and Train-Once Learning for Robust IMVC

Sintesi Tecnica: Ripensare l'Incompletezza nell'IMVC

Definizione del Problema
L'Incomplete Multi-View Clustering (IMVC) affronta la sfida di raggruppare dati in cui le viste (modalità) sono mancanti per sottoinsiemi di campioni. Il paradigma dominante nella ricerca attuale sull'IMVC si basa sulla ricostruzione cross-view, dove le viste mancanti vengono recuperate utilizzando i campioni completi come supervisione. Tuttavia, il documento identifica due criticità fondamentali nella valutazione e nella comprensione teorica di questi metodi:

1. La Trappola del Rientramento per Configurazione: Gli attuali metodi vengono tipicamente valutati riaddestrando un modello separato per ogni specifica combinazione di protocollo di dati mancanti e tasso di mancanza. Questo approccio è computazionalmente proibitivo per l'impiego nel mondo reale, dove le distribuzioni dei dati mancanti sono spesso non stazionarie o sconosciute.
2. Divergenza dell'Incompletezza: Il documento sostiene che il "tasso di mancanza nominale" ($r$) sia una metrica insufficiente per caratterizzare l'incompletezza dei dati. Diversi protocolli di valutazione con lo stesso $r$ nominale possono risultare in proporzioni drasticamente diverse di campioni completamente osservati ($p_c$). Gli autori formalizzano questo concetto come divergenza dell'incompletezza, dimostrando che i protocolli possono differire fino a 50 volte in $p_c$ a parità di tasso nominale.

Approfondimenti Teorici: Il Limite di Addestrabilità
Gli autori dimostrano che per la vasta classe di metodi basati sulla ricostruzione (Classe 1, indicata come $\mathcal{F}_{rec}$), l'apprendimento diventa strutturalmente mal posto quando la proporzione di campioni completi ($p_c$) scende al di sotto di una soglia critica (specificamente, quando $p_c \to 0$).

• Meccanismo: Le perdite di ricostruzione derivano la supervisione principalmente dalla co-occorrenza cross-view all'interno dello stesso campione. Se un campione ha meno di due viste, non contribuisce alcun segnale di gradiente all'obiettivo di ricostruzione.
• Conseguenza: Al diminuire di $p_c$, il segnale di gradiente atteso svanisce. Il documento prova che per i protocolli in cui $p_c \to 0$, lo spostamento atteso dei parametri è limitato da termini proporzionali a $p_c$, portando a un'accuratezza di clustering quasi casuale indipendentemente dalla regolazione degli iperparametri. Questo collasso è una proprietà strutturale della famiglia di funzioni di perdita, non un artefatto della regolazione.
• Distinzione: Il documento distingue tra fallimento di addestrabilità (il segnale di gradiente svanisce a causa del basso $p_c$, influenzando $\mathcal{F}_{rec}$) e fallimento di capacità (limiti informativi-teorici in cui le viste osservate semplicemente mancano di informazioni sufficienti sulle etichette dei cluster, influenzando tutti i metodi).

Metodologia: CRAFT
Per superare il limite di addestrabilità, gli autori propongono CRAFT (Complete-data Robust Attention-masked Fusion Transformer). CRAF è progettato per soddisfare due condizioni strutturali che permettono a un singolo modello addestrato su dati completi di generalizzare a qualsiasi schema di mancanza durante l'inferenza:

1. Indipendenza Per-Campione (C1): La rappresentazione per il campione $i$ è calcolata esclusivamente dalle proprie viste osservate e dai parametri condivisi. Non dipende dai pattern di osservazione di altri campioni o dalla co-occorrenza tra campioni diversi.
2. Fusione a Lunghezza Variabile Consapevole della Maschera (C2): Le viste mancanti sono escluse dal calcolo interno tramite mascheramento dell'attenzione anziché tramite padding con zeri o allucinazioni. Ciò assicura che le viste mancanti contribuiscano esattamente zero alla rappresentazione fusa, prevenendo l'iniezione di rumore o segnali non validi.

Dettagli dell'Architettura:

• Codifica Per-Vista: MLP specifici per ogni vista mappano ciascuna vista in uno spazio di embedding condiviso.
• Fusione Transformer: Un encoder Transformer elabora la sequenza di embedding delle viste (più un token [CLS] apprendibile). Durante l'inferenza, una maschera di key-padding imposta i logit dell'attenzione a $-\infty$ per le viste mancanti, rimuovendole efficacementamente dal meccanismo di attenzione.
• Addestramento in Due Fasi su Dati Completi:
  • Fase 1: Apprende le rappresentazioni utilizzando una perdita di ricostruzione per-vista e una perdita di coerenza cross-view (stile SimSiam) sui campioni completi.
  • Fase 2: Affina la testa di clustering utilizzando cross-entropy auto-etichettata, regolarizzazione dell'entropia e opzionale Masked Fine-Tuning (MFT) per allineare la distribuzione di addestramento con i pattern di mancanza al tempo di inferenza.

Contributi Chiave

1. Formalizzazione della Divergenza dell'Incompletezza: Introduzione del tasso di mancanza efficace ($\hat{r}$) e della proporzione di campioni completi ($p_c$) come variabili causali distinte, rivelando che i protocolli standard oscurano i rischi di addestrabilità dei metodi basati sulla ricostruzione.
2. Dimostrazione Teorica del Collasso: Dimostrazione rigorosa che l'apprendimento basato sulla ricostruzione è strutturalmente limitato da $p_c$, spiegando perché i metodi esistenti falliscono nei regimi di dati sparsi (dove $p_c < 1\%$).
3. Architettura CRAFT: Un framework basato su Transformer che raggiunge un IMVC robusto attraverso il design architettonico (C1 e C2) piuttosto che l'ingegneria della funzione di perdita, consentendo un paradigma "Addestra Una Volta, Distribuisci Molte Volte".
4. Validazione Empirica: Esperimenti estesi su sette benchmark (inclusi CUB, HandWritten, MultiFashion e YTF-31) attraverso quattro distinti protocolli di valutazione.

Risultati

• Collasso dei Baseline: I baseline standard $\mathcal{F}_{rec}$ (ad esempio, COMPLETER, DCP, DCG, HSACC) collassano uniformemente verso un'accuratezza quasi casuale (spesso $<40\%$) quando valutati sotto protocolli rigorosi in cui $p_c \to 0$, anche se il tasso di mancanza nominale è moderato.
• Prestazioni di CRAFT: Un singolo checkpoint di CRAFT, addestrato una sola volta su dati completi, eguaglia o supera i baseline riaddestrati per singola configurazione in tutte le 16 configurazioni (protocollo, tasso) testate.
• Efficienza: CRAFT riduce l'overhead di addestramento di 8,8× rispetto all'approccio baseline di riaddestrare modelli separati per ogni configurazione.
• Robustezza: CRAFT mantiene un'alta accuratezza anche quando $p_c = 0$, dimostrando che la robustezza ai dati mancanti può essere una proprietà architettonica intrinseca.

Significato e Rivendicazioni
Il documento sostiene che l'attuale paradigma di "riaddestramento per configurazione" nell'IMVC è fragile e oscura una vulnerabilità fondamentale nei metodi basati sulla ricostruzione. Spostando l'onere della robustezza dalla funzione di perdita all'architettura, CRAFT dimostra che è possibile ottenere un IMVC robusto senza riaddestrare per specifiche distribuzioni di dati mancanti. Gli autori suggeriscono che la ricerca futura sull'IMVC dovrebbe riportare $p_c$ come metrica standard e dare priorità ai raffinamenti architettonici (come l'indipendenza per-campione e la fusione consapevole della maschera) rispetto ai meccanismi di recupero algoritmico. Il lavoro è limitato all'IMVC non supervisionato con perdite di ricostruzione cross-view; gli autori notano che estendere questi principi alla classificazione multi-view supervisionata o ad altri contesti multi-modali rimane una direzione per il lavoro futuro.