ProCal: Probability Calibration for Neighborhood-Guided Source-Free Domain Adaptation

1. Il Problema: Adattamento di Dominio Senza Sorgente (SFDA)

L'obiettivo dell'Adattamento di Dominio Senza Sorgente (Source-Free Domain Adaptation - SFDA) è adattare un modello pre-addestrato su un dominio sorgente (etichettato) a un dominio target (non etichettato) senza avere accesso ai dati originali della sorgente. Questo scenario è cruciale per applicazioni sensibili alla privacy (es. diagnostica medica) o in ambienti dinamici.

Il paper identifica due limiti critici negli approcci SFDA basati sulla struttura dei vicini (neighborhood-based) esistenti (come NRC e AaD):

1. Dimenticanza della conoscenza sorgente (Source Knowledge Forgetting): I metodi attuali si affidano eccessivamente alla similarità delle previsioni tra i vicini nel dominio target. Questo porta il modello a dimenticare rapidamente le informazioni discriminative apprese durante l'addestramento sorgente.
2. Overfitting al rumore locale: La costruzione dei vicini basata solo sulla similarità target può amplificare il rumore e le strutture locali errate, specialmente ai bordi delle classi, portando a un'adattamento su strutture non valide.

2. Metodologia: ProCal

Per risolvere questi problemi, gli autori propongono ProCal, un metodo di calibrazione delle probabilità che integra dinamicamente le previsioni del modello sorgente con quelle del modello target in fase di adattamento.

A. Meccanismo di Calibrazione delle Probabilità

Il cuore di ProCal è un meccanismo di collaborazione duale che fonde due fonti di informazione per correggere le probabilità dei vicini:

1. Conoscenza a priori (Sorgente): Le previsioni iniziali del modello sorgente pre-addestrato ($p^s_i$), che fungono da ancora per preservare la conoscenza originale.
2. Feedback online (Target): Le previsioni attuali del modello target in fase di adattamento ($p^t_i$) e l'aggregazione delle probabilità dei suoi vicini ($p^N_i$).

La probabilità calibrata $p^{cal}_i$ per un campione target $x_i$ è calcolata come:
$$p^{cal}_i = \sum_{j \in N(x_i)} p_j + \gamma(p^t_i + p^s_i)$$
Dove $\gamma$ è un fattore di modulazione. Questa formula fonde l'informazione locale (vicini) con la conoscenza globale (sorgente) e il feedback corrente, mitigando il rumore locale e prevenendo la dimenticanza.

B. Funzione di Obiettivo (Loss Function)

Per sfruttare le probabilità calibrate, ProCal utilizza un obiettivo di ottimizzazione congiunto composto da due termini:

1. Loss di Supervisione Morbida ($L_{soft}$): Allinea la distribuzione di probabilità predetta dal modello target con la distribuzione calibrata dei vicini ($p^{cal}_i$). Questo termine agisce come supervisione debole ma robusta, preservando la conoscenza sorgente.
2. Loss di Diversità ($L_{div}$): Minimizza la similarità tra la distribuzione predetta e la distribuzione media globale. Questo impedisce al modello di collassare su una distribuzione uniforme (model collapse) e favorisce la discriminazione delle classi.

La funzione di perdita totale è:
$$L_{cal} = -E[p^{cal}_i \cdot p_i] + \beta \sum p_{i,k} \hat{p}_k$$
Dove il primo termine è $L_{soft}$ e il secondo è $L_{div}$.

C. Analisi Teorica

Gli autori forniscono un'analisi teorica basata su gradienti e punti fissi. Dimostrano che, sotto il vincolo del simpletto delle probabilità, il modello converge a un punto di equilibrio che fonde efficacemente la conoscenza sorgente e le informazioni del target, stabilizzando l'aggiornamento dei parametri e prevenendo sia la dimenticanza che l'overfitting.

3. Contributi Chiave

1. Analisi delle Limitazioni: Identificazione e quantificazione (tramite metriche di "tasso di dimenticanza" e "tasso di supervisione errata") dei problemi di dimenticanza della conoscenza sorgente e overfitting al rumore nei metodi SFDA attuali.
2. Nuovo Framework ProCal: Introduzione di un meccanismo di calibrazione probabilistica dinamica che utilizza un modello duale (sorgente + target) per generare segnali di supervisione più affidabili.
3. Ottimizzazione Congiunta: Progettazione di un obiettivo di perdita che bilancia la supervisione morbida calibrata con vincoli di diversità globale.
4. Validazione Estensiva: Sperimentazione su 31 task di adattamento cross-dominio su 4 dataset pubblici, dimostrando superiorità rispetto allo stato dell'arte (SOTA).

4. Risultati Sperimentali

Il metodo è stato valutato su quattro dataset principali: Office-31, Office-Home, VisDA-C e DomainNet-126.

• Performance Complessive: ProCal e la sua versione potenziata (ProCal++, che integra strategie di trasferimento di etichette) hanno ottenuto le prestazioni migliori (SOTA) su tutti e quattro i dataset.
  • Su Office-Home, ProCal++ ha raggiunto il 74.1% di accuratezza media, superando i metodi precedenti come AaD (72.7%) e SHOT++ (73.0%).
  • Su DomainNet-126 (un dataset molto grande e complesso), ProCal ha migliorato l'accuratezza media al 72.8%, ottenendo il miglior risultato in 9 task su 12.
• Robustezza:
  • Rumore nelle Priors: Anche quando le previsioni del modello sorgente vengono corrotte artificialmente con alti livelli di rumore (fino all'80%), ProCal mantiene un'alta accuratezza, dimostrando di non dipendere ciecamente dalla conoscenza sorgente ma di saper compensare con la struttura del target.
  • Stabilità: Le deviazioni standard su più esecuzioni sono molto basse, indicando risultati stabili.
• Visualizzazione: L'analisi t-SNE mostra che ProCal produce spazi di feature più compatti e meglio separati rispetto ai metodi concorrenti, riducendo l'entanglement tra le classi.

5. Significato e Impatto

ProCal rappresenta un avanzamento significativo nel campo dell'SFDA perché risolve il dilemma fondamentale tra conservazione della conoscenza (evitare la dimenticanza) e adattamento al nuovo dominio (evitare l'overfitting al rumore).

• Praticità: Il metodo non richiede dati sorgente, rendendolo ideale per scenari reali con vincoli di privacy.
• Generalizzabilità: Funziona efficacemente su diverse architetture (ResNet, ViT, ConvNeXt) e su diversi tipi di spostamento di dominio (stile, illuminazione, simulazione-realtà).
• Teoria e Pratica: Combina una solida analisi teorica sulla convergenza con risultati empirici superiori, offrendo una nuova direzione per la progettazione di algoritmi di adattamento di dominio robusti.

In sintesi, ProCal dimostra che la calibrazione dinamica delle probabilità, che integra la conoscenza storica con il feedback in tempo reale, è la chiave per un adattamento di dominio senza sorgente efficace e affidabile.