Unsupervised Domain Adaptation for Binary Classification with an Unobservable Source Subpopulation

Questo studio propone un metodo di adattamento di dominio non supervisionato per la classificazione binaria che, nonostante la presenza di una sottopopolazione sorgente non osservabile, garantisce la recovery delle previsioni nel dominio target attraverso un approccio di corrispondenza delle distribuzioni supportato da garanzie teoriche e risultati sperimentali superiori rispetto ai benchmark ingenui.

L'essenziale

🌍 Il Mistero della "Fotografia Mancante": Come l'AI impara da un mondo incompleto

Immagina di voler insegnare a un amico (l'Intelligenza Artificiale) a riconoscere gli uccelli. Hai due scatole di foto:

1. La Scatola Sorgente (Sorgente): È piena di foto scattate da un fotografo esperto, ma c'è un problema. Questo fotografo ha una regola strana: non ha mai fotografato un uccello acquatico (come un airone) mentre era sull'acqua. Ha molte foto di aironi sulla terraferma, e molti altri uccelli sull'acqua, ma la combinazione "Aironi sull'acqua" è completamente assente. È come se quel tipo di uccello non esistesse nel suo album.
2. La Scatola Target (Obiettivo): È la scatola dove vuoi che il tuo amico lavori. Qui, invece, ci sono tutti gli uccelli, inclusi quelli sull'acqua. Ma c'è un altro problema: non ci sono etichette. Non sai chi è chi, vedi solo gli uccelli e l'acqua.

Il compito è difficile: come fai a insegnare al tuo amico a riconoscere gli aironi sull'acqua nella scatola Obiettivo, se nella scatola Sorgente non ha mai visto nessuna foto di un airone sull'acqua?

🚫 L'Errore Comune (I "Naive Benchmarks")

La maggior parte dei metodi attuali direbbe: "Beh, guardiamo le altre foto. Se un uccello è sull'acqua, probabilmente è un airone!".
Ma questo è un errore! Nella scatola Sorgente, gli uccelli sull'acqua erano solo quelli non acquatici (come le anatre). Il tuo amico impara una regola sbagliata: "Acqua = Anatra". Quando arriverà alla scatola Obiettivo e vedrà un airone sull'acqua, lo confonderà con un'anatra. È come se avessi imparato che "tutti i cani sono piccoli" perché hai visto solo i barboncini, e poi ti trovi un Alano gigante.

💡 La Geniale Idea degli Autori: "Il Gioco delle Proportioni"

Gli autori di questo paper (Chao Ying e colleghi) dicono: "Non preoccupiamoci di non avere la foto mancante. Possiamo ricostruirla usando la logica e un po' di matematica!".

Ecco come funziona, con un'analogia culinaria:

Immagina che la scatola Sorgente sia un pasticciere che ha fatto tre tipi di torta:

1. Cioccolato su terraferma.
2. Vaniglia su terraferma.
3. Cioccolato su acqua.
   (Manca la Vaniglia sull'acqua, perché il pasticcere non sa farla).

Ora, nella scatola Obiettivo, hai una mista di torte (senza etichette) che contiene tutti e quattro i tipi, inclusa la Vaniglia sull'acqua.

Il trucco:

1. Analizza la Terraferma: Nella scatola Obiettivo, guarda le torte sulla terraferma. Puoi vedere chiaramente quanto ci sono di Cioccolato e quanto di Vaniglia. Questo ti dà un'idea delle "ricette" di base.
2. Analizza l'Acqua (la parte difficile): Guarda le torte sull'acqua nella scatola Obiettivo. Vedi che c'è una miscela di "Cioccolato sull'acqua" (che hai visto prima) e "Vaniglia sull'acqua" (quella misteriosa).
3. Il Gioco della Bilancia (Distribution Matching): Gli autori usano un metodo chiamato "Corrispondenza delle Distribuzioni". Immagina di avere una bilancia. Sai come sa di "Cioccolato sull'acqua" (dalla sorgente). Sai come sa di "Vaniglia sull'acqua" (dalla sorgente, anche se non l'hai vista sull'acqua, sai come è fatta la vaniglia sulla terraferma e assumi che il gusto della vaniglia non cambi se la metti sull'acqua).
   • Prendi la miscela misteriosa sulla bilancia (Obiettivo).
   • Aggiungi o togli "immaginariamente" le porzioni di Cioccolato e Vaniglia finché il gusto totale non corrisponde esattamente a quello che vedi nella scatola Obiettivo.
   • Risultato: Calcolando quanto "pesa" la Vaniglia nell'equazione, scopri quante torte di Vaniglia sull'acqua ci sono, anche se non ne hai mai vista una!

📊 Cosa hanno scoperto?

1. È possibile! Anche se manca un intero gruppo di dati (gli aironi sull'acqua), puoi ancora fare previsioni corrette se sai come "pesare" le altre parti del puzzle.
2. Il metodo funziona meglio: Hanno provato questo trucco su dati sintetici (fatti al computer) e su dati reali (come il famoso dataset "Waterbirds" e foto di volti "CelebA"). Il loro metodo ha battuto tutti i metodi "stupidi" che ignoravano il problema.
3. Teoria solida: Non è solo un trucco magico. Hanno scritto delle formule matematiche che garantiscono che, più dati hai, più la loro stima diventa precisa e affidabile.

🏁 Perché è importante?

Nel mondo reale, i dati sono spesso "sporchi" o incompleti.

• In medicina, potresti avere dati su pazienti maschi e femmine, ma nessun dato su donne di una certa etnia con una malattia specifica.
• In guida autonoma, potresti avere dati su auto che guidano sotto la pioggia, ma nessun dato su camion che guidano sotto la neve.

Se l'AI ignora queste "buchi" nella conoscenza, farà errori gravi (bias). Questo paper ci insegna come usare la logica per colmare quei buchi, rendendo l'Intelligenza Artificiale più equa, sicura e capace di capire il mondo reale, anche quando i dati non sono perfetti.

In sintesi: È come risolvere un puzzle mancante non guardando il pezzo che manca, ma guardando attentamente come si incastrano tutti gli altri pezzi intorno ad esso.

Sommario tecnico

1. Il Problema: Adattamento di Dominio con Sottopopolazioni Inosservabili

Il lavoro affronta una sfida specifica nell'ambito dell'Adattamento di Dominio Non Supervisionato (UDA). In scenari reali, i dataset di origine (source) spesso non sono rappresentativi di tutti i sottogruppi presenti nel dominio target a causa di bias sistematici nella raccolta dati.

• Contesto: Si considera un problema di classificazione binaria con etichetta $Y \in \{0, 1\}$ e una variabile di background o ambiente $A \in \{0, 1\}$ (es. uccelli acquatici vs terrestri su sfondi d'acqua vs terra).
• La Sfida: In un sottogruppo specifico definito dalla combinazione $(Y, A)$, i dati sono completamente assenti nel dominio di origine (es. non esistono uccelli acquatici su sfondo d'acqua nel training set), mentre sono presenti nel dominio target.
• Conseguenze: Ignorare questa "mancanza strutturata" (structured missingness) porta a stime distorte e a un degrado delle prestazioni predittive nel target, poiché i metodi UDA standard falliscono nel mappare correttamente le distribuzioni quando una componente della miscela è invisibile nell'origine.

2. Metodologia Proposta

Gli autori sviluppano un quadro teorico e un metodo pratico per recuperare le probabilità predittive nel dominio target nonostante l'assenza di dati per un sottogruppo specifico.

Assunzioni Chiave

1. Invarianza Condizionata Strutturata: La distribuzione delle caratteristiche $X$ data la combinazione di etichetta e background $(Y, A)$ è invariante tra i domini:
   $$p(X | Y, A, R=1) = p(X | Y, A, R=0) = p(X | Y, A)$$
   Questo è un'estensione più raffinata dello label shift, dove la distribuzione marginale di $(Y, A)$ cambia, ma la distribuzione condizionale di $X$ data $(Y, A)$ rimane stabile.
2. Assenza Strutturata: Una specifica combinazione, ad esempio $(Y=1, A=1)$, ha probabilità zero nel dominio di origine ($\alpha_{11} = 0$), ma probabilità non nulla nel target.

Il Framework Teorico

Il paper dimostra che è possibile derivare espressioni in forma chiusa per le probabilità predittive nel target ($\eta_1(x), \eta_0(x), \eta(x)$) basandosi sui dati osservabili.

• Per il sottogruppo con background osservabile ($A=0$), la probabilità target $\eta_0(x)$ può essere espressa in funzione della probabilità sorgente $\xi_0(x)$ e dei rapporti tra le proporzioni dei sottogruppi nei due domini.
• Per il sottogruppo con background problematico ($A=1$), dove $(Y=1, A=1)$ manca, la probabilità target $\eta_1(x)$ viene derivata utilizzando una relazione che coinvolge la probabilità di appartenenza al dominio sorgente dato $X$ e $A=1$ ($\kappa(x)$) e le proporzioni dei sottogruppi osservabili.

Stima dei Parametri: Distribution Matching

Il cuore pratico del metodo risiede nella stima delle proporzioni dei sottogruppi nel target (in particolare $\beta_{10}$ e $\beta_{00}$), che sono sconosciute.

• Approccio: Il problema viene riformulato come un problema di matching di distribuzioni. Si sfrutta il fatto che la distribuzione delle caratteristiche nel target per il gruppo $A=0$ è una miscela delle distribuzioni osservate nel sorgente per $A=0$.
• Ottimizzazione: Viene proposta una funzione obiettivo basata sulla divergenza di Kullback-Leibler (KL) per stimare i parametri di miscela $\beta$. Questo approccio evita la necessità di modellare direttamente le distribuzioni generative ad alta dimensionalità, richiedendo invece solo la stima di probabilità condizionali di base (facili da ottenere con regressione logistica o reti neurali) sui dati osservabili.
• Identificabilità: Il paper dimostra che, sotto condizioni di "anchor set" (esistenza di regioni dello spazio delle caratteristiche dove una classe è assente), i parametri sono identificabili anche con un sottogruppo mancante.

3. Contributi Chiave

1. Nuovo Setting UDA: Introduzione e formalizzazione di un setting UDA dove un'intera sottopopolazione etichetta-background è assente nel sorgente, motivato da vincoli reali di raccolta dati (es. dataset Waterbirds, CelebA).
2. Quadro Teorico Rigoroso: Derivazione di formule esatte per le probabilità predittive target e dimostrazione che l'adattamento è possibile nonostante l'assenza strutturale.
3. Garanzie Teoriche:
   • Dimostrazione della consistenza statistica degli stimatori delle proporzioni.
   • Derivazione di limiti superiori (upper bounds) sull'errore di predizione e sulla generalizzazione, legati all'errore di stima dei parametri di miscela.
4. Metodo Pratico: Proposta di un algoritmo basato sul matching di distribuzioni (KL-divergence) che è computazionalmente efficiente e non richiede dati etichettati nel target.

4. Risultati Sperimentali

Gli autori hanno validato il metodo su dati sintetici e reali (Waterbirds e CelebA).

• Dati Sintetici: In simulazioni controllate, il metodo proposto ha mostrato una superiorità costante rispetto ai benchmark "naive" (che ignorano la missingness o assumono uno shift di etichetta standard) in termini di accuratezza e punteggio F1, specialmente all'aumentare della dimensione del campione.
• Dati Reali (Waterbirds & CelebA):
  • Il dataset Waterbirds è stato utilizzato per simulare l'assenza di "uccelli acquatici su sfondo d'acqua" nel training set.
  • Il metodo proposto ha ottenuto prestazioni superiori rispetto alle linee di base naive, recuperando significativamente le prestazioni sul sottogruppo non osservato.
  • L'uso di feature estratte da modelli ViT (Vision Transformer) ha mostrato risultati migliori rispetto a ResNet, confermando la robustezza del metodo con rappresentazioni moderne.
  • È stato osservato che se la proporzione dei gruppi osservabili nel sorgente è troppo piccola, le prestazioni possono degradare, ma il metodo rimane generalmente superiore ai benchmark che non modellano la missingness.

5. Significato e Impatto

Questo lavoro è significativo perché:

• Affronta un limite reale: Molti dataset reali soffrono di sottorappresentazione sistematica di certi gruppi (es. minoranze demografiche in ambito medico o casi rari in ecologia). I metodi UDA tradizionali falliscono in questi casi.
• Supera il "Collapse" Adversarial: A differenza dei metodi adversarial (come DANN) che possono fallire ("collapse") quando allineano distribuzioni marginali ignorando la struttura nascosta, questo approccio modella esplicitamente la struttura mancante.
• Equità e Robustezza: Fornisce un framework per costruire modelli più equi e robusti, riducendo i bias predittivi su gruppi che altrimenti verrebbero sistematicamente mal classificati a causa della mancanza di dati di training specifici.
• Generalizzabilità: Il framework teorico può essere esteso a casi con più classi e livelli di background, sebbene con una complessità computazionale e di identificazione maggiore.

In sintesi, il paper offre una soluzione matematicamente fondata e praticamente efficace per un problema critico nell'apprendimento automatico: come adattare modelli a nuovi domini quando i dati di addestramento mancano sistematicamente di intere categorie di casi rilevanti.