Density Ratio-based Causal Discovery from Bivariate Continuous-Discrete Data

Il documento propone il metodo DRCD per determinare la direzione causale tra una variabile continua e una discreta, basandosi su risultati teorici che collegano la monotonia del rapporto di densità e le famiglie di spostamento di posizione alla causalità, dimostrando sperimentalmente la superiorità rispetto alle tecniche esistenti.

L'essenziale

Immagina di essere un detective che deve risolvere un mistero: due persone, Marco (che rappresenta una variabile continua, come la temperatura o il livello di zucchero nel sangue) e Giulia (che rappresenta una variabile discreta, come "malato" o "sano", "sì" o "no").

Il tuo compito è capire chi comanda chi.

• È il livello di zucchero di Marco che determina se Giulia sta male? (Zucchero → Malattia)
• Oppure è il fatto che Giulia sia malata che fa cambiare il livello di zucchero di Marco? (Malattia → Zucchero)

Di solito, per scoprirlo, dovresti fare un esperimento (somministrare zucchero a Giulia e vedere cosa succede), ma spesso non puoi farlo per motivi etici o pratici. Devi basarti solo su ciò che hai osservato finora.

Ecco come gli autori di questo paper, Takashi e Shohei, hanno creato un nuovo metodo detective chiamato DRCD (Causal Discovery basato sul Rapporto di Densità) per risolvere questo caso.

1. Il Problema: Due Tipi di Indizi Diversi

Fino a ora, i detective informatici avevano difficoltà perché Marco e Giulia parlano lingue diverse. Marco è un numero fluido (continuo), Giulia è una categoria fissa (discreta). I vecchi metodi cercavano di confrontare "chi è più forte" usando una bilancia, ma era come pesare un chilo di piume contro un chilo di piombo: non funzionava bene perché le scale erano diverse.

2. La Nuova Idea: La "Regola della Pendenza"

Gli autori hanno scoperto una proprietà matematica magica, che possiamo chiamare "La Regola della Pendenza".

Immagina di avere due grafici che mostrano come si distribuisce il livello di zucchero di Marco quando Giulia è sana (0) e quando è malata (1).

• Caso A: Marco causa Giulia (Zucchero → Malattia)
  Immagina che Giulia sia una persona che decide di ammalarsi solo se il livello di zucchero supera una certa soglia. In questo caso, se guardi il rapporto tra la probabilità di avere un certo livello di zucchero quando Giulia è malata rispetto a quando è sana, questo rapporto segue una linea dritta che sale o scende sempre (è "monotona").

  • L'analogia: È come una rampa di accesso. Più sali, più è facile entrare. Non ci sono buchi, né curve strane. È una pendenza costante.

• Caso B: Giulia causa Marco (Malattia → Zucchero)
  Immagina che la malattia di Giulia cambi il modo in cui il corpo di Marco elabora lo zucchero. A volte la malattia alza lo zucchero, a volte lo abbassa, a volte lo rende molto variabile. In questo caso, il rapporto tra le due situazioni non segue una linea dritta. Fa curve, salite e discese improvvise.

  • L'analogia: È come un terreno montuoso con valli e picchi. Non è una rampa liscia.

3. Come Funziona il Metodo DRCD (Il Detective)

Il nuovo metodo DRCD fa tre cose semplici, come se fosse un ispettore che controlla la scena del crimine:

1. Controlla se c'è un legame: Prima di tutto, verifica se i due sono collegati. Se i dati di Marco sono identici sia che Giulia sia sana o malata, allora non c'è nessun rapporto. Fine della storia.
2. Cerca la "Rampa Semplice" (Location-Shift): A volte, quando Giulia causa Marco, il suo effetto è molto semplice: cambia solo la media (sposta tutto un po' a destra o a sinistra) ma la forma rimane uguale. È come se Giulia spostasse Marco su un tapis roulant. Se DRCD vede questo, dice: "Ah, è Giulia che comanda!".
3. Controlla la "Pendenza" (Monotonicità): Se non è il caso semplice sopra, DRCD guarda la curva del rapporto.
   • Se la curva è una linea dritta (monotona), il detective conclude: "Marco causa Giulia!" (Perché è l'unico caso in cui la matematica funziona così).
   • Se la curva è contorta e irregolare, conclude: "Giulia causa Marco!" (Perché le malattie reali hanno effetti complessi).

4. Perché è Geniale?

Prima di questo metodo, i detective dovevano fare ipotesi molto rigide (ad esempio: "La malattia deve spostare solo la media, non cambiare la forma"). Se la realtà era diversa, si sbagliavano.

DRCD è più intelligente perché:

• Non ha bisogno di ipotesi rigide sulla forma della malattia.
• Non deve confrontare "chi è più forte" tra due tipi di dati diversi (evitando il problema della bilancia piume/piombo).
• Si basa su una regola matematica fondamentale: se le cause e gli effetti funzionano in modo indipendente, la loro relazione matematica non può essere una semplice linea drita a meno che non sia la causa a determinare l'effetto in modo "soglia".

In Sintesi

Immagina di guardare un'ombra proiettata su un muro.

• Se l'ombra si allunga in modo regolare e prevedibile mentre l'oggetto si muove, sai che l'oggetto sta muovendo la luce (X → Y).
• Se l'ombra si deforma in modo strano, si spezza o cambia forma in modo imprevedibile, sai che è la luce che sta cambiando e influenzando l'oggetto (Y → X).

Gli autori hanno dimostrato che questo metodo funziona benissimo sia con dati inventati che con dati reali (come le malattie cardiache), superando tutti i metodi precedenti. È come dare al detective un nuovo paio di occhiali che gli permettono di vedere la direzione del vento solo guardando come si muovono le foglie, senza bisogno di fermare il tempo.

Sommario tecnico

1. Il Problema

Il lavoro affronta la sfida fondamentale di inferire la direzione causale tra una variabile continua ($X$) e una variabile discreta ($Y$) utilizzando esclusivamente dati osservazionali.

• Contesto: Esempi tipici includono la relazione tra un marcatore biologico continuo (es. livelli di colesterolo) e la presenza di una malattia (variabile discreta: sì/no), o l'impatto dell'istruzione (discreta) sul reddito futuro (continuo).
• Limitazioni delle metodologie esistenti:
  • I metodi basati su vincoli (constraint-based) falliscono nei setting bivariati perché mancano di variabili aggiuntive per i test di indipendenza condizionale.
  • I modelli causali funzionali esistenti (es. LiM, MIC) assumono che, quando $Y$ causa $X$, le distribuzioni condizionate $P(X|Y=c)$ formino una famiglia di spostamento di posizione (location-shift family), ovvero abbiano la stessa forma e varianza ma solo medie diverse. Questa assunzione esclude modelli reali dove le distribuzioni hanno forme o varianze diverse (eteroschedasticità).
  • I metodi basati su score flessibili (es. CRACK, GSF) faticano a confrontare equamente direzioni causali tra variabili di tipo diverso (continuo vs discreto) a causa delle differenze intrinseche in contenuto informativo e scala, richiedendo normalizzazioni ad hoc prive di giustificazione teorica.

2. Metodologia: DRCD

Gli autori propongono DRCD (Density Ratio-based Causal Discovery), un metodo che determina la direzione causale testando le proprietà del rapporto di densità condizionata, evitando assunzioni distributive restrittive e confronti di score diretti.

Il metodo si basa su tre modelli causali possibili:

1. $X \to Y$: $X$ causa $Y$. Viene adottato un modello a soglia (threshold model) dove $Y$ è determinato da indicatori binari basati su $f(X) + \text{rumore}$.
2. $Y \to X$: $Y$ causa $X$. Il modello considera due casi:
   • Caso 1: Le distribuzioni condizionate $P(X|Y=c)$ formano una famiglia di spostamento di posizione (come nei lavori precedenti).
   • Caso 2: Le distribuzioni condizionate sono miscele di distribuzioni normali generalizzate con parametri indipendenti (permettendo forme e varianze diverse).
3. Nessuna relazione causale: $X$ e $Y$ sono indipendenti.

L'Algoritmo DRCD (4 Passi):

1. Test di esistenza causale: Si verifica se le distribuzioni condizionate $P(X|Y=c)$ differiscono significativamente tra due valori di $Y$ (usando il test di Kolmogorov-Smirnov). Se sono identiche, si conclude "Nessuna causalità".
2. Test di relazione a spostamento di posizione: Si centra il campione di $X$ per ogni valore di $Y$ e si verifica se le distribuzioni risultanti sono identiche. Se sì, si conclude $Y \to X$ (Caso 1).
3. Stima del rapporto di densità: Se il caso di spostamento di posizione è escluso, si stima il rapporto di densità $G(x) = \frac{P(X|Y=c_t)}{P(X|Y=c_s)}$ utilizzando l'algoritmo uLSIF (unconstrained Least-Squares Importance Fitting).
4. Valutazione della monotonicità: Si verifica se il rapporto di densità stimato è monotono.
   • Se il rapporto è monotono $\implies$ $X \to Y$.
   • Se il rapporto è non monotono $\implies$ $Y \to X$ (Caso 2).

3. Contributi Teorici Chiave

Il paper stabilisce l'identificabilità della direzione causale attraverso tre risultati teorici fondamentali:

1. Monotonicità sotto $X \to Y$: È stato dimostrato che, sotto il modello a soglia ($X \to Y$), il rapporto di densità condizionata $P(X|Y=c_t) / P(X|Y=c_s)$ è sempre monotono (non decrescente o non crescente).
2. Non-monotonicità generica sotto $Y \to X$: Sotto il modello $Y \to X$ con distribuzioni condizionate non a semplice spostamento di posizione (Caso 2), il rapporto di densità è monotono solo su un insieme di misura di Lebesgue zero nello spazio dei parametri. In altre parole, la monotonicità è un evento estremamente improbabile (non generico) quando le distribuzioni hanno forme diverse.
3. Non-genericità dello spostamento di posizione sotto $X \to Y$: È stato dimostrato che, sotto $X \to Y$, affinché le distribuzioni condizionate formino una famiglia di spostamento di posizione, è necessaria una coordinazione precisa e non generica tra il meccanismo causale e la distribuzione di input. Questo viola il principio dei meccanismi indipendenti (Independent Mechanisms Principle), rendendo tale scenario altamente improbabile nella realtà.

Conclusione Teorica: La monotonicità del rapporto di densità caratterizza univocamente la direzione $X \to Y$, mentre la non-monotonicità (o la presenza di uno spostamento di posizione) caratterizza $Y \to X$.

4. Risultati Sperimentali

Gli autori hanno valutato DRCD su dataset sintetici e reali confrontandolo con metodi esistenti (LiM, MIC, MANMs, CRACK, GSF).

• Dati Sintetici:
  • DRCD ha mantenuto un'accuratezza superiore all'80% in tutti gli scenari, inclusi quelli con distribuzioni condizionate non a spostamento di posizione (dove i metodi basati su assunzioni rigide fallivano).
  • Metodi come LiM e MIC hanno mostrato prestazioni molto scarse (< 70%) nello scenario non a spostamento di posizione, confermando la loro dipendenza da assunzioni limitanti.
• Dati Reali:
  • UCI Heart Disease: DRCD ha ottenuto la massima accuratezza (3 su 4 casi corretti), superando o pareggiando CRACK, ma con l'ulteriore vantaggio di non aver prodotto inferenze causali errate (inversioni), preferendo talvolta l'ipotesi di "nessuna causalità" quando incerto.
  • Tübingen Cause-Effect Pairs: Su coppie miste (continuo-discreto), DRCD ha identificato correttamente 3 su 4 direzioni, dimostrando robustezza in scenari reali complessi.

5. Significato e Impatto

• Superamento delle assunzioni rigide: DRCD è il primo metodo in grado di gestire efficacemente la causalità tra variabili continue e discrete senza assumere che le distribuzioni condizionate abbiano la stessa forma (sotto $Y \to X$).
• Approccio teorico solido: Sfrutta il principio dei meccanismi indipendenti e risultati di misura zero per garantire l'identificabilità, offrendo una giustificazione teorica rigorosa che manca in molti metodi basati su score.
• Evita normalizzazioni arbitrarie: Testando una proprietà intrinseca (monotonicità) invece di confrontare score tra tipi di variabili diversi, DRCD aggira il problema della comparabilità delle scale.
• Applicabilità: Il metodo è particolarmente rilevante in campi come la medicina, l'economia e la biologia, dove le relazioni tra fattori di rischio continui e esiti discreti (o viceversa) sono comuni e spesso caratterizzate da eteroschedasticità.

In sintesi, il paper introduce un framework robusto e teoricamente fondato per la scoperta causale in contesti misti, risolvendo limitazioni critiche delle metodologie attuali attraverso l'analisi delle proprietà del rapporto di densità.