Sintesi Tecnica: Formalizzazione e Falsificazione dei Percorsi Causali di Eventi Rari

1. Definizione del Problema

Il documento affronta la sfida di fornire spiegazioni causali per eventi rari (outlier), come disastri naturali, crolli del mercato o guasti ai sistemi. Sebbene i metodi esistenti di analisi delle cause radici identifichino efficacemente un piccolo set di origini causali, essi spesso non riescono a catturare i meccanismi specifici e i sottografi attraverso i quali tali cause si propagano per produrre l'esito osservato. Inoltre, i modelli causali completi sono frequentemente sconosciuti, e gli approcci standard basati sulla teoria dei valori estremi asintotici o su assunzioni di variabili continue sono inadatti per eventi rari ma non estremi o per domini discreti.

Il problema centrale è la mancanza di una nozione formale e testabile di "percorso causale" che faccia da ponte tra le semplici spiegazioni verbali e la modellazione causale dettagliata. Gli attuali metodi faticano a quantificare se una proposta catena di eventi costituisca una spiegazione valida per una specifica osservazione rara, specialmente quando il grafo causale completo non è disponibile o quando la spiegazione deve rimanere robusta sotto una conoscenza parziale del modello.

2. Metodologia

2.1 Formalizzazione dei Percorsi Causali e dei Punteggi di Spiegazione

Gli autori introducono un framework basato su Modelli di Equazioni Strutturali (SEM) e Grafi Aciclici Diretti (DAG) per formalizzare i percorsi causali per eventi binari.

• Cluster di Eventi: Un insieme di variabili binarie $B$ connesse da un DAG causale $C$. Un sottoinsieme $R$ rappresenta le cause radici dove i meccanismi sono "corrotti" o oggetto di intervento.
• Punteggio di Spiegazione: Basandosi su Oesterle et al. (2025), il documento definisce un punteggio di spiegazione $E(x \to y)$ per un evento $X=x$ che spiega $Y=y$ come:
  $$E(x \to y) := 1 - \frac{\log P(Y=y | do(X=x))}{\log P(Y=y)}$$
  Questo punteggio misura quanto l'intervento $do(X=x)$ aumenti la probabilità di $Y=y$ rispetto alla sua rarità a priori. Un punteggio vicino a 1 indica una spiegazione forte.
• Punteggio di Spiegazione del Percorso: Per affrontare il limite secondo cui le sole cause radici non spiegano l'intero processo di propagazione, gli autori definiscono un punteggio di spiegazione del percorso $E^K_{R \to t}$. Questo punteggio valuta se impostare le cause radici a 1 renda l'intero cluster di eventi (inclusi i mediatori) probabile, rispetto alla rarità dell'evento target.
  $$E^K_{R \to t} := 1 - \frac{\log P(B=1 | do(B_R=1))}{\log P(B_t=1)}$$
  Questa metrica penalizza le spiegazioni in cui gli eventi intermedi rimangono improbabili anche dopo che le cause radici sono state impostate, garantendo che il percorso sia coerente.

2.2 Astrazione Causale e Binarizzazione

Per gestire variabili continue o complesse, il documento propone l'Astrazione del Percorso, un metodo per mappare modelli causali dettagliati in percorsi binari semplificati.

• Monotonicità delle Caratteristiche: Le variabili vengono trasformate in eventi binari utilizzando funzioni di caratteristica $\tau$ (es. $X \ge x$). Il framework richiede che queste caratteristiche soddisfino la "monotonicità della caratteristica", assicurando che l'aumento del valore della caratteristica di un genitore aumenti la probabilità della caratteristica del figlio.
• Micro-Realizzazione Naturale: Per gestire la natura mal definita degli interventi su variabili grossolane (binarie), gli autori definiscono una "micro-realizzazione naturale" di un intervento $do(B_S=b_S)$. Ciò comporta l'estrazione delle variabili sottostanti da distribuzione condizionale data la vincolo binario, simulando efficacemente l'intervento nel modello a grana fine.
• Metrica di Accuratezza: La qualità di un'astrazione è misurata tramite la divergenza KL tra le distribuzioni interventive del modello astratto e la distribuzione proiettata reale, normalizzata rispetto alla rarità dell'evento target.

2.3 Valutazione tramite Controlli di Coerenza

Il framework consente la falsificazione delle spiegazioni causali attraverso controlli di coerenza:

• Coerenza Quantitativa: Se viene proposto un percorso, le probabilità di transizione tra i nodi (es. $P(B_j=1 | B_i=1)$) devono essere coerenti con il punteggio di spiegazione. Se il prodotto di queste probabilità non aumenta sufficientemente la probabilità dell'evento, la spiegazione è considerata debole.
• Coerenza Qualitativa: Il framework può essere utilizzato per interrogare agenti (es. LLM) su sottostrutture di un percorso proposto per verificare se i legami causali rivendicati reggono sotto contesti specifici.

3. Contributi Chiave

1. Definizione Formale dei Percorsi Causali: Il documento definisce un percorso causale non solo come un insieme di cause radici, ma come una tupla $(C, P, B, B_t, B_R, P_B)$ dove $P$ è un sottografo che spiega l'evento target. Ciò distingue tra il grafo causale completo $C$ (usato per il contesto) e il percorso esplicativo $P$.
2. Punteggio di Spiegazione del Percorso: Una metrica innovativa che quantifica la qualità di una spiegazione valutando se le cause radici rendono probabile l'intera sequenza di eventi nel percorso, piuttosto che solo l'evento target. Questo punteggio è additivo su insiemi disgiunti di meccanismi ed evita i problemi di dipendenza dal contesto tipici dei valori di Shapley.
3. Astrazione a Livello di Evento: L'introduzione dell'astrazione del percorso permette di derivare spiegazioni causali semplici e verbalizzabili da modelli complessi, continui o parzialmente noti. Fornisce un modo rigoroso per gestire la "grossolanità" (coarse-graining) delle variabili mantenendo implicazioni testabili.
4. Falsificabilità: Richiedendo impegni espliciti su quali meccanismi si siano comportati come previsto e quali siano stati alterati, il framework rende le spiegazioni causali falsificabili. Fornisce condizioni (es. Lemma 3.7 sui gap di log-verosimiglianza) sotto le quali una spiegazione può essere rifiutata.

4. Risultati e Dimostrazioni

• Limiti Teorici: Gli autori dimostrano che spiegazioni causali locali forti (alti punteggi a coppie) non garantiscono una spiegazione del percorso globale forte. Derivano le condizioni necessarie per alti punteggi di percorso, come l'evitare mediatori che siano significativamente meno probabili dei loro genitori.
• Relazione con la Necessità: Il documento dimostra che, per eventi rari, un punteggio di spiegazione positivo implica un'alta probabilità di necessità (PN), il che significa che la causa radice è probabilmente necessaria affinché l'evento si verifichi, anche se il punteggio non è perfetto.
• Caso di Studio di Valutazione tramite LLM: Gli autori hanno applicato il loro framework per valutare i percorsi causali generati da un Large Language Model (LLM) riguardo alle cause della senzatetto a lungo termine.
  • L'LLM ha generato un percorso $A \to B \to C \to D \to E$.
  • Interrogando l'LLM sulle probabilità di transizione, gli autori hanno calcolato un punteggio di spiegazione del percorso di circa $0,29$.
  • Il basso punteggio è stato attribuito a un legame debole ($C \to D$), dove la transizione da "perdita dell'appartamento" a "allontanamento dalla famiglia" non era sufficientemente probabile.
  • Questo esercizio ha dimostrato come il framework possa identificare quantitativamente i punti deboli nelle spiegazioni verbali e suggerire revisioni (es. aggiungere un legame diretto o riformulare i nodi) per migliorarne la plausibilità.

5. Significato e Rivendicazioni

Il documento sostiene di far avanzare il campo dell'inferenza causale e della Explainable AI (XAI) fornendo un linguaggio formale e quantitativo per discutere le spiegazioni causali di eventi rari.

• Colmare il Divario: Colma il divario tra le semplici spiegazioni verbali (che sono spesso intuitive ma non testabili) e la modellazione causale dettagliata (che è spesso troppo complessa o sconosciuta).
• Falsificabilità: Il significato primario risiede nel rendere le spiegazioni causali falsificabili. Richiedendo che una spiegazione implichi un set specifico di probabilità interventive, il framework permette controlli empirici o logici contro i dati o la credenza degli esperti.
• Sicurezza dell'IA e Trasparenza: Gli autori posizionano questo lavoro come un passo verso la valutazione della veridicità delle affermazioni causali generate dai sistemi di IA. Formalizzando le spiegazioni come percorsi espliciti, diventa possibile rilevare account causali difettosi di eventi socialmente significativi, contribuendo così all'affidabilità dell'IA generativa.

Gli autori rimangono modesti, osservando che il framework non prova automaticamente la validità di un DAG causale o la verità delle probabilità interventive; piuttosto, fornisce i concetti e le metriche necessari per discutere e valutare la plausibilità in modo guidato dai dati.