Robust Conditional Conformal Prediction via Branched Normalizing Flow

Sintesi Tecnica: Predizione Conformale Condizionale Robusta tramite Flusso Normalizzante Ramificato

1. Enunciato del Problema

La Predizione Conformale (CP) fornisce insiemi di previsione con garanzie di copertura marginale sotto l'assunzione che i dati di calibrazione e di test siano indipendenti e identicamente distribuiti (i.i.d.). Tuttavia, in presenza di spostamenti di distribuzione (dove la distribuzione di test $Q_{XY}$ differisce dalla distribuzione di calibrazione $P_{XY}$), i metodi esistenti allineano tipicamente solo le distribuzioni marginali del punteggio conformale. Sebbene ciò preservi la copertura marginale, non riesce a controllare l'errore di copertura condizionale su singoli input di test. Di conseguenza, gli insiemi CP possono diventare inaffidabili in regioni specifiche dove le distribuzioni dei punteggi condizionali non corrispondono, portando a una sottocopertura o a una sovracopertura eccessiva per input specifici. La sfida principale è garantire robuste garanzie di copertura condizionale ($Pr(Y \in C(X) | X=x) \ge 1-\alpha$) sotto spostamenti di distribuzione congiunta senza richiedere la conoscenza delle etichette di test vere durante l'inferenza.

2. Metodologia

La soluzione proposta introduce un quadro teorico che collega lo spostamento di distribuzione al degrado della copertura condizionale e una nuova architettura per mitigarlo.

Quadro Teorico:

• Lacuna di Copertura Condizionale (CCG): Gli autori definiscono la CCG per misurare la discrepanza tra la copertura condizionale di un input di test sotto $Q_{XY}$ e la garanzia sotto $P_{XY}$.
• Lacuna di Copertura Integrata (ICG): Definita come l'aspettativa della CCG sulla distribuzione delle caratteristiche di test $Q_X$, funge da metrica olistica di robustezza.
• Limite di Wasserstein: Il documento deriva un limite superiore per l'ICG utilizzando la distanza di Wasserstein ($W$) tra le distribuzioni congiunte di calibrazione e test ($P_{XY}$ e $Q_{XY}$). Nello specifico, $ICG(P, Q) \le \sqrt{2\kappa L} (\eta \cdot W(P_{XY}, Q_{XY}) + 1/4)$. Questo limite implica che la minimizzazione della distanza di Wasserstein tra le distribuzioni può teoricamente promuovere una copertura condizionale robusta.

Algoritmo: Flusso Normalizzante Ramificato (BNF)
Per rendere operativo il limite di Wasserstein, gli autori propongono il Flusso Normalizzante Ramificato (BNF), una mappatura invertibile $f_\theta(x, y) = (f_{\theta_X}(x), f_{\theta_Y}(y))$ progettata per trasformare la distribuzione di test $Q_{XY}$ in modo che corrisponda alla distribuzione di calibrazione $P_{XY}$.

• Architettura: Il BNF utilizza due rami indipendenti. Il ramo $X$ ($f_{\theta_X}$) normalizza gli input di test, mentre il ramo $Y$ ($f_{\theta_Y}$) trasforma le etichette. Crucialmente, i rami non condividono parametri, garantendo che la trasformazione di $X$ non dipenda dall'etichetta di test non osservata $Y$.
• Processo di Inferenza:
  1. Trasformare un input di test $X_{n+1}$ in un input normalizzato $\bar{X}_{n+1} = f_{\theta_X}(X_{n+1})$.
  2. Costruire un insieme di previsione condizionale $CC(\bar{X}_{n+1})$ utilizzando la distribuzione di calibrazione $P_{XY}$ (ad esempio, tramite Regressione Quantilica Conformalizzata).
  3. Trasformare inversamente l'insieme nello spazio di test utilizzando $f_{\theta_Y}^{-1}$ per ottenere l'insieme di previsione robusto finale $C_{BNF}(X_{n+1})$.
• BNF Aumentato: Per gestire distribuzioni complesse dove le trasformazioni monotone univariate (richieste per una mappatura inversa semplice) sono insufficienti, gli autori introducono il BNF Aumentato. Questa variante aggiunge un componente di rumore stocastico $\epsilon \sim \mathcal{N}(0,1)$ alla trasformazione del ramo $Y$ ($f_{\theta_Y}^{aug}(y; \epsilon)$). Ciò aumenta l'espressività ma richiede la risoluzione di un problema di ricerca della radice (o di una ricerca su griglia) durante l'inferenza per costruire l'insieme di previsione, poiché la trasformazione non è più strettamente monotona.
• Generalizzazione di Dominio Multi-Sorgente (MSDG): In scenari in cui la distribuzione di test è una miscela di $K$ distribuzioni sorgente, il metodo minimizza la distanza media di Wasserstein tra l'insieme di calibrazione e gli insiemi sorgente trasformati, assumendo pesi di miscelazione uniformi.

3. Contributi Chiave

1. Quantificazione della Robustezza: La definizione della Lacuna di Copertura Condizionale (CCG) e della Lacuna di Copertura Integrata (ICG) fornisce una metrica teorica per valutare la robustezza della copertura condizionale sotto spostamento di distribuzione.
2. Limite Teorico: La derivazione di un limite superiore per l'ICG in termini della distanza di Wasserstein tra distribuzioni congiunte, stabilendo un legame teorico tra la minimizzazione del trasporto e la preservazione della copertura condizionale.
3. Flusso Normalizzante Ramificato (BNF): L'introduzione di un'architettura invertibile a due rami che consente la trasformazione degli input di test in una distribuzione simile a quella di calibrazione senza richiedere etichette di test, preservando così le garanzie condizionali dopo la trasformazione inversa.
4. BNF Aumentato: Un'estensione che utilizza l'aumento stocastico per migliorare la capacità di adattamento a distribuzioni complesse, unita a un metodo per recuperare le garanzie condizionali nonostante la perdita di monotonia.

4. Risultati Sperimentali

Il metodo è stato valutato su nove dataset che coprono spostamenti sintetici e sfide del mondo reale (previsione delle vendite, previsioni del traffico, processo decisionale medico e modellazione epidemica) in contesti di Generalizzazione di Dominio Multi-Sorgente (MSDG).

• Metriche: Le prestazioni sono state misurate utilizzando Copertura Marginale, Copertura della Peggior Fetta (WSC) e la proposta Lacuna di Copertura della Peggior Fetta (WSCG), che penalizza sia la sottocopertura che la sovracopertura.
• Risultati:
  • Robustezza: Il BNF Aumentato combinato con la Regressione Quantilica Conformalizzata (CQR) ha costantemente ottenuto la WSCG più bassa su tutti i dataset e livelli di confidenza, superando le linee di base tra cui CP Split, CP con Pesi di Importanza, CP nel Caso Peggiore e CP Regolarizzato con Wasserstein.
  • Copertura: Il metodo ha mantenuto la copertura marginale e la WSC vicine al livello di confidenza target ($1-\alpha = 0.9$) riducendo significativamente la deviazione dal target nelle fette condizionali.
  • Efficienza: Mentre il BNF Aumentato standard produceva insiemi di previsione più grandi per tenere conto dell'incertezza della sorgente, una variante "Condizionata all'Aumento" (che condiziona sulla sorgente nota durante l'inferenza) ha ridotto significativamente la dimensione dell'insieme mantenendo la copertura.
  • Generalizzazione: Il metodo ha dimostrato robustezza su dimensioni campionarie variabili, numero di domini sorgente ($K$) e diversi livelli di confidenza.

5. Significato e Affermazioni

Il documento afferma che il suo significato principale risiede nell'affrontare il degrado della copertura condizionale della Predizione Conformale sotto spostamenti di distribuzione, un problema largamente non affrontato dai metodi esistenti focalizzati sulla marginalità. Limitando l'invalidità condizionale tramite la distanza di Wasserstein e implementando ciò tramite un flusso ramificato invertibile, il lavoro fornisce un meccanismo teoricamente fondato ed empiricamente efficace per garantire che la quantificazione dell'incertezza rimanga affidabile per singoli input di test, anche quando le distribuzioni dei dati si spostano. Gli autori posizionano questo come un passo verso applicazioni di AI più sicure in domini critici (ad esempio, sanità, traffico, modellazione epidemica) dove gli spostamenti di distribuzione sono inevitabili e l'affidabilità condizionale è fondamentale.

Il documento riconosce le limitazioni, inclusi i costi computazionali della ricerca della radice nel BNF Aumentato, la natura stocastica degli insiemi di previsione e i vincoli architetturali che richiedono input multivariati. Nota inoltre che, sebbene i dati di calibrazione vengano riutilizzati per l'addestramento del flusso (un potenziale bias di taratura), studi di ablazione suggeriscono che questo impatto sia minimo nella pratica.