Sintesi Tecnica: Predizione Conformale Posteriore (PCP)

1. Enunciato del Problema

La predizione conformale (CP) è una tecnica ampiamente utilizzata, priva di modelli, per costruire intervalli di previsione con garanzie di copertura indipendenti dalla distribuzione. Tuttavia, i metodi CP standard, come la Predizione Conformale Split (SCP), forniscono solo validità marginale. Ciò significa che la garanzia di copertura ($1-\alpha$) vale in media sull'intera popolazione ma può fallire per sottogruppi o individui specifici, in particolare quando i dati di test provengono da una sottopopolazione con dati di training scarsi (ad esempio, contee rurali nelle previsioni elettorali o gruppi demografici sottorappresentati).

Raggiungere la validità condizionale — garantire la copertura per ogni specifico vettore di caratteristiche $X$ — è teoricamente impossibile in contesti indipendenti dalla distribuzione senza fare forti assunzioni (ad esempio, di regolarità), poiché ciò richiederebbe lunghezze di intervallo attese infinite. Gli approcci esistenti per approssimare la validità condizionale, come la localizzazione (pesando i vicini in base alla distanza delle caratteristiche) o il raggruppamento (partizionando per attributi sensibili), presentano limitazioni:

• Localizzazione: Negli spazi ad alta dimensionalità, i "vicini" possono essere distanti tra loro, portando a dati sparsi e intervalli instabili.
• Raggruppamento: Il partizionamento per attributi sensibili può portare a una perdita di copertura per individui minoritari all'interno di quei gruppi (ad esempio, donne alte in un gruppo prevalentemente femminile) a causa di dimensioni campionarie ridotte.

Il documento affronta la necessità di un metodo che bilanci la validità marginale e quella condizionale identificando "tipi latenti" di punti dati basati sul loro comportamento residuo piuttosto che sulla vicinanza delle caratteristiche grezze.

2. Metodologia: Predizione Conformale Posteriore (PCP)

La PCP introduce un quadro che modella la distribuzione dei punteggi di non conformità (residui) come una miscela finita di distribuzioni di cluster. Invece di definire la somiglianza basandosi sulle caratteristiche grezze $X$, la PCP definisce la somiglianza basandosi sulle probabilità di appartenenza al cluster dei residui.

Meccanismo Principale

1. Modellazione a Miscela: Si assume che i punteggi di non conformità $R_i = |Y_i - \hat{\mu}(X_i)|$ seguano un modello a miscela:
   $$R_i | X_i \sim \sum_{k=1}^K \pi_k(X_i) f_k$$
   dove $\pi(X_i)$ è un vettore di probabilità di appartenenza al cluster e $f_k$ sono distinte distribuzioni di cluster.
2. Pesi Randomizzati: Per costruire un intervallo di previsione per un punto di test $X_{n+1}$, la PCP non utilizza il vero (sconosciuto) $\pi(X_{n+1})$. Invece, introduce un passaggio di randomizzazione:
   • Estrae un campione $L^* \sim \text{Multi}(m, \pi(X_{n+1}))$ (o una versione stimata $\hat{\pi}$) per ottenere frequenze empiriche $\pi^*(X_{n+1}) = L^*/m$.
   • Questo "rumore" sulla probabilità di appartenenza impedisce l'identificazione univoca del punto di test, preservando l'exchangeability.
3. Quantile Ponderato: L'intervallo di previsione è costruito utilizzando un quantile empirico ponderato dei residui. Il peso $w_i$ per un punto di validazione $i$ è proporzionale alla probabilità che la sua appartenenza al cluster $\pi(X_i)$ abbia generato l'osservazione randomizzata $\pi^*(X_{n+1})$:
   $$w_i \propto \prod_{k=1}^K [\pi_k(X_i)]^{m \pi^*_k(X_{n+1})}$$
   Ciò pesa efficacemente verso l'alto i punti di validazione le cui distribuzioni residue (appartenenze ai cluster) sono simili a quelle del punto di test, anche se le loro caratteristiche grezze sono distanti.

Gestione dei Parametri Sconosciuti

Poiché il vero $\pi(X)$ è sconosciuto, la PCP lo apprende dai dati. L'algoritmo:

• Imputa la risposta di test $Y_{n+1} = y$ per tutti i candidati $y$.
• Utilizza un algoritmo di apprendimento simmetrico per stimare le probabilità di appartenenza $\hat{\pi}_y$ dal dataset aumentato.
• Impiega un efficiente algoritmo di matching (grigliatura, adattamento e clustering) con complessità lineare nella dimensione del campione per stimare queste probabilità senza riadattare modelli complessi per ogni candidato $y$.

3. Contributi Chiave e Garanzie Teoriche

Validità Teorica

• Validità Condizionale sull'Appartenenza al Cluster: Il Teorema 1 stabilisce che l'intervallo PCP soddisfa $P(Y_{n+1} \notin \hat{C}_n(X_{n+1}) \mid \pi^*(X_{n+1})) \le \alpha$. Questo garantisce la validità condizionata all'assegnazione casuale del cluster del punto di test.
• Validità Condizionale Approssimata: All'aumentare del parametro di precisione $m$, $\pi^*(X_{n+1})$ si concentra attorno al vero $\pi(X_{n+1})$. Il documento dimostra che l'intervallo si avvicina alla validità condizionale nel punto di test stesso, a condizione che il modello a miscela approssimi bene la vera distribuzione dei residui.
• Lunghezza di Intervallo Finita: A differenza dei metodi di localizzazione stretti che possono produrre intervalli infiniti in alta dimensionalità, la PCP può mantenere intervalli finiti anche con $m$ grande, se un numero sufficiente di punti di validazione condivide probabilità di appartenenza al cluster simili (Teorema 2).
• Garanzie PAC: Sotto assunzioni di stabilità sull'algoritmo di apprendimento della miscela, la PCP soddisfa garanzie "Probabilmente Corrette in Approssimazione" (PAC), assicurando che la validità valga con alta probabilità sulla realizzazione dei dati di validazione (Sezione D).

Estensioni

• Copertura Condizionale Equalizzata: La PCP è applicata per garantire la copertura per sottogruppi (ad esempio, genere) assicurando che l'intervallo sia asintoticamente indipendente dall'appartenenza al sottogruppo. Questo previene la perdita di copertura del "minoritario all'interno di un minoritario" osservata nei metodi di partizione standard (Proposizione 3).
• Copertura Adattiva al Livello per la Classificazione: Per risposte categoriali, la PCP adatta il livello di copertura target in base alle probabilità predittive del classificatore. Se un classificatore è ben calibrato e sicuro, la PCP produce insiemi di previsione più piccoli (singoli) mantenendo la validità (Proposizione 4).

4. Risultati Sperimentali

Gli autori valutano la PCP su dataset sintetici e reali, confrontandola con SCP, SCP con Calibrazione Condizionale (SCP+CC) e Predizione Conformale Localizzata Casualmente (RLCP).

• Dataset Comunità e Crimine: La PCP raggiunge un tasso di copertura condizionale "worst-slice" vicino all'obiettivo (0,9), superando significativamente la SCP (circa 0,8) e eguagliando metodi avanzati come RLCP e SCP+CC. Crucialmente, la PCP mantiene lunghezze di intervallo comparabili alla SCP, mentre la RLCP produce intervalli significativamente più ampi.
• Dati Sintetici (Residui Non Lineari): In contesti dove la varianza dei residui dipende in modo non lineare da una caratteristica, la PCP identifica con successo la caratteristica rilevante e adatta le larghezze degli intervalli, mantenendo la copertura su tutto l'intervallo della caratteristica. RLCP e SCP+CC non riescono a catturare queste non linearità, portando a lacune nella copertura.
• Medical Expenditure Panel Survey (MEPS): In uno scenario con sottogruppi sbilanciati (ad esempio, genere), i metodi di partizione standard (SCP+Partition) non riescono a coprire gli individui minoritari all'interno del gruppo maggioritario. La PCP corregge questo allargando gli intervalli per gli individui sottorappresentati e restringendoli per quelli ben rappresentati, raggiungendo una copertura uniforme tra i sottogruppi senza sacrificare l'efficienza complessiva.
• HAM10000 (Lesioni Cutanee): Per la classificazione, la PCP genera insiemi di previsione più piccoli per classificatori ben calibrati rispetto agli insiemi conformali standard, allineando la dimensione dell'insieme alla sicurezza del classificatore.

5. Significato e Affermazioni

Il documento afferma che la PCP offre un approccio radicalmente diverso alla modellazione della similarità nella predizione conformale. Spostando il focus dallo spazio delle caratteristiche grezze alla distribuzione dei punteggi di non conformità, la PCP sfrutta informazioni non locali per costruire intervalli più stretti e robusti.

Il significato risiede nella sua capacità di:

1. Colmare il divario tra validità marginale e condizionale senza richiedere assunzioni distributive sulle caratteristiche.
2. Bilanciare automaticamente il compromesso tra copertura condizionale e lunghezza dell'intervallo, evitando la "maledizione della dimensionalità" che affligge i metodi di localizzazione.
3. Migliorare l'equità garantendo la copertura per individui sottorappresentati all'interno dei sottogruppi, affrontando una specifica modalità di fallimento dei metodi basati sulla partizione.
4. Adattarsi alla sicurezza del classificatore nei compiti di classificazione, producendo insiemi di previsione più azionabili.

Gli autori sottolineano che, sebbene la PCP si basi sull'apprendimento di un modello a miscela, rimane un metodo indipendente dalla distribuzione nel senso che non assume una forma parametrica specifica per la distribuzione condizionale di $Y|X$, ma solo che i residui possono essere approssimati da una miscela di cluster. Il metodo si è dimostrato computazionalmente efficiente (lineare nella dimensione del campione) ed efficace in diversi domini, tra cui socioeconomia, scienza dei materiali e sanità.