Riepilogo Tecnico: Classificazione Conformale Equa tramite Gruppi Basati su Rappresentazione Appresa

1. Enunciato del Problema

La Predizione Conformale (CP) fornisce garanzie di copertura marginale rigorose dal punto di vista statistico per i modelli di apprendimento automatico, assicurando che l'etichetta vera rientri in un insieme predetto con una probabilità specificata dall'utente (ad esempio, $1-\alpha$). Tuttavia, i metodi CP standard garantiscono la copertura solo in media sull'intera popolazione. Questa garanzia marginale non tiene conto dei bias algoritmici, in cui specifici sottogruppi (definiti da caratteristiche sensibili come razza o genere) possono subire una copertura sproporzionatamente scarsa.

Sebbene i metodi di "copertura equalizzata" tentino di garantire una copertura valida attraverso gruppi predefiniti, affrontano limitazioni significative:

1. Espressività: I metodi esistenti (ad esempio, Romano et al., 2020a) definiscono tipicamente i gruppi basandosi su singole caratteristiche. Faticano a catturare interazioni complesse e non lineari tra le caratteristiche (ad esempio, il sottogruppo definito da "Donna Bianca OPPURE Uomo Nero" in una relazione XOR esclusivo).
2. Scalabilità ed Efficienza: La ricerca esaustiva di tutti i sottogruppi plausibili è computazionalmente non fattibile. I precedenti approcci adattivi (ad esempio, Zhou & Sesia, 2024) si basano sulla selezione greed di caratteristiche discrete o su assunzioni di Naïve Bayes, il che limita la loro capacità di gestire caratteristiche continue e definizioni di gruppi non lineari.

La sfida fondamentale è sviluppare un framework di inferenza conformale che identifichi adattivamente sottogruppi trattati ingiustamente definiti da combinazioni complesse e non lineari di caratteristiche, mantenendo al contempo l'efficienza computazionale e producendo insiemi predittivi compatti e informativi.

2. Metodologia: FAREG

Gli autori propongono FAREG (Predizione Conformale Equa per Gruppi Basati su Rappresentazione), un framework basato sull'apprendimento che identifica adattivamente i gruppi affetti da bias e aggiusta gli insiemi predittivi per raggiungere una copertura equalizzata adattiva.

2.1 Apprendimento di Gruppi Basati su Rappresentazione

Invece di estrarre i gruppi direttamente dalle caratteristiche di input grezze $X$, FAREG codifica $X$ in una rappresentazione latente $Z$ tramite una mappatura $Z = f(X)$. Il metodo impiega un'architettura Deep Variational Information Bottleneck (Deep VIB) per apprendere un indicatore di appartenenza al gruppo $S$ (dove $S=1$ indica l'appartenenza a un gruppo trattato ingiustamente $\hat{G}$) basato su $Z$.

L'obiettivo di ottimizzazione massimizza l'informazione reciproca tra la rappresentazione latente $Z$ e sia l'appartenenza al gruppo $S$ che l'input $X$, minimizzando al contempo l'informazione reciproca tra $Z$ e le identità dei singoli campioni $i$ per garantire privacy e generalizzazione. La funzione di perdita è formulata come:
$$\mathcal{L} = \mathcal{L}_{CC} + \mathcal{L}_{MSE} - \beta \mathcal{L}_{KL}$$
Dove:

• $\mathcal{L}_{CC}$: Perdita di copertura condizionale empirica, minimizzata per identificare gruppi con copertura scarsa.
• $\mathcal{L}_{MSE}$: Perdita di ricostruzione (Errore Quadratico Medio) che assicura che $Z$ mantenga informazioni sufficienti per ricostruire $X$, preservando così l'interpretabilità.
• $\mathcal{L}_{KL}$: Termine di divergenza di Kullback-Leibler che comprime $Z$ in una distribuzione normale standard.

La selezione del gruppo è vincolata da una proporzione minima di dimensione del gruppo $\delta$. Gli autori utilizzano la Discesa del Gradiente Proiettata (PGD) per ottimizzare i parametri del decodificatore, proiettando le probabilità di appartenenza al gruppo predette nuovamente sull'insieme ammissibile per soddisfare il vincolo di dimensione.

2.2 Costruzione di Insiemi Predittivi Adattivi

Una volta identificati i gruppi ingiusti, FAREG costruisce l'insieme predittivo finale $C(X_{N+1})$ per un'istanza di test:

1. Viene costruito un insieme predittivo conformale standard $C_m(X_{N+1}, D)$ utilizzando l'intero insieme di calibrazione.
2. Il modello campiona $T$ vettori $s_t$ dalla distribuzione di Bernoulli congiunta appresa, ciascuno definendo un gruppo specifico $\hat{G}_{s_t}$.
3. Vengono costruiti insiemi conformali separati per ciascun gruppo campionato.
4. L'insieme predittivo finale è l'unione dell'insieme standard e di tutti gli insiemi specifici per gruppo:
   $$C(X_{N+1}) = C_m(X_{N+1}, D) \cup \bigcup_{t=1}^{T} C_m(X_{N+1}, \hat{G}_{s_t})$$

2.3 Metrica di Valutazione Potenziata: WSC+

Per valutare l'efficacia dell'identificazione di gruppi ingiusti non lineari, gli autori introducono WSC+, un'estensione non lineare della metrica di Copertura a Slab Pesata (WSC). Mentre la WSC tradizionale valuta la copertura su slab lineari ($a \leq v^T X \leq b$), WSC+ valuta la copertura su funzioni non lineari arbitrarie $\pi(X)$ (specificamente funzioni quadratiche negli esperimenti). Ciò consente una valutazione più precisa di se la procedura conformale copre gruppi definiti da interazioni complesse di caratteristiche.

3. Contributi Chiave

1. Framework FAREG: Un nuovo metodo di predizione conformale che utilizza un'architettura encoder-decoder per identificare adattivamente sottogruppi con copertura scarsa definiti da combinazioni non lineari di caratteristiche, superando le limitazioni delle definizioni di gruppi lineari o basate su singole caratteristiche.
2. Metrica WSC+: Una nuova metrica di copertura condizionale non lineare progettata per catturare e valutare meglio le prestazioni delle procedure conformali su sottogruppi complessi e trattati ingiustamente.
3. Garanzie Teoriche: Il documento dimostra che FAREG raggiunge una copertura equalizzata adattiva (Eq. 1) sull'insieme di gruppi selezionati, a condizione che i dati siano scambiabili. L'analisi teorica tramite la dimensione VC suggerisce che lo spazio dei gruppi candidati di FAREG è un soprainsieme di quello dei precedenti metodi adattivi (come AFCP), offrendo maggiore espressività.
4. Efficienza: Il metodo mantiene una complessità temporale comparabile alla predizione conformale standard ($O(N+M)$), superando significativamente la complessità $O(N \log N + NM)$ del metodo AFCP all'avanguardia.

4. Risultati Sperimentali

Gli autori hanno valutato FAREG su dataset sintetici e reali (Nursery, ACSIncome).

• Dati Sintetici (Scenario di Diagnosi di Malattia Mentale):

  • Copertura: FAREG è stato l'unico metodo a raggiungere coerentemente una copertura condizionale valida (≥0.9) sul sottogruppo target definito da una relazione NOR esclusivo (XNOR) tra le caratteristiche, mentre le baseline (Marginale, Parziale, AFCP1, AFCP2) non sono riuscite a mantenere questa copertura o hanno richiesto dimensioni campionarie significativamente maggiori.
  • Efficienza: FAREG ha mantenuto dimensioni medie competitive degli insiemi predittivi, evitando le dimensioni eccessive degli insiemi osservate in AFCP2 quando tentava di coprire il gruppo target.
  • Selezione delle Caratteristiche: FAREG ha identificato con successo le combinazioni non lineari di caratteristiche rilevanti (X[0] e X[1]) con una frequenza superiore rispetto alle baseline all'aumentare della dimensione del campione.
  • Tempo di Esecuzione: FAREG ha dimostrato costi temporali significativamente inferiori rispetto ad AFCP, con un tempo di addestramento che scala linearmente con la dimensione del campione.

• Dati Reali (Nursery e ACSIncome):

  • Sul dataset Nursery, FAREG ha costantemente superato tutte le baseline nelle metriche di Copertura di Gruppo e WSC+ mantenendo al contempo una copertura marginale valida.
  • Sul dataset ACSIncome, FAREG ha raggiunto una copertura condizionale valida (0.9) ed efficienza competitiva rispetto ad AFCP2.

• Validazione della Metrica: Gli esperimenti hanno confermato che WSC+ identifica gruppi con copertura peggiore rispetto alla metrica WSC lineare, validandone l'utilità nel rilevare bias non lineari.

5. Significato e Affermazioni

Il documento afferma che FAREG fornisce un percorso pratico verso un apprendimento automatico affidabile bilanciando il compromesso tra l'efficienza della predizione conformale (piccole dimensioni degli insiemi) e le esigenze dell'equità algoritmica (copertura equalizzata).

• Espressività: Imparando rappresentazioni latenti, FAREG cattura bias algoritmici complessi che i metodi lineari o gli approcci basati su singole caratteristiche non riescono a cogliere.
• Interpretabilità: Nonostante l'uso di rappresentazioni latenti, la struttura encoder-decoder permette la ricostruzione delle caratteristiche di input, mitigando la preoccupazione del "black box" e dimostrando che i gruppi appresi riflettono interazioni di caratteristiche significative (ad esempio, relazioni XNOR).
• Robustezza: Il framework offre un approccio flessibile che può essere adattato a diverse nozioni di equità senza richiedere strutture di gruppo predefinite.

Gli autori riconoscono una limitazione: l'espressività potenziata dei gruppi basati su rappresentazione può sacrificare parzialmente l'interpretabilità diretta dei gruppi definiti su caratteristiche manifeste, sebbene sostengano che la capacità di ricostruzione compensi questo aspetto. Il lavoro si posiziona come un avanzamento rispetto ai metodi conformali adattivi equi esistenti affrontando il divario di espressività nell'identificazione dei gruppi.