Riassunto Tecnico: Self-Organized Conformal Prediction (SOCP)

1. Definizione del Problema

La previsione conforme (Conformal Prediction, CP) fornisce garanzie di copertura marginale distribuzioni-free e a campioni finiti per qualsiasi punteggio di non conformità fissato sotto l'ipotesi di scambiabilità. Tuttavia, la validità marginale media sull'intera distribuzione delle caratteristiche può mascherare gravi sottocoperture regionali in sottogruppi critici per la sicurezza (ad esempio, diagnosi rare o regimi operativi specifici). Sebbene l'esatta copertura condizionale distribuzione-free per ogni valore della caratteristica $x$ sia teoricamente impossibile senza produrre set non informativi, i metodi pratici devono trovare una nozione intermedia di località. Gli approcci esistenti spesso si affidano a distribuzioni pesate tramite kernel (introducendo sensibilità alla larghezza di banda e un elevato costo computazionale) o a raggruppamenti supervisionati (che richiedono etichette). La sfida consiste nel scoprire gruppi nello spazio di input in modo non supervisionato per consentire la calibrazione locale senza riaddestrare il predittore o alterare il punteggio di non conformità.

2. Metodologia: Self-Organized Conformal Prediction (SOCP)

SOCP è uno schema di calibrazione che scinde la scoperta dei gruppi dal processo di calibrazione. Utilizza una Mappa Auto-Organizzante (Self-Organizing Map, SOM) addestrata in modo non supervisionato sulla rappresentazione fissa dell'input per partizionare lo spazio delle caratteristiche in una griglia finita di celle prototipiche.

Pipeline Core

1. Scoperta dei Gruppi Non Supervisionata: Una SOM viene addestrata sullo spazio di rappresentazione dell'input $\mathcal{X}$ (indipendentemente dalle etichette di calibrazione). Questa mappa gli input in una griglia di $K$ celle prototipiche $\{w_k\}_{k=1}^K$.
2. Assegnazione della Best-Matching Unit (BMU): Per ogni input $x$, la BMU è determinata dal prototipo che minimizza la distanza $\|x - w_k\|^2$. Questo definisce una partizione rigida dello spazio di input.
3. Recupero del Buffer di Calibrazione Locale: Al tempo di test, per un query $x_{n+1}$, SOCP recupera un buffer di calibrazione basato sulla sua BMU $k^*$. Sono definiti tre regimi di recupero:
   • Regime 1 (Solo Cella BMU): Recupera i punti di calibrazione strettamente all'interno della cella BMU $k^*$.
   • Regime 2 (Vicinato Topologico Fisso): Recupera punti dalla cella BMU e dai suoi vicini di griglia fissi $N(k^*, r)$ (definiti dalla distanza di Chebyshev sulla griglia).
   • Regime 3 (Ampliamento del Prototipo): Recupera punti basandosi su un ampliamento a $L$-vicini più prossimi nello spazio dei prototipi.
4. Computazione della Soglia: La soglia conforme è calcolata come il quantile split-conformal standard sul buffer recuperato piuttosto che sull'intero set di calibrazione aggregato. Il predittore e il punteggio di non conformità rimangono invariati.

Garanzie Statistiche

Il documento stabilisce garanzie a campioni finiti basate sul regime di recupero:

• Validità Condizionata alla Cella (Regime 1): La validità esatta è mantenuta condizionatamente alla cella BMU $k^*$, a condizione che la cella sia attiva (abbia un numero sufficiente di punti di calibrazione).
• Validità Condizionata al Set di Recupero (Regimi 2 e 3): La validità esatta è mantenuta condizionatamente all'evento che il punto di test la sua BMU cada all'interno del set di recupero specifico (ad esempio, $k^* \in N(k, r)$).
• Validità Approssimata della Cella Centrale: Quando la soglia implementata (basata su un buffer di vicinato) viene valutata nella cella centrale $k^*$, la garanzia di copertura è approssimativa. La deviazione dalla copertura nominale è limitata da un termine di bias Kolmogorov-Smirnov (KS) $\varepsilon_k$, che misura la discrepanza tra la distribuzione del punteggio nella cella centrale e la distribuzione mista del vicinato recuperato.
• Estensione Split-Routed: Viene proposta un'estensione in cui un "routing split" indipendente seleziona l'ampliamento del buffer prima della calibrazione, recuperando la validità esatta condizionata allo split di routing.

3. Contributi Chiave

1. Framework Algoritmico: Introduzione di SOCP, una procedura agnostica rispetto al modello e al punteggio che combina il raggruppamento non supervisionato dello spazio di input (tramite SOM) con buffer di calibrazione locali per query. Supporta caratteristiche tabulari ed embedding di immagini senza modificare il predittore sottostante.
2. Garanzie Teoriche: Dimostrazione della validità a campioni finiti per il recupero della sola cella e per il set di recupero fisso per i buffer di vicinato. Il documento quantifica esplicitamente il compromesso tra stabilità locale e mismatch distributivo tramite un termine di bias KS per la copertura della cella centrale.
3. Efficienza: A differenza dei localizzatori basati su kernel (come LCP) che richiedono $O(n_{cal})$ operazioni per query, il recupero di SOCP è $O(K)$ (dove $K$ è il numero di celle SOM), rendendolo indipendente dalla dimensione del set di calibrazione al tempo di test.
4. Suite Diagnostica: Un framework diagnostico per cella che include mappe di bias KS, mappe di hit della copertura e mappe del buffer recuperato per identificare se i fallimenti regionali derivano dall'errore del predittore, dalla scarsità di massa di calibrazione o dal mismatch della distribuzione del punteggio.

4. Risultati Sperimentali

Il metodo è stato valutato su otto benchmark (cinque di regressione, tre di classificazione) inclusi Bio, Bike Sharing, California Housing, Concrete, Auto MPG, CIFAR-10, Covertype e MNIST.

• Copertura Regionale: SO-SCP (SOCP con punteggi di residuo assoluto) ha ridotto il gap di copertura pesata regionale (WCovGap) in 7 dataset su 8 rispetto alla standard Split Conformal Prediction (SCP). La variazione relativa media accoppiata è stata del $-7,1\%$.
• Dimensione del Set di Previsione: La riduzione del gap di copertura è accompagnata da un aumento medio della dimensione del set di previsione del $6,2\%$. Tuttavia, escludendo due dataset con dati di calibrazione limitati (Concrete e Auto MPG), l'aumento della dimensione è sceso all' $1,2\%$.
• Confronto con CQR: SO-CQR (SOCP applicato a Conformalized Quantile Regression) ha mostrato risultati misti. Poiché CQR assorbe già gran parte dell'eterogeneità nel punteggio, i guadagni marginali dal recupero locale sono stati minori (variazione media WCovGap del $-0,3\%$).
• Confronto con LCP: SOCP ha superato il Localized Conformal Prediction (LCP) nell'uniformità regionale senza incorrere nell'overhead computazionale della ponderazione kernel. Nei compiti di classificazione, SOCP ha ridotto significativamente il WCovGap mantenendo dimensioni dei set comparabili a LCP.
• Modalità di Fallimento: Il documento identifica un "regime di buffer scarso" (osservato in Concrete e Auto MPG) dove piccoli set di calibrazione per vicinato portano a soglie conservative o infinite, annullando i guadagni del WCovGap.

5. Significato e Rivendicazioni

Il documento sostiene che SOCP fornisce un meccano pratico per la calibrazione locale per gruppo con garanzie esatte per gruppi fissi e garanzie approssimate per la cella centrale senza richiedere partizioni supervisionate o il riaddestramento del predittore.

• Modestia sulle Rivendicazioni: Gli autori dichiarano esplicitamente che la validità della cella centrale è approssimativa, controllata dal bias KS. Evidenziano che la griglia SOM fornisce una "struttura di località fissa" che è meno espressiva della ponderazione kernel continua, ma offre ispezionabilità ed efficienza computazionale.
• Valore Diagnostico: La rilevanza risiede non solo nel miglioramento della copertura, ma anche nella capacità di diagnosticare dove e perché avvengono i fallimenti regionali (ad esempio, distinguendo tra problemi di varianza in buffer piccoli e problemi di bias derivanti da mismatch di punteggio).
• Limitazioni: Gli autori riconoscono che l'efficacia dipende dal design del meccanismo di località (dimensione della griglia, raggio di vicinato, qualità della rappresentazione). Notano che le mappe KS empiriche sono strumenti diagnostici piuttosto che garanzie rigorose, e che il metodo potrebbe avere difficoltà in regimi con dati di calibrazione estremamente scarsi per gruppo.

Il lavoro posiziona SOCP come un ponte tra la calibrazione completamente aggregata (che maschera gli errori regionali) e la copertura condizionale per punto (che è teoricamente impossibile senza set non informativi), offrendo un approccio non supervisionato e regolabile per migliorare l'affidabilità in specifici regimi operativi.