Sintesi Tecnica: Algoritmi di Quantificazione dell'Incertezza Predittiva Conforme e kNN in Spazi Metrici

1. Definizione del Problema e Motivazione

Il documento affronta la sfida della quantificazione dell'incertezza predittiva per modelli di regressione in cui la variabile risposta $Y$ risiede in uno spazio metrico separabile generale $(\mathcal{Y}, d_1)$, e il predittore $X$ si trova in $\mathbb{R}^p$. L'obiettivo è costruire una regione di predizione $C_\alpha(x) \subset \mathcal{Y}$ tale che la vera risposta $Y$ cada all'interno di questa regione con una probabilità almeno pari a $1-\alpha$, dato $X=x$.

Gli autori identificano limitazioni specifiche nei metodi esistenti, in particolare nella inferenza conforme:

• Conservatorismo: I metodi conformi standard producono spesso intervalli eccessivamente conservativi, specialmente in contesti eteroschedastici o in spazi ad alta dimensionalità, portando a una perdita di efficienza statistica.
• Assunzioni di Smoothness (Regolarità): Gli approcci esistenti negli spazi metrici (ad es. Zhou e Müller [2025]) si basano sul kernel smoothing e su assunzioni di differenziabilità, che sono restrittive per dati discreti o strutture non euclidee complesse.
• Scalabilità: I metodi conformi completi e gli approcci basati sul profilo di profondità (depth-profile) sono computazionalmente costosi per grandi dataset.
• Applicabilità: Molti metodi sono limitati a risposte scalari o predittori euclidei, fallendo nel gestire "oggetti casuali" come distribuzioni di probabilità o grafi, comuni nella sanità digitale.

Il documento mira a sviluppare un framework che fornisca garanzie di copertura marginale a campione finito (nei casi omoschedastici) e raggi di predizione localmente adattivi (nei casi eteroschedastici) senza imporre forti assunzioni di regolarità, rimanendo al contempo computazionalmente scalabile.

2. Metodologia

Il framework definisce la funzione di regressione $m(x)$ come la media di Fréchet condizionata:
$$m(x) = \arg\min_{y \in \mathcal{Y}} \mathbb{E}[d_1^2(Y, y) \mid X = x]$$
La regione di predizione è definita come una palla metrica $C_\alpha(x) = B(m(x), r(x))$, dove il raggio $r(x)$ è determinato dal quantile condizionato della distanza $d_2(Y, m(x))$. Gli autori distinguono tra due metriche: $d_1$ (usata per la perdita/regressione) e $d_2$ (usata per definire la regione di predizione), permettendo flessibilità di modellazione.

La metodologia è divisa in tre componenti principali:

2.1 Caso Omoschedastico: Conformal Prediction Split (Split Conformal Prediction)

Gli autori introducono una nozione di omoschedasticità negli spazi metrici: la distribuzione della distanza $d_2(Y, m(x))$ è indipendente da $x$.

• Algoritmo: Viene utilizzato un approccio split-conformal. I dati vengono divisi in un set di addestramento ($D_{train}$) per stimare il centro $\hat{m}(x)$ e un set di calibrazione ($D_{test}$) per stimare un raggio globale.
• Stima del Raggio: Il raggio è impostato come il quantile empirico dei punteggi di calibrazione $\{d_2(Y_i, \hat{m}(X_i))\}_{i \in D_{test}}$.
• Garanzie: Questo fornisce una garanzia di copertura marginale a campione finito: $P(Y \in \hat{C}_\alpha(X)) \geq 1-\alpha$.
• Convergenza: Gli autori dimostrano la consistenza e i tassi di convergenza rapida (guidati dall'errore di stima della media di Fréchet e dal quantile) sotto condizioni lievi, richiedendo solo la consistenza dello stimatore della media di Fréchet.

2.2 Caso Eteroschedastico: Procedura kNN Locale

Per contesti in cui la distribuzione condizionata degli errori dipende da $x$ (eteroschedasticità), un raggio globale è inefficiente.

• Algoritmo: Viene proposto un approccio k-Nearest Neighbors (kNN). Per un nuovo punto $x$, il raggio di predizione viene stimato utilizzando solo i punti di calibrazione nel vicinato dei $k$-vicini più prossimi di $x$.
• Selezione Data-Driven di $k$: Viene introdotto un nuovo criterio per selezionare la dimensione del vicinato $k$. Esso bilancia la copertura empirica globale (assicurando che la copertura complessiva sia vicina a $1-\alpha$) e la copertura empirica locale (assicurando che le deviazioni locali siano minimizzate). L'algoritmo seleziona il $k$ più piccolo che soddisfa tali vincoli.
• Garanzie: Sebbene questo metodo non fornisca garanzie conformi a campione finito, gli autori stabiliscono la consistenza asintotica e derivano limiti superiori a campione finito sull'errore atteso. Il metodo evita assunzioni di regolarità e si adatta alla struttura geometrica locale dello spazio dei predittori.

2.3 Estensione Sequenziale per Serie Temporali

Il framework è esteso alle serie temporali con valori in spazi metrici sotto assunzioni di stazionarietà ed ergodicità.

• Metodo: Viene utilizzato un metodo di aggregazione di esperti basato sui vicini più prossimi (nearest-neighbor expert aggregation). I blocchi di lag storici vengono confrontati con lo stato attuale per stimare i quantili dei residui condizionati.
• Aggregazione: Gli esperti di quantile locale vengono combinati utilizzando pesi esponenziali basati sulla perdita pinball per produrre un raggio adattivo ai dati.
• Garanzie: Il metodo fornisce una garanzia di calibrazione media temporale asintotica ($\frac{1}{n}\sum P(Y_{t+1} \in \hat{C}_t) \to 1-\alpha$), piuttosto che garanzie a campione finito.

3. Contributi Chiave

1. Nuova Definizione di Omoschedasticità: Una definizione di omoschedasticità adattata agli spazi metrici, che consente la costruzione di algoritmi conformi efficienti con tassi di convergenza rapidi.
2. Tre Framework Algoritmici:
   • Un algoritmo split-conformal per spazi metrici omoschedastici con garanzie marginali a campione finito.
   • Un algoritmo kNN locale per contesti eteroschedastici che ottiene una buona calibrazione condizionata senza assunzioni di regolarità.
   • Un metodo di aggregazione di esperti sequenziali per serie temporali in spazi metrici.
3. Consistenza Teorica: Dimostrazioni di consistenza per gli stimatori proposti sotto condizioni minime (più deboli di quelle richieste dalla letteratura euclidea).
4. Efficienza Computazionale: I metodi proposti sono computazionalmente scalabili, capaci di elaborare milioni di osservazioni in pochi secondi, in contrasto con i metodi di profilo di profondità che richiedono ore per dataset più piccoli.
5. Flessibilità: Il framework è compatibile con qualsiasi algoritmo di regressione (ad es. Random Forests, Regressione di Fréchet Globale, kNN) e gestisce risposte non euclidee (distribuzioni, grafi) e predittori.

4. Risultati

4.1 Studio di Simulazione

Gli autori hanno valutato il framework su regressioni scalar-on-scalar e outcome con valori in spazi metrici.

• Performance: In contesti eteroschedastici (lineari e non lineari), il metodo kNN adattivo proposto ha ottenuto l'Integrated Squared Conditional Error (ISCE) più basso e la Worst-Slice Coverage (WSC) più alta rispetto ai competitor come la Conformalized Quantile Regression (CQR) e il metodo di profilo di profondità di Zhou e Müller [2025].
• Contesti Omoschedastici: Il metodo conforme globale è risultato competitivo con CQR, confermando la sua efficienza quando l'assunzione di omoschedasticità è rispettata.
• Efficienza: I metodi proposti sono stati significativamente più veloci (secondi rispetto ai 50 minuti per $n=3000$ del metodo di profilo di profondità).
• Robustezza: Il metodo eteroschedastico ha mantenuto una buona calibrazione marginale anche quando non era calibrato in modo conforme, sebbene la stabilità del campione ridotto per la worst-slice coverage sia stata annotata come un limite.

4.2 Applicazioni nel Mondo Reale

Il framework è stato applicato a due dataset biomedici:

1. Analisi della Forma (Malattia di Parkinson): Le traiettorie del movimento della mano sono state trattate come oggetti casuali. Il metodo ha costruito regioni di riferimento centrate su Fréchet per i soggetti sani. Le traiettorie dei pazienti con Parkinson cadevano frequentemente al di fuori di queste regioni, illustrando il potenziale dei biomarcatori digitali basati sulla forma.
2. Monitoraggio del Glucosio con Valori Distribuzionali: I dati di monitoraggio continuo del glucosio (CGM) sono stati rappresentati come distribuzioni di probabilità nello spazio 2-Wasserstein. Utilizzando la regressione di Fréchet globale e lo stimatore del raggio kNN, gli autori hanno costruito regioni di predizione specifiche per età. I risultati hanno mostrato che le regioni di predizione (variabilità) si allargano con l'età, catturando cambiamenti distribuzionali non visibili nelle sintesi scalari.

5. Significato e Rivendicazioni

Il documento sostiene di fornire un framework generale, flessibile ed efficiente dal punto di vista computazionale per la quantificazione dell'incertezza in spazi metrici. La sua importanza risiede in:

• Colmare il Divario: Estende la predizione conforme e le tecniche di calibrazione locale agli ambienti non euclidei senza fare affidamento sulle restrittive assunzioni di regolarità delle metodologie metriche esistenti.
• Utilità Pratica: La capacità di gestire oggetti casuali complessi (distribuzioni, grafi) con una computazione rapida rende il framework adatto alle moderne applicazioni di sanità digitale e medicina personalizzata.
• Rigore Teorico: Stabilisce consistenza e tassi di convergenza sotto assunzioni minime, offrendo un'alternativa robusta ai metodi basati solo sull'asintotica.
• Adattabilità: La selezione dei dati del vicinato permette al metodo di adattarsi alla eteroschedasticità locale, migliorando la calibrazione condizionata dove i metodi globali falliscono.

Gli autori notano con modestia che, sebbene il metodo fornisca forti garanzie marginali nei casi omoschedastici e una buona calibrazione condizionata nei casi eteroschedastici, l'uso di palle metriche può essere conservativo per distribuzioni altamente non sferiche. Si suggerisce come lavoro futuro l'esplorazione di regioni di predizione più flessibili oltre le palle metriche.