Diagnostic Tools for Extreme Value Regression Models

Titolo: Strumenti Diagnostici per Modelli di Regressione dei Valori Estremi

Enunciato del Problema
I modelli di regressione dei valori estremi sono essenziali per l'estrapolazione oltre gli intervalli osservabili delle variabili di risposta, particolarmente in campi come l'idrologia, la scienza del clima e l'ingegneria offshore. Un passaggio critico nella modellazione statistica è valutare quanto un modello si adatti ai dati osservati; tuttavia, se un modello non concorda con la distribuzione degli eventi estremi sub-asintotici, la fiducia nell'estrapolazione viene compromessa. Sebbene esistano diagnostici visivi e quantitativi per i modelli di valori estremi univariati stazionari (ad es. grafici PP e QQ), estendere questi approcci ai contesti di regressione presenta sfide significative.

Nella regressione, la distribuzione condizionata $Y|X$ varia attraverso il dominio delle covariate $X$. I classici grafici diagnostici si basano sull'ordinamento delle osservazioni, ma in contesti non stazionari, l'ordinamento della variabile di risposta non induce un ordinamento dei valori della trasformata integrale della probabilità condizionata (PIT). Di conseguenza, i metodi esistenti richiedono spesso di partizionare il dominio delle covariate in regioni per valutare l'adattamento. Tuttavia, questo approccio presenta diverse limitazioni:

1. Scalabilità: Man mano che il numero di regioni aumenta, l'ispezione manuale di grafici separati diventa impraticabile.
2. Incoerenza: Le regioni presentano spesso dimensioni campionarie variabili, e la forma e la scala delle code condizionate variano, rendendo difficile il confronto coerente dei diagnostici.
3. Globale vs Locale: I diagnostici globali (aggregando tutti i dati) possono mascherare prestazioni scarse in specifici sottoinsiemi locali o regionali dello spazio delle covariate.
4. Bias: I diagnostici regionali esistenti, come i "worm plots", si basano su approssimazioni asintotiche che sono imprecise per gli ordini statistici estremi e sono sensibili alla dimensione del campione e alle scelte di posizione di probabilità.

Metodologia
Gli autori propongono due nuovi diagnostici visivi e una serie di statistiche riassuntive per valutare la bontà dell'adattamento (goodness-of-fit) per i modelli di regressione dei valori estremi (parametrici, semi-parametrici o non parametrici) attraverso l'intero dominio delle covariate. La metodologia centrale si basa sulla PIT condizionata, $P_x = F_{Y|X}(Y|x)$, che è uniformemente distribuita su $[0,1]$ sotto il modello vero.

1. Grafico della Coda Standardizzato (Standardised Tail Plot):

   • Concetto: Questo è un grafico Quantile-Quantile (QQ) detrendizzato basato sulla trasformazione delle probabilità di eccedenza in margini esponenziali standard ($Z = -\log(1-P)$).
   • Standardizzazione: Per affrontare le diverse dimensioni campionarie tra le regioni, gli autori utilizzano una proprietà asintotica della distribuzione di campionamento delle probabilità di eccedenza. Dimostrano che la differenza tra il valore atteso del $k$-esimo ordine statistico esponenziale e il valore osservato ($D_k = E[Z_{(k)}] - Z_{(k)}$) converge a una distribuzione log-gamma che è indipendente dalla dimensione del campione $n$ (dipende solo dal rango $k$).
   • Visualizzazione: Il grafico mostra i residui esponenziali ($z_k - \hat{z}_k$) rispetto al rango $k$ per più regioni sovrapposte in un unico grafico. Gli intervalli di confidenza asintotici (derivati dalla distribuzione log-gamma) consentono una valutazione visiva coerente della significatività indipendentemente dalla dimensione campionaria regionale.

2. Grafico dei Residui Normalizzati (Normalised Residual Plot):

   • Concetto: Questo grafico visualizza le deviazioni attraverso tutti i livelli di probabilità, non solo nella coda.
   • Trasformazione: Applica una trasformata integrale della probabilità basata sulla distribuzione Beta esatta delle probabilità di eccedenza ordinate, mappandole su una scala normale standard ($\nu_k = \Phi^{-1}(F_{\beta_k}(\hat{q}_{(k)}))$).
   • Vantaggio: A differenza del grafico della coda standardizzato, questo non si basa su assunzioni asintotiche riguardanti la dimensione del campione e fornisce una visualizzazione della significatività dell'adattamento del modello a tutti i livelli di probabilità.

3. Statistiche Riassuntive:

   • Gli autori introducono la statistica Deviazione Assoluta Media Esponenziale (EMAD), definita come la deviazione assoluta media degli ordini statistici esponenziali. Derivano la sua distribuzione asintotica e dimostrano tramite analisi di sensibilità che è più sensibile alle deviazioni nella coda superiore (probabilità di eccedenza $< 0.155$) rispetto alle statistiche standard di Anderson-Darling (AD) o alla statistica AD pesata sulla coda destra (ADR).
   • Utilizzano inoltre la Media dei Quadrati dei Residui Normalizzati, che si è dimostrato essere asintoticamente equivalente alla statistica di Anderson-Darling.
   • Riassunti Regionali e Globali: Il documento propone di aggregare i p-value regionali (dai test EMAD o ADR) in istogrammi di densità per valutare l'uniformità regionale e di raggruppare tutti i dati per i diagnostici globali.

Risultati Chiave e Applicazioni
I diagnostici proposti sono stati validati utilizzando due esempi che coinvolgono l'inferenza basata sul deep learning (Reti Neurali Artificiali) per la regressione dei valori estremi:

1. Estremi Multivariati (Modello SPAR):

   • Configurazione: È stato applicato un modello Peaks-Over-Threshold (POT) a dati simulati a 5 dimensioni con una copula normale multivariata e margini Laplace. La componente radiale è stata modellata condizionatamente al pseudo-angolo.
   • Processo: Sono stati adattati 5.000 modelli candidati con diversi iperparametri (soglie, architetture di rete).
   • Risultati: I diagnostici globali (ad es. p-value ADR globali) hanno spesso indicato un buon adattamento, mentre i diagnostici regionali hanno rivelato fallimenti locali significativi. Nello specifico, un modello (Modello 1) mostrava un eccellente adattamento globale ma un scarso adattamento regionale (mascherato dalla media globale), mentre un altro (Modello 3) superava entrambi i test. I diagnostici hanno identificato con successo il livello di soglia ottimale ($\tau \approx 0.825$) e hanno evidenziato che i parametri globali da soli sono insufficienti per la selezione del modello in contesti non stazionari.

2. Modello Surrogato per Turbine Eoliche Offshore:

   • Configurazione: Un modello surrogato probabilistico per la tensione estrema in una linea di ancoraggio è stato condizionato su tre variabili ambientali (velocità del vento, altezza delle onde, periodo delle onde).
   • Confronto: Modelli di regressione Deep GP (ANN) sono stati confrontati con una formulazione più semplice di Modello Additivo Generalizzato (GAM).
   • Risultati: Sebbene diversi modelli di deep learning abbiano ottenuto alti p-value globali, i loro grafici della coda standardizzata hanno rivelato outlier corrispondenti ai confini del dominio delle covariate, indicando un overfitting. Al contrario, la formulazione GAM più semplice mostrava un migliore adattamento locale attraverso il dominio mantenendo buone prestazioni globali. Ciò ha dimostrato l'utilità dei diagnostici nel guidare il design e la calibrazione del modello.

Significatività e Rivendicazioni
Il documento sostiene che i diagnostici proposti forniscono una soluzione pratica e scalabile per valutare i modelli di regressione dei valori estremi dove i domini delle covariate sono non stazionari e le dimensioni campionarie variano. I contributi chiave includono:

• Coerenza Visiva: La capacità di sovrapporre i diagnostici di regioni con diverse dimensioni campionarie su un unico grafico con limiti di incertezza validi, superando le limitazioni dei diagnostici regionali esistenti come i worm plots.
• Sensibilità alla Coda: L'introduzione della statistica EMAD, che offre una maggiore sensibilità alle deviazioni della coda superiore rispetto ai test tradizionali di bontà dell'adattamento.
• Informazioni Azionabili: I diagnostici facilitano il confronto di migliaia di modelli candidati e aiutano a identificare specifiche regioni di scarso adattamento, supportando decisioni pratiche nel design del modello (ad es. evitare l'overfitting ai confini del dominio).
• Generalità: Gli strumenti sono applicabili a qualsiasi modello di regressione dei valori estremi (eccedenza di soglia o massimi a blocchi) che fornisca stime delle funzioni di distribuzione condizionata, indipendentemente dallo schema di inferenza utilizzato.

Gli autori notano che il flusso di lavoro assume un campione di controllo (hold-out) indipendente per la valutazione per garantire limiti di confidenza validi, pur riconoscendo che i metodi bootstrap potrebbero essere utilizzati se tali dati non fossero disponibili. Il documento conclude che questi strumenti permettono una valutazione più rigorosa e sfumata dei modelli di valori estremi rispetto ai soli parametri globali.