Focused median bias reduction

Sintesi Tecnica: Riduzione del Bias Mediano Focalizzato

Definizione del Problema
Gli stimatori di massima verosimiglianza (MLE) sono uno standard nella pratica statistica grazie alla loro consistenza ed efficienza asintotica. Tuttavia, in campioni finiti — in particolare con dimensioni campionarie piccole o moderate, parametri ad alta dimensionalità o spazi parametrici ristretti — gli MLE presentano spesso un bias significativo. Sebbene i metodi di riduzione del bias della media (ad es. Firth, 1993) siano ben consolidati, il bias mediano è spesso preferibile per distribuzioni asimmetriche o parametri con intervalli ristretti, poiché garantisce uguali probabilità di sovrastima e sottostima ed è invariante rispetto alle trasformazioni monotone.

I metodi esistenti per la riduzione del bias mediano di "parametri focalizzati" (trasformazioni scalari lisce di una parametrizzazione di riferimento) affrontano limitazioni sostanziali. I metodi impliciti, come quelli basati sulla radice della verosimiglianza con segno modificato o sugli score di profilo aggiustati (Kenne Pagui et al., 2017), richiedono la risoluzione di sistemi non lineari di equazioni di stima, parametrizzazioni dei parametri di disturbo completamente specificate e ottimizzazioni vincolate ripetute. Tali approcci sono computazionalmente onerosi, algebricamente complessi e possono essere numericamente fragili, specialmente quando i parametri focalizzati non sono componenti della parametrizzazione canonica.

Metodologia
Gli autori propongono uno stimatore esplicito corretto per il bias mediano per parametri focalizzati definiti come trasformazioni scalari lisce di una scelta di parametrizzazione di riferimento. La metodologia si basa sulla espansione di Cornish-Fisher del MLE centrato e scalato del parametro focalizzato.

1. Stimatore Oracle: Teoricamente, un estimatore $\tilde{\psi}^{(o)}$ terzo ordine mediamente non distorto può essere costruito se il bias $B(\psi)$, la varianza $K_2$ e il terzo cumulante $K_3$ del parametro focalizzato sono noti. L'espansione produce:
   $$\tilde{\psi}^{(o)} = \hat{\psi} - B(\psi) + \frac{1}{6}\frac{K_3}{K_2}$$
   dove $\hat{\psi}$ è lo standard MLE del parametro focalizzato.

2. Stimatore Non-Oracle: Poiché $B(\psi)$, $K_2$ e $K_3$ sono raramente disponibili in forma chiusa, gli autori derivano versioni non-oracle sostituendo tali quantità con le loro approssimazioni asintotiche valutate in un estimatore iniziale (tipicamente l'MLE o un ridotto stimatore del bias della media). Il termine di bias $B(\psi)$ è approssimato utilizzando il termine principale dell'espansione del bias del vettore del parametro di riferimento, coinvolgendo il gradiente e l'Hessiana della trasformazione e le aspettative di prodotti di derivate del log-verosimiglianza (matrici $P_t$ e $Q_t$).

3. Computazione: Le aspettative richieste ($P_t, Q_t$) sono disponibili in forma chiusa per molti modelli standard (ad es. GLM, famiglie esponenziali). Per modelli generali, il documento dimostra che tali quantità possono essere stimate efficientemente tramite simulazione Monte Carlo dal modello stimato, richiedendo solo la funzione di log-verosimiglianza e un meccanismo di simulazione.

4. Inferenza: Lo stimatore corretto è mediamente non distorto al terzo ordine. Il documento integra questo metodo con procedure di Confidenza basata su Hull (HulC) (Kuchibhotla et al., 2024). Applicando la correzione all'interno delle partizioni dei dati, il metodo raggiunge una copertura quasi-nominale nei campioni finiti senza richiedere la stima esplicita della varianza o assunzioni sulla distribuzione limite, a condizione che il bias mediano sia controllato.

Contributi Chiave

• Formulazione Esplicita: Il documento fornisce una formula diretta ed esplicita per la correzione del bias mediano che evita la risoluzione iterativa di equazioni di score aggiustate richieste dai metodi impliciti.
• Flessibilità: Il metodo accoglie arbitrarie trasformazioni scalari lisce di parametri focalizzati (ad es. distanze di Mahalanobis, quantili, effetti marginali, misure di superiorità ordinale) senza richiedere una parametrizzazione di disturbo specifica per ogni singolo focus.
• Efficienza Computazionale: Riduce significativamente il carico computazionale rispetto ai metodi impliciti. Quando i parametri focalizzati sono componenti della parametrizzazione di riferimento, la correzione esplicita è mostrata essere equivalente a un singolo passaggio di quasi-Fisher scoring verso lo stimatore del bias mediano implicito di Kenne Pagui et al. (2017).
• Implementazione Basata su Simulazione: Il framework include un approccio pratico per modelli in cui le derivate analitiche delle quantità di verosimiglianza non sono disponibili, utilizzando la simulazione Monte Carlo per stimare i necessari termini di bias e cumulanti.
• Proprietà di Equivarianza: Sebbene lo stimatore esplicito non sia esattamente equivariante rispetto alla riparametrizzazione (a differenza dell'MLE o dei metodi impliciti), esso preserva la non distorsione mediana del terzo ordine sotto trasformazioni monotone del parametro focalizzato.

Risultati
Gli autori validano il framework attraverso estese simulazioni ed esempi con dati reali:

• Distanza di Mahalanobis: In contesti di distribuzione normale multivariata, lo stimatore corretto riduce significativamente la probabilità di sottostima (avvicinandola al 50%) e migliora il bias della media e la RMSE rispetto all'MLE.
• Modelli Lineari Generalizzati (GLM): Nella regressione probit per gli effetti marginali individuali, il metodo corregge quasi completamente il bias mediano. Sebbene ciò porti a una leggera inflazione del bias della media e della RMSE, consente la costruzione di intervalli HulC con copertura quasi-nominale, superando gli intervalli di tipo Wald basati su stimatori non corretti o corretti per il bias della media.
• Quantili di Weibull: Per la stima dei quantili, la correzione esplicita performa comparabilmente allo stimatore basato su $r^*$ (che risolve la radice della verosimiglianza con segno modificato), ma con un costo computazionale sostanzialmente inferiore, poiché evita ripetute ottimizzazioni vincolate e interpolazioni spline.
• Regressione Ordinale: In casi di separazione dei dati dove gli MLE sono infiniti, il metodo utilizza un ridotto stimatore iniziale del bias della media (es. stimatore di Firth) per produrre stime finite e corrette per il bias mediano delle misure di superiorità ordinale.
• Criterio di Informazione Focalizzato (FIC): Nell'inferenza post-selezione, il metodo fornisce intervalli di confidenza robusti per i parametri focalizzati selezionati tramite FIC, mantenendo le proprietà di copertura anche quando il modello selezionato è errato.

Significatività e Rivendicazioni
Il documento sostiene che il framework proposto offre una via computazionalmente semplice e ampiamente applicabile alla non distorsione mediana del terzo ordine. Colma il divario tra l'ottimalità teorica della riduzione del bias mediano implicito e i vincoli pratici della statistica applicata.

Le rivendicazioni chiave riguardanti la significatività includono:

• Il metodo fornisce approssimazioni a un solo passaggio alla riduzione del bias mediano implicito, offrendo lo stesso ordine di accuratezza senza la necessità di risolvere sistemi non lineari o gestire complesse parametrizzazioni di disturbo.
• Si integra naturalmente con la metodologia HulC, producendo intervalli di confidenza con garanzie di copertura di accuratezza del sesto ordine in condizioni specifiche, un livello di precisione raramente raggiunto senza complesse inferenze di verosimiglianza di ordine superiore.
• L'approccio è indipendente dal modello (model-agnostic) rispetto alla forma del parametro focalizzato, rendendolo adatto a quantità derivate complesse (ad es. differenze di rischio, effetti marginali) dove i metodi tradizionali di verosimiglianza di ordine superiore sono intrattabili.
• Il metodo gestisce efficacementamente i problemi di confine consentendo l'uso di stimatori iniziali ridotti del bias della media (ad es. stimatore di Firth) per garantire valori iniziali finiti, una caratteristica non sempre garantita nella riduzione del bias mediano implicito per arbitrarie trasformazioni di parametri focalizzati.

Gli autori concludono che, sebbene lo stimatore esplicito sacrifichi l'esatta equivarianza rispetto alla riparametrizzazione, questo compromesso produce uno strumento pratico, robusto ed efficiente per migliorare la stima e l'inferenza in campioni finiti attraverso una vasta gamma di modelli statistici.