Generalized Fiducial Inference Through Stochastic Inversion of Estimating Equations

Technische Samenvatting: Gegeneraliseerde Fiduciale Inferentie via Stochastische Inversie van Schattingsvergelijkingen

Probleemstelling
Statistische inferentie steunt vaak op schattingsvergelijkingen (bijv. de Generalized Method of Moments, M-schatting) wanneer een volledige likelihood-specificatie niet beschikbaar of onwenselijk is. Hoewel deze methoden flexibele parameterschattingen bieden, vereist het kwantificeren van onzekerheid doorgaans ofwel eerste-orde asymptotische benaderingen (die onnauwkeurig kunnen zijn in eindige steekproeven of hoogdimensionale settings) ofwel computationeel intensieve resampling-procedures zoals de bootstrap. Klassieke fiduciale inferentie, die parametervestigingen construeert door een structurele data-genererende vergelijking $X = G(U, \theta)$ te inverteren, is hier moeilijk toe te passen omdat modellen met schattingsvergelijkingen vaak een expliciete structurele representatie missen. Bijgevolg is er geen breed toepasbaar fiduciaal kader voor het construeren van betrouwbaarheidsverdelingen wanneer parameters uitsluitend gedefinieerd worden door algemene schattingsvergelijkingen.

Methodologie: Copula Generalized Fiducial Inference (CGFI)
Het artikel stelt Copula Generalized Fiducial Inference (CGFI) voor, een likelihood-vrij kader dat het principe van generalized fiducial inference uitbreidt naar modellen met schattingsvergelijkingen. In plaats van de structurele vergelijking van de geobserveerde data te inverteren, behandelt CGFI de empirische schattingsvergelijkingen zelf als het stochastische object dat geïnverteerd moet worden.

De kernconstructie verloopt als volgt:

1. Stochastische Representatie: De methode maakt gebruik van de asymptotische verdeling van de empirische schattingsvergelijkingen. Onder reguliere voorwaarden geldt $\sqrt{n}\bar{g}_n(\theta_0) \xrightarrow{d} N(0, \Sigma)$, waarbij $\bar{g}_n(\theta)$ het steekproefgemiddelde van de schattingsfuncties is en $\Sigma$ hun covariantie-matrix.
2. Perturbatie via Gaussische Copula: Om fiduciale treffers te genereren, introduceert de methode een stochastische perturbatie $\eta^*$ die consistent is met de geschatte gezamenlijke verdeling van de schattingsvergelijkingen. Specifiek deelt de methode de geschatte covariantie-matrix $\hat{\Sigma}$ op in marginale standaarddeviaties ($\hat{D}$) en een correlatiematrix ($\hat{R}$). Een Gaussische copula wordt gebruikt om afhankelijke hulpvariabelen $Z^*$ te genereren met correlatie $\hat{R}$, die vervolgens worden getransformeerd naar de perturbatievector $\eta^* = \hat{D}Z^*$.
3. Stochastische Inversie: Een fiduciale trek $\theta^*$ wordt verkregen door een geperturbeerde schattingsvergelijking op te lossen. Voor exact geïdentificeerde modellen houdt dit het oplossen van $\sqrt{n}\bar{g}_n(\theta^*) + \eta^* = 0$ in. Voor overgeïdentificeerde modellen wordt $\theta^*$ gedefinieerd als de minimizer van een geperturbeerde Generalized Method of Moments (GMM) criterium:
   $$\theta^* = \arg \min_{\theta} \left( \sqrt{n}\bar{g}_n(\theta) + \eta^* \right)^\top W_n \left( \sqrt{n}\bar{g}_n(\theta) + \eta^* \right)$$
   waarbij $W_n$ een positief definitieve weging-matrix is.
4. Betrouwbaarheidsverdeling: Het herhalen van dit proces genereert een collectie van treffers $\theta^*_1, \dots, \theta^*_M$ die de CGFI-betrouwheidsverdeling op de parameterruimte vormen.

Belangrijkste Bijdragen
Het artikel levert vier primaire bijdragen:

1. Kaderuitbreiding: Het introduceert CGFI, een nieuw likelihood-vrij kader voor betrouwbaarheidsverdelingen dat generalized fiducial inference uitbreidt voorbij modellen met expliciete structurele vergelijkingen naar modellen die gedefinieerd worden door moment-restricties.
2. Theoretische Eigenschappen: De auteur stelt vast dat onder standaard reguliere voorwaarden de CGFI-verdeling consistent is (concentrerend rond de ware parameter) en een Bernstein–von Mises-type eigenschap bezit. Specifiek reproduceert de conditionele verdeling van de CGFI-treffers asymptotisch de steekproefverdeling van de bijbehorende schattingsvergelijking-schatter.
3. Prestaties in Eindige Steekproeven: Via simulatiestudies demonstreert het artikel dat CGFI nauwkeurige dekking-probabiliteiten biedt die vergelijkbaar zijn met bootstrap-procedures, met name in settings met veel momentvoorwaarden, niet-Gaussische verstoringen en afhankelijke schattingsfuncties.
4. Computationele Efficiëntie: De methode biedt een significante reductie in computationele kosten vergeleken met bootstrap-methoden, aangezien het de schattingsvergelijkingen direct perturbeert in plaats van herhaaldelijk resampling en her-schatting van het model te vereisen.

Resultaten
Simulatiestudies evalueerden CGFI tegen conventionele Wald-benaderingen en niet-parametrische bootstraps in diverse scenario's:

• Hoogdimensionale Momenten: Naarmate het aantal momentvoorwaarden ($q$) toenam ten opzichte van de steekproefomvang ($n$), leden Wald-intervallen onder ernstige onderdekking (dalend naar 60% wanneer $q=250, n=500$). CGFI behield een dekking die dicht bij het nominale niveau van 95% lag, waarbij het vergelijkbaar presteerde met de bootstrap maar met aanzienlijk lagere computationele tijd (bijv. 0,9 seconden versus 30,9 seconden voor $q=250$).
• Afhankelijke Momenten: Wanneer momentvoorwaarden gecorreleerd waren, paste CGFI de kwantificering van onzekerheid automatisch aan, waarbij het een dekking nabij de 95% handhaafde over variërende correlatieniveaus, terwijl de Wald-dekking aanzienlijk fluctueerde.
• Robuustheid: CGFI toonde robuustheid aan tegen zware staart-verdelingen (Student's $t$) en heteroscedasticiteit, waarbij het vaak de Wald-benaderingen overtrof qua dekking terwijl het computationeel efficiënt bleef.

Betekenis en Claims
Het artikel claimt dat CGFI een verenigd betrouwbaarheidsverdelingskader biedt voor situaties waarin parameters geïdentificeerd worden via moment-restricties maar een expliciete likelihood of structureel model missen. Door de bron van willekeur te verschuiven van de data-genererende vergelijking naar de empirische schattingsvergelijkingen, maakt de methode likelihood-vrije onzekerheidskwantificering mogelijk zonder dat daarvoor voorafgaande specificaties (zoals bij Bayesiaanse methoden) of volledige generatieve modellen (zoals bij Approximate Bayesian Computation) nodig zijn.

De auteur benadrukt dat CGFI niet louter een resampling-instrument is, maar een onderscheidende inferentiële benadering waarbij het stochastische inverse probleem de betrouwbaarheidsverdeling direct definieert. Het kader wordt gepresenteerd als een algemeen mechanisme voor de uitbreiding van fiduciale inferentie naar moderne statistische procedures, inclusief die in de econometrie en machine learning die gekenmerkt worden door schattingsvergelijkingen. Het artikel concludeert dat hoewel CGFI de computationele efficiëntie van asymptotische methoden en de nauwkeurigheid van resampling-methoden deelt, het een onderscheidende theoretische basis biedt voor het construeren van betrouwbaarheidsverdelingen in complexe, likelihood-vrije settings.