Robust Inference for Convex Pairwise Difference Estimators

Technische Samenvatting: Robuste Inferentie voor Convexe Schatters van Paarsgewijze Verschillen

Probleemstelling
Dit artikel behandelt de inferentie-uitdagingen die samenhangen met een brede klasse van convexe schatters van paarsgewijze verschillen, gedefinieerd als minimaliseerders van een door een kern gewogen convexe doelfunctie over waarnemingsparen met vergelijkbare covariaten. Deze schatters worden veel gebruikt om heterogeniteit in niet-lineaire modellen aan te pakken (bijvoorbeeld gedeeltelijk lineaire regressie, logit- en Tobit-modellen).

De centrale moeilijkheid ligt in de afhankelijkheid van het gedrag van de schatter in grote steekproeven van de bandbreedte (localisatie)parameter, $h_n$. Klassieke inferentie vertrouwt op restrictieve bandbreedtevoorwaarden: specifiek dat $n h_n^d \to \infty$ (zorgend voor voldoende paren voor asymptotische lineariteit) en $n h_n^4 \to 0$ (zorgend dat de bias verwaarloosbaar is). Onder deze voorwaarden is de schatter asymptotisch lineair en is standaard niet-parametrische bootstrap-inferentie consistent. In de praktijk is het echter moeilijk om een bandbreedte te selecteren die beide voorwaarden gelijktijdig voldoet, vooral naarmate de dimensie $d$ van het covariatenvector toeneemt. Bestaande methoden falen vaak om geldige inferentie te bieden wanneer de bandbreedte te klein is (in strijd met de lineariteitsvoorwaarde) of te groot (in strijd met de biasvoorwaarde).

Methodologie
De auteurs ontwikkelen een nieuw inferentiekader dat drie verschillende theoretische ideeën combineert om robuustheid te bereiken over een bredere reeks bandbreedtekeuzes:

1. Asymptotiek van Kleine Bandbreedte: Door het kader van Cattaneo, Crump en Jansson (2014a) uit te breiden, leidt het artikel Gaussische benaderingen voor de verdeling van de schatter af zonder de voorwaarde $n h_n^d \to \infty$ op te leggen. In plaats daarvan wordt geldigheid vastgesteld onder de zwakkere voorwaarde $n^2 h_n^d \to \infty$. Deze benadering houdt rekening met de extra variantie die wordt veroorzaakt door hoge localisatie, wat resulteert in een convergentiesnelheid en variantiestructuur die expliciet afhankelijk zijn van de mate van localisatie.
2. Biascorrectie via Generalized Jackknifing: Om bias aan te pakken wanneer $h_n$ groot is (in strijd met $n h_n^4 \to 0$), passen de auteurs een biascorrectieprocedure toe gebaseerd op generalized jackknifing (Schucany en Sommers, 1977). Dit houdt in dat een lineaire combinatie van schatters wordt geconstrueerd die zijn berekend met verschillende bandbreedtes. Cruciaal is dat, in tegenstelling tot het gebruik van hogere-orde kernen (wat negatieve gewichten zou introduceren en de convexiteit van de doelfunctie zou vernietigen), de generalized jackknife de convexiteit van de schatter behoudt. Dit maakt het gebruik van grotere bandbreedtes mogelijk terwijl de computationele en theoretische voordelen van convex optimaliseren behouden blijven.
3. Bootstrap Rescaling: Het artikel identificeert dat de standaard niet-parametrische bootstrap inconsistent is onder asymptotiek van kleine bandbreedte, omdat deze niet de specifieke variantie-inflatie veroorzaakt door localisatie kan vastleggen. De auteurs stellen een gecorrigeerde bootstrap-procedure voor waarbij de localisatieparameter die wordt gebruikt bij het bootstrap-resampling wordt herschaald met een factor van $3^{1/d}$. Deze aanpassing brengt de bootstrap-variantie in lijn met de ware asymptotische variantie, waardoor consistentie wordt gewaarborgd zelfs wanneer $n h_n^d$ begrensd is.

Belangrijkste Bijdragen en Resultaten
Het artikel biedt een uitgebreide distributietheorie en een praktische inferentiemethode die deze drie componenten verenigt.

• Generalized Gaussische Benadering: Stelling 1 stelt dat onder $n^2 h_n^d \to \infty$ de schatter convergeert naar een Gaussische verdeling. De asymptotische variantie bevat een term die de onzekerheid van de "kleine bandbreedte" weerspiegelt, die alleen verdwijnt als $n h_n^d \to \infty$. Dit resultaat omvat drie regimes: asymptotische lineariteit ($n h_n^d \to \infty$), root-$n$ consistentie zonder lineariteit ($n h_n^d \to c \in (0, \infty)$), en consistentie trager dan root-$n$ ($n h_n^d \to 0$ maar $n^2 h_n^d \to \infty$).
• Eigenschappen van de Biasgecorrigeerde Schatter: Stelling 2 breidt de Gaussische benadering uit naar de biasgecorrigeerde schatter. Het toont aan dat door schatters met bandbreedtes $h_n, c_1 h_n, \dots, c_L h_n$ te combineren met specifieke gewichten, biastermen tot orde $h_n^{2L+2}$ kunnen worden geëlimineerd. Dit maakt geldige inferentie mogelijk met bandbreedtes die de standaardvoorwaarde $n h_n^4 \to 0$ schenden, mits $n h_n^{4(L+1)} \to 0$.
• Geldige Bootstrap-inferentie: Stelling 3 en Corollarium 1 tonen aan dat de standaardbootstrap inconsistent is onder asymptotiek van kleine bandbreedte vanwege een variantie-afwijking. Echter, door de bandbreedte in de bootstrap-stap te herschalen naar $3^{1/d} h_n$, levert de methode een consistente benadering van de verdeling op.
• Robuste Dekking: Het artikel vergelijkt vier inferentieprocedures: (1) Klassiek, (2) Klassiek Biasgecorrigeerd, (3) Kleine Bandbreedte en (4) Kleine Bandbreedte Biasgecorrigeerd. Theoretische analyse en simulatiebewijs (Sectie 6) tonen aan dat de combinatie van biascorrectie en bandbreedte-herschaaling (Procedure 4) de meest robuuste dekkingkansen biedt over de breedste reeks bandbreedtekeuzes. Het vermindert het conservatisme van de standaardbootstrap bij kleine bandbreedtes en de onderdekking door bias bij grote bandbreedtes.

Betekenis
Het artikel claimt een "demonstrabel robuustere" inferentiemethode te bieden voor convexe schatters van paarsgewijze verschillen in vergelijking met bestaande benaderingen. De primaire betekenis ligt in:

1. Verzwakking van Bandbreedterestricties: Het verwijdert de noodzaak van de restrictieve voorwaarde $n h_n^d \to \infty$ voor een geldige Gaussische benadering, waardoor hogere niveaus van localisatie mogelijk worden.
2. Behoud van Convexiteit: Door generalized jackknifing te gebruiken in plaats van hogere-orde kernen, behoudt de methode de convexiteit van de doelfunctie, wat essentieel is voor snelle berekening en zwakkere regulariteitsvoorwaarden.
3. Praktische Robuustheid: De voorgestelde methode (combinatie van biascorrectie en herschaaling) zorgt ervoor dat betrouwbaarheidsintervallen nominale dekkingsniveaus behouden, zelfs wanneer de keuze van de bandbreedte onzeker is of datagedreven, een veelvoorkomend scenario in empirisch werk.

De auteurs merken op dat hun theoretische ontwikkeling sterk afhankelijk is van de convexiteit van de doelfunctie en het fundamentele werk van Hjort en Pollard (1993) en Pollard (1991) toegepast op U-processen. Het artikel concludeert met het suggereren van toekomstige uitbreidingen naar hogere-orde stochastische expansies voor bandbreedte-selectie, consistente variantieschatters en schatters gebaseerd op gegenereerde regressoren.