A New Class of Asymptotically Distribution-Free Smooth Tests

Technische Samenvatting: Een Nieuwe Klasse Asymptotisch Verdelingsvrije Smooth Tests

Probleemstelling
Het artikel behandelt de uitdaging van het construeren van smooth goodness-of-fit tests die asymptotisch verdelingsvrij blijven, zelfs wanneer modelparameters worden geschat en steekproeven slechts matig groot zijn. Traditionele smooth tests, zoals de score-test (Neyman, 1937) en order selection tests (Ledwina, 1994), vertrouwen op de asymptotische verdelingsvrijheid van specifieke teststatistieken. Echter, deze eigenschap vereist in de praktijk vaak zeer grote steekproefomvang om gerealiseerd te worden, met name bij complexe verdelingen of wanneer de parametrische schatting computationeel intensief is. Bov ens houdt de keuze van de basisfuncties in deze klassieke tests vaak willekeurig verband met de gekozen basis, en kunnen hun limietverdelingen variëren afhankelijk van de specifieke parametrische model die wordt getest, wat model-specifieke simulaties (bijv. parametric bootstrapping) noodzakelijk maakt om kritieke waarden te bepalen.

Methodologie
De auteurs stellen een raamwerk voor dat de focus verschuift van het waarborgen dat specifieke statistieken verdelingsvrij zijn naar het construeren van het onderliggende empirische proces zelf, zodat dit ontworpen is om asymptotisch verdelingsvrij te zijn. Dit wordt bereikt via twee primaire methodologische componenten:

1. De Khmaladze-2 (K2) Transformatie:
   De kerninnovatie is de toepassing van de K2-transformatie (Khmaladze, 2016) bij de constructie van de orthonormale basisfuncties die in smooth tests worden gebruikt.

   • Mechanisme: De transformatie maakt gebruik van unitaire operatoren om modelafhankelijke projecties van het empirische proces te mappen naar een "standaardprojectie" die gedefinieerd wordt door een door de gebruiker gekozen referentieverdeling, $F_\gamma$.
   • Constructie: De auteurs definiëren een K2 orthonormale basis $\{h_{j\beta}\}$ voor de ruimte $L^2(G_\beta)$ door een basis uit de referentieruimte $L^2(F_\gamma)$ te mappen via een sequentie van operatoren: een multiplicatie-operator $l_{\gamma,\beta}$, een reflectie-operator $K$, en een unitaire operator $U_p$.
   • Resultaat: Deze constructie zorgt ervoor dat de residuen van de basisfuncties, $\{\tilde{h}_{j\beta}\}$, onder de nulhypothese $G_\beta$ dezelfde gemiddelde en covariantiestructuur bezitten als de residuen van de basisfuncties onder de referentieverdeling $F_\gamma$. Bijgevolg deelt het empirische proces geïndexeerd door deze residuen, en elk functional daarvan (inclusclusief order en subset selection statistieken), dezelfde limietverdeling onder $G_\beta$ als onder $F_\gamma$. Aangezien $F_\gamma$ eenvoudig kan worden gekozen (bijv. een standaard normale of uniforme verdeling), wordt de limietverdeling verdelingsvrij.

2. Projected Bootstrap:
   Om de computationele last van het simuleren van nulverdelingen aan te pakken, met name wanneer parameters worden geschat, maken de auteurs gebruik van de "projected bootstrap" (Algeri, 2022).

   • Mechanisme: In plaats van de onbekende parameter $\beta$ bij elke bootstrap-replicate opnieuw te schatten (zoals in de klassieke parametric bootstrap), maakt deze methode gebruik van de projectiestructuur die wordt geïnduceerd door parameterschatting.
   • Efficiëntie: Gebaseerd op Proposition 1 (Khmaladze, 1980), is het empirische proces geïndexeerd door geschatte residuen asymptotisch equivalent aan het proces geïndexeerd door de ware residuen. Dit stelt de gebruiker in staat om de parameter één keer te schatten op de geobserveerde data en vervolgens de nulverdeling te simuleren zonder $\beta$ voor elke bootstrap-steekproef opnieuw te schatten, wat de rekentijd aanzienlijk verkort.

Belangrijkste Resultaten
Het artikel valideert de voorgestelde methodologie via theoretische bewijzen en simulatiestudies:

• Theoretische Validiteit: Propositions 2 tot en met 5 tonen formeel aan dat de K2-getransformeerde basisfuncties empirische processen opleveren die asymptotisch verdelingsvrij zijn, zelfs wanneer parameters worden geschat via Z-estimators (inclusief maximum likelihood).
• Simulatiestudies (Sectie 4.2):
  • De auteurs simuleerden data uit een complexe mengverdeling en testten deze tegen drie verschillende parametrische nulmodellen ($G_{\beta,1}, G_{\beta,2}, G_{\beta,3}$).
  • Verdelingsvrijheid: Wanneer standaard basisfuncties werden gebruikt (composities van Legendre-polynomen en de nul-CDF), varieerden de nulverdelingen van de teststatistieken aanzienlijk tussen de verschillende modellen. In contrast hiermee waren, bij gebruik van de K2-getransformeerde basisfuncties, de gesimuleerde nulverdelingen onder alle drie de modellen ononderscheidbaar van de verdeling onder het referentiemodel $F_\gamma$, zelfs met een steekproefomvang van $n=100$.
  • Power (Vermogen): De K2-gebaseerde tests vertoonden een competitief of superieur vermogen vergeleken met klassieke smooth tests in specifieke scenario's (bijv. het detecteren van afwijkingen in $G_{\beta,2}$ en $G_{\beta,3}$), hoewel de auteurs opmerken dat verbeteringen in vermogen niet gegarandeerd zijn voor alle alternatieven.
• Computationele Efficiëntie (Sectie 3.1): In een simulatie met een asymptrisch Laplace-verdeling verminderde de projected bootstrap de CPU-tijd met ongeveer 75% (9 minuten versus 37 minuten voor 100.000 replicates) vergeleken met de klassieke parametric bootstrap, terwijl de ware nulverdeling accuraat werd hersteld.
• Casestudy (Sectie 5): De methodologie werd toegepast op een röntgenspectrum van de ster RT Cru. De K2-getransformeerde order en subset selection tests bevestigden de validiteit van een parametrisch model dat de achtergrond en drie spectrale lijnen (Fe XXV, Fe XXVI, en Fe K$\alpha$) beschrijft, met p-waarden van 0,463 en 0,454 respectievelijk. De QQ-plots bevestigden de verdelingsvrije eigenschap in deze real-world toepassing.

Betekenis en Claims
Het artikel claimt een nieuwe familie van smooth tests te bieden die asymptotisch verdelingsvrij zijn door ontwerp, in plaats van door de specifieke keuze van een teststatistiek.

• Robuustheid: De verdelingsvrije eigenschap blijft behouden, zelfs wanneer parameters worden geschat en steekproeven slechts matig groot zijn, wat een bekend nadeel van klassieke smooth tests adresseert.
• Generaliseerbaarheid: De aanpak stelt toegepaste wetenschappers in staat om een enkele, standaard limietverdeling (afgeleid van een eenvoudig referentiemodel) te gebruiken voor het testen van een breed scala aan complexe parametrische modellen, waardoor de noodzaak voor model-specifieke asymptotische afleidingen of computationeel dure resampling voor elk nieuw model vervalt.
• Computationeel Voordeel: De integratie van de projected bootstrap biedt een praktisch, efficiënt alternatief voor de klassieke parametric bootstrap, waardoor de procedure haalbaar wordt voor complexe modellen waarbij parameterschatting tijdrovend is.

De auteurs concluderen dat dit raamwerk de bruikbaarheid van de K2-transformatie uitbreidt van louter goodness-of-fit testen naar het domein van smooth tests, waarbij een middenweg wordt geboden tussen algemene goodness-of-fit tests en directionele Neyman-Pearson tests. Zij erkennen dat hoewel het huidige werk zich richt op univariate settings, het raamwerk aanpasbaar is aan multivariate modellen en regressiecontexten.