Two-stage Estimation of Latent Variable Regression Models: A General, Root-N Consistent Solution

Technische Samenvatting: Tweestaps-schatting van latente variabele regressiemodellen

Probleemstelling
Latente variabele (LV) modellen zijn standaard in psychologisch onderzoek voor de operationalisering van niet-observeerbare constructen. Hoewel eenstaps maximum likelihood (ML) schatting de "gouden standaard" is, wordt deze vaak geconfronteerd met praktische beperkingen, zoals numerieke instabiliteit (bijv. niet-convergentie, Heywood-gevallen), computationele onhandelbaarheid door complexe integralen in multidimensionale modellen, softwarebeperkingen en beschikbaarheid van data (bijv. wanneer alleen samengestelde scores beschikbaar zijn). Bijgevolg grijpen onderzoekers vaak naar tweestaps factor-score regressie (FSR). In FSR wordt eerst een meetmodel gefit om factor scores te voorspellen, die vervolgens als geobserveerde variabelen in een tweede-staps structurele regressie worden behandeld. De naïeve toepassing van FSR levert echter vertekende (biased) schattingen op van structurele parameters vanwege meetfouten en het verschil tussen de covariantiestructuur van factor scores en de ware latente variabelen. Bestaande correctiemethoden voor bias zijn vaak beperkt tot specifieke modelklassen (bijv. lineaire SEM's) of vereisen specifieke typen factor scores, en missen een algemene, computationeel efficiënte oplossing voor bredere LV-modellen.

Methodologie
De auteurs stellen een algemeen raamwerk voor bias-correctie voor tweestaps-schatting voor, toepasbaar op parametrische statistische modellen met meerdere focale en nuisance-parameters. De methode is specifiek afgestemd op FSR, maar is ontworend als een "blackbox"-oplossing die minimale analytische afleiding vereist.

1. Statistisch Raamwerk: De parametervector $\theta$ wordt gepartitioneerd in nuisance-parameters ($\nu$, bijv. meetparameters) en focale parameters ($\phi$, bijv. structurele regressiecoëfficiënten). De tweestaps-procedure schat eerst $\hat{\nu}$, en schat vervolgens $\hat{\phi}$ conditioneel op $\hat{\nu}$.
2. Bias-correctiestrategie: Gebruikmakend van Leung en Wang (1998), definiëren de auteurs een functie $h(\phi; \nu) = E[\hat{\phi}(Y; \nu)]$, die de verwachte waarde vertegenwoordigt van de initiële (vertekende) estimator. De bias-gecorrigeerde estimator $\hat{\phi}_{BC}$ wordt verkregen door deze relatie te inverteren: $\hat{\phi}_{BC} = h^{-1}(\hat{\phi})$.
3. Theoretische Fundering: Het artikel stelt de $\sqrt{n}$-consistentie van de bias-gecorrigeerde estimator vast onder milde regulariteitsvoorwaarden. Een kernpropositie demonstreert dat als de initiële estimators gezamenlijk $\sqrt{n}$-consistent zijn, de bias-gecorrigeerde focale parameter estimator ook $\sqrt{n}$-consistent is voor de ware parameter $\phi^*$, met een afgeleide asymptotische covariantie-matrix (ACM).
4. Computationele Algoritmen: Om complexe analytische afleidingen van $h(\phi; \nu)$ en de bijbehorende afgeleiden te vermijden, introduceren de auteurs twee stochastische algoritmen:
   • Punt-schatting (Algoritme 1): Een Robbins-Monro stochastische benaderingsalgoritme (SA). Het werkt iteratief de focale parameters bij door data te simuleren uit het model met de huidige parameter-schattingen en de resulterende initiële estimator te vergelijken met de initiële estimator van de geobserveerde data.
   • Variantie-schatting (Algoritme 2): Een Monte Carlo-gebaseerde procedure met simultane perturbatie (SP) om de Jacobiaan-matrices numeriek te benaderen die nodig zijn voor de ACM. Dit maakt de berekening van geldige standaardfouten (SE's) mogelijk die rekening houden met de onzekerheid die uit de eerste stap voortvloeit.

Belangrijkste Bijdragen

• Generaliseerbaarheid: In tegenstelling tot eerdere oplossingen die beperkt zijn tot lineaire SEM's of specifieke typen factor scores (zoals Bartlett of ARM scores), is de voorgestelde methode toepasbaar op een brede klasse van LV-modellen, inclus\nief modellen met niet-lineaire structurele relaties en niet-normale manifeste variabelen (bijv. Item Response Theory-modellen).
• Computationele Efficiëntie: De methode steunt op stochastische benadering en Monte Carlo-simulatie in plaats van closed-form analytische oplossingen, wat het aanpasbaar maakt aan complexe modellen waar een eenstaps ML computationeel onhaalbaar is.
• Robuustheid ten opzichte van Factor Score Keuze: Het raamwerk vereist niet dat de gebruiker specifieke typen factor scores selecteert (bijv. regressie versus Bartlett); de bias-correctie werkt ongeacht de gebruikte initiële scoringmethode.
• Theoretische Rigor: Het artikel biedt een formeel bewijs van $\sqrt{n}$-consistentie en een methode voor het afleiden van geldige grootte-steekproef standaardfouten voor de gecorrigeerde estimators.

Resultaten
Drie simulatiestudies zijn uitgevoerd om de voorgestelde bias-gecorrigeerde FSR (BC-FSR) te evalueren tegenover naïeve FSR en eenstaps ML (en DWLS voor Studie 3):

1. Studie 1 (Eenvoudige Latente Regressie): In modellen met continue manifeste variabelen vertoonde naïeve FSR significante attenuatie-bias (tot 19% voor hellingen) en variantie-bias. BC-FSR reduceerde de relatieve bias tot bijna nul (<5%) in alle condities en factor score-typen (gemiddelde, Bartlett, regressie), en presteerde vergelijkbaar met eenstaps ML in zowel nauwkeurigheid als efficiëntie.
2. Studie 2 (Latente Moderatie): In een bilineair interactiemodel met niet-normale uitkomsten vertoonde naïeve FSR substantiële bias (tot 33% voor interactie-effecten). BC-FSR slaagde erin de parameters te herstellen met verwaarloosbare bias, waarbij de prestaties overeenkwamen met eenstaps ML (berekend via numerieke integratie in Mplus).
3. Studie 3 (Multidimensionale IRT): In een complex model met dichotome items en meerdere predictoren vertoonde naïeve FSR een bias variërend van 8% tot 33%, afhankelijk van de parameter. BC-FSR elimineerde deze bias en presteerde op gelijke voet met eenstaps ML (via het MH-RM algoritme) en Diagonally Weighted Least Squares (DWLS).
   In alle studies waren de Monte Carlo-gebaseerde SE-schattingen (Algoritme 2) accuraat, met een relatieve bias in SE's over het algemeen onder de 10%.

Betekenis en Claims
De auteurs beweren dat hun benadering de intuïtieve "meten-dan-structurele" strategie (FSR) transformeert van een heuristiek die gevoelig is voor bias naar een statistisch geldige, $\sqrt{n}$-consistente schattingsmethode. De betekenis van het werk ligt in:

• Praktisch Nut: Het biedt een rechttoe-rechtan alternatief voor eenstaps ML voor onderzoekers die te maken hebben met computationele of databeperkingen, zonder in te boeten op asymptotische nauwkeurigheid.
• Methodologische Verschuiving: Het daagt de conventionele opvatting uit dat naïeve FSR inherent gebrekkig en onherstelbaar is, door aan te tonen dat bias systematisch kan worden verwijderd via stochastische benadering.
• Toegankelijkheid: Door de afhankelijkheid van analytische afleidingen te minimaliseren, verlaagt de methode de drempel voor het toepassen van rigoureuze tweestaps-schatting op complexe, op maat gemaakte LV-modellen die de capaciteiten van standaard softwarepakketten overstijgen.

Het artikel concludeert dat de voorgestelde bias-gecorrigeerde FSR de implementatiegemakkelijkheid van tweestaps-methoden geniet, terwijl het de theoretische rigor en efficiëntie van eenstaps-methoden bereikt, wat onderzoekers in staat stelt om een breder scala aan complexe relaties tussen latente constructen te onderzoeken.