Matrix Decomposition Latent Growth Model Tree

Technische Samenvatting: Matrix Decompositie Latente Groei Model Boom

Probleemstelling
Latente Groei Modellen (LGM's) zijn standaardinstrumenten voor het analyseren van individuele trajecten van verandering en groepsverschillen in longitudinale data. Wanneer populaties heterogeen zijn, bieden Structural Equation Model Trees (SEM Trees) een oplossing door steekproeven recursief te partitioneren op basis van externe covariaten om subgroepen met verschillende groeiparameters te identificeren. Echter, huidige implementaties van SEM Trees worden geconfronteerd met twee aanzienlijke praktische obstakels:

1. Computationele Kosten: Het schatten van het template model (LGM) via Maximum Likelihood (ML) bij elke kandidaat-splitsing is computationeel veeleisend, vooral bij grote datasets of veel tijdspunten.
2. Improper Oplossingen: ML-schatting levert frequent improper oplossingen op (bijv. negatieve residu-varianties, niet-positief definitieve covariantie-matrices) wanneer modellen misgespecificeerd zijn of wanneer de steekproefomvang binnen knopen beperkt is. Bestaande softwarepakketten (bijv. semtree, MplusTrees) missen vaak robuuste, ingebouwde mechanismen om knopen automatisch uit te sluiten uitsluitend op basis van het voorkomen van dergelijke improper oplossingen, wat potentieel kan leiden tot instabiele boomstructuren of vertekende parameterschattingen.

Methodologie
De auteurs stellen de Matrix Decompositie Latente Groei Model Boom (MDLGM Tree) voor, een nieuwe recursieve partitioneringsmethode die de standaard ML-schatting van het template LGM vervangt door een Matrix Decompositie Factor Analyse (MDFA) benadering.

• MDLGM Formulering: De methode breidt MDFA uit naar de context van LGM's, waarbij gemiddelde structuren en factor-covarianties worden geaccommodeerd. In tegen tegenstelling tot standaard SEM, dat een likelihood-gebaseerde verliesfunctie in de covariantieruimte minimaliseert, behandelt MDLGM factor scores en unieke varianties als vaste parameters en minimaliseert het een op de Frobenius-norm gebaseerde kleinste kwadraten-criterium in de dataruimte.

  • De lineaire en kwadratische LGM's worden geherformuleerd als bevestigende factoranalyse-modellen waarbij factor loadings vaststaan (bijv. $1, t-1$ voor lineair; $1, t-1, (t-1)^2$ voor kwadratisch).
  • De schattingsprocedure omvat een iteratief eigenwaarde-decompositie algoritme. Cruciaal is dat de unieke variantie-schattingen worden afgeleid uit de diagonaal van een matrixproduct met eigenvectoren, wat theoretisch negatieve variantie-schattingen tijdens het iteratieve updateproces voorkomt.
  • Om lokale optima te behandelen, gebruikt het algoritme meerdere willekeurige starts en selecteert het de oplossing met de minimale verliesfunctie.

• Boomconstructie Algoritme:

  • Splitsingscriterium: In plaats van te vertrouwen op log-likelihood of deviance-veranderingen (die distributie-aannames vereisen), gebruikt de MDLGM Tree de gekwadrateerde Mahalanobis-afstand tussen geobserveerde data en model-geïmpliceerde waarden als splitsingscriterium.
  • Procedure: Voor een ouder-knoop wordt het template model gefit via MDLGM. De data wordt vervolgens gesplitst bij potentiële afkappunten van covariaten. De som van de Mahalanobis-afstanden voor de resulterende dochter-knopen wordt berekend. De splitsing die de reductie in afstand maximaliseert (onderworpen aan een complexiteitsparameter, $cp$) wordt geselecteerd.
  • Afhandeling van Improper Oplossingen: Omdat de MDFA-gebaseerde schatting inherent negatieve varianties vermijdt, mitigeert het algoritme van nature het voorkomen van improper oplossingen die de ML-gebaseerde boomconstructie doorgaans stagneren of destabiliseren.

Belangrijkste Bijdragen

1. Algoritmische Innovatie: De ontwikkeling van MDLGM, die matrix decomptie technieken aanpast om LGM-parameters inclusief gemiddelden en covarianties te schatten, waarmee de scope van MDFA verder wordt uitgebreid dan standaard factoranalyse.
2. Integratie met Beslissingsbomen: De creatie van de MDLGM Tree, die deze schattingsmethode integreert met recursieve partitionering, wat een computationeel efficiënter alternatief biedt voor SEM Trees.
3. Robuustheid: De methode biedt een mechanisme om het risico op improper oplossingen (negatieve varianties, singuliere matrices) substantieel te verminderen zonder dat ad-hoc restricties of complexe Bayesiaanse priors nodig zijn.

Resultaten
Een reeks simulatiestudies vergeleek de MDLGM Tree (twee varianten: Mahalanobis afstand en deviance-gebaseerde splitsing) met vier SEM Tree varianten (ML, Constrained ML, Bayesiaans, en ML met waarschuwing-gebaseerde exclusie) onder diverse condities (lineaire vs. kwadratische modellen, correcte vs. misgespecificeerde modellen, variërende steekproefomvang $N=500, 2000$, tijdspunten $T=5, 10$, en separatiegraden).

• Computationele Efficiëntie: De MDLGM Tree was aanzienlijk sneller dan alle ML-gebaseerde en Bayesiaanse SEM Tree methoden. Onder condities met een groot aantal tijdspunten ($T=10$), was de MDLGM Tree gemiddeld meer dan 10 keer sneller. De berekeningstijd was grotendeels ongevoelig voor toenames in steekproefomvang of tijdspunten, in tegen tegenstelling tot de SEM Tree methoden.
• Improper Oplossingen: De MDLGM Tree produceerde bijna geen improper oplossingen. In contrast hiermee kwamen ML-gebaseerde SEM Trees frequent improper oplossingen tegen (meer dan 50% in sommige kwadratische modelcondities), en zelfs constrained ML of waarschuwing-exclusie strategieën slaagden er niet in deze volledig te elimineren. Bayesiaanse SEM Trees vertoonden geen improper oplossingen, maar leden onder andere problemen (zie hieronder).
• Nauwkeurigheid van Knop-schatting: De MDLGM Tree (specifiek de Mahalanis-afstand variant) schatte consistent en accuraat het werkelijke aantal terminale knopen over alle condities heen.
  • Bayesiaanse SEM Trees (SEM Tree3) presteerden slecht bij het schatten van het aantal knopen onder de meeste condities, wat wijst op een hoge gevoeligheid voor de specificatie van de priors.
  • ML-gebaseerde methoden vertoonden een verminderde nauwkeurigheid in knop-schatting wanneer $T$ toenam, waarschijnlijk door de moeilijkheid om knopen te onderscheiden wanneer model-mispecificatie of specifieke parametervestigingen de verschillen maskeerden.
• Parameterschatting: Wanneer het aantal knopen correct werd geïdentificeerd, waren de parameterschattingen (gemiddelden, varianties, covarianties) van de MDLGM Tree hoog gecorreleerd met die van de ML-gebaseerde methoden (correlaties nabij 1.0), wat aangeeft dat de MDLGM Tree oplossingen oplevert die vergelijkbaar zijn met ML, terwijl het de computationele en stabiliteitsproblemen van ML vermijdt.
• Classificatienauwkeurigheid: Wanneer de knopen correct werden geïdentificeerd, was de classificatienauwkeurigheid over het algemeen hoog voor alle methoden. Echter, SEM Tree4 (die splitsingen uitsluit op basis van waarschuwingen) vertoonde in sommige condities een lagere classificatienauwkeurigheid, waarschijnlijk omdat het relevante covariaten vermeed om splitsingen te maken vanwege improper oplossingen in de ouder-knopen.

Betekenis en Claims
Het artikel claimt dat de MDLGM Tree een nuttige model-gebaseerde recursieve partitioneringsmethode is voor longitudinale data-analyse. De primaire betekenis ligt in het vermogen om:

1. Groepsverschillen in latente trajecten betrouwbaarder te detecteren door de improper oplossingen te vermijden die de huidige SEM Tree implementaties teisteren.
2. Externe covariaten te identificeren die deze verschillen verklaren met een aanzienlijk lagere computationele kosten, wat toepassing op grotere datasets of modellen met meer tijdspunten mogelijk maakt.
3. Individuen nauwkeuriger te classificeren door ervoor te zorgen dat de onderliggende groeimodellen in elke knoop correct worden geschat.

De auteurs positioneren de MDLGM Tree niet alleen als een zelfstandig hulpmiddel, maar ook als een potentieel instrument voor sensitiviteitsanalyse naast SEM Trees. Zij erkennen beperkingen, waarbij zij opmerken dat de huidige implementatie zich richt op eenvoudige lineaire en kwadratische LGM's en dat toekomstig werk nodig is om het algoritme uit te breiden naar complexere LGM specificaties (bijv. vrije factor loadings), de theoretische eigenschappen (consistentie, efficiëntie) te onderzoeken en algemene softwarepakketten te ontwikkelen. Het artikel concludeert dat door de computationele en stabiliteitsbarrières van SEM Trees aan te pakken, de MDLGM Tree het potentieel heeft om het bredere praktische gebruik van longitudinale SEM-benaderingen in de psychologische en gedragswetenschappen te bevorderen.