Adressing Separation: A Firth-corrected Joint Model for Longitudinal and Time-to-event Data with an Application on Dropout from Vocational Training

Technisch overzicht: Het aanpakken van separatie in joint modellen via de Firth-correctie

Probleemstelling
Joint modellen voor longitudinale en time-to-event data worden breed gebruikt om endogene tijdsvariërende covariaten (bijv. biomarkers of tevredenheidsniveaus) te analyseren naast overlevingsuitkomsten. Deze modellen erven echter beperkingen van hun overlevingssubmodellen, specifiek het probleem van separatie. Separatie treedt op wanneer een categorische covariaat het uitblijven van een gebeurtenis in een specifieke categorie perfect voorspelt (bijv. geen uitval in een specifieke beroepssector). Dit leidt tot een monotone likelihood, wat ervoor zorgt dat regressiecoëfficiënten divergeren naar oneindig of instabiel worden, waardoor standaard maximum likelihood-schattingen (MLE) ineffectief worden. Hoewel de Firth-correctie is vastgesteld voor binaire regressie en Cox proportional hazards-modellen om deze bias te mitigeren, was het nog niet formeel geïntegreerd in het joint modeling-framework, wat de toepasbaarheid van joint modellen beperkt in situaties met zeldzame gebeurtenissen of sterk ongebalanceerde covariaten.

Methodologie
De auteurs stellen een Firth-gecorrigeerd joint model voor, geïmplementeerd binnen een frequentistisch schattingskader met behulp van het Expectation-Maximization (EM)-algoritme.

1. Modelstructuur: Het model bestaat uit twee gekoppelde submodellen:
   • Een longitudinaal submodel (Linear Mixed Model) dat het traject van de endogene covariaat $m_i(t)$ vastlegt met random intercepts en slopes.
   • Een overlevingssubmodel (Cox-type proportional hazards model) waarbij de hazardfunctie afhankelijk is van baseline covariaten en de huidige waarde van het longitudinale proces $m_i(t)$ via een associatieparameter $\alpha$.
2. Implementatie van de Firth-correctie:
   • De auteurs leiden de noodzakelijke correctieterm af voor de scorefunctie van de overlevingscoëfficiënten ($\theta_{surv}$).
   • De bias van de MLE wordt benaderd met een tweede-orde Taylor-expansie van de scorefunctie. De correctieterm $c(\theta)$ wordt afgeleid als $c(\theta) = \frac{1}{2} \text{tr}\left[ I(\theta)^{-1} \frac{\partial I(\theta)}{\partial \theta} \right]$, waarbij $I(\theta)$ de Fisher Informatie-matrix is.
   • Deze term wordt toegevoegd aan de scorefunctie $S(\theta)$ tijdens de M-stap van het EM-algoritme, specifiek voor de Newton-Raphson update van de overlevingscoëfficiënten: $\hat{\theta}^{(t+1)}_{surv} = \hat{\theta}^{(t)}_{surv} + [I(\hat{\theta}^{(t)}_{surv})]^{-1} S^*(\hat{\theta}^{(t)}_{surv})$, waarbij $S^*$ de gecorrigeerde score is.
   • Initialisatie: Om convergentie te waarborgen, initialiseren de auteurs de exogene regressiecoëfficiënten met Penalized Maximum Likelihood-schattingen via een klassiek Firth-gecorrigeerd Cox-model (via het coxphf R-pakket).
   • Inferentie: Standaardfouten worden afgeleid met behulp van de forward difference-benadering van de volledige Hessian-matrix.

Resultaten van de simulatiestudie
Een simulatiestudie werd uitgevoerd om de prestaties van het Firth-gecorrigeerde joint model (FC-JM) te evalueren ten opzichte van het klassieke joint model (JM) en een JM met Firth-gecorrigeerde startwaarden (JMc).

• Reductie van Bias: In scenario's met separatie leverde FC-JM significant minder bevooroordeelde schattingen voor de separerende covariaat vergeleken met JM. De schattingen benaderden de waarden die werden waargenomen in scenario's zonder separatie.
• Afhankelijkheid van Informatie: De prestaties van de correctie worden gedreven door de kromming van de likelihood, die afhangt van het absolute aantal gebeurtenissen. FC-JM presteerde het best in situaties met lage informatie (kleine steekproeven, hoge censoring) waar separatie het meest problematisch is.
• Stabiliteit: Hoewel FC-JM de bias verminderde, werden een klein aantal uitschieters waargenomen in zeer ijle data-instellingen vanwege slecht geconditioneerde analytische Hessians, een beperking die niet aanwezig is in het standaard JM dat de Hessian benadert via BFGS.
• Andere Coëfficiënten: De correctie veranderde de schattingen van niet-separerende coëfficiënten niet significant, waardoor de nauwkeurigheid over het gehele model behouden bleef.

Real-world toepassing: Uitval uit beroepsonderwijs
De methode werd toegepast op data uit de Duitse Nationale Educatie Panelstudie (NEPS) met betrekking tot uitval uit het beroepsonderwijs.

• Context: De studie modelleerde het traject van opleidingstevredenheid (longitudinaal) en het risico op uitval (time-to-event).
• Separatieprobleem: In de vrouwelijke substeekproef vertoonde de beroepssector "Andere beroepen in de commerciële dienstverlening" separatie (nul uitvalgebeurtenissen), wat bij het klassieke JM een oneindige coëfficiënt en een opgeblazen standaardfout veroorzaakte.
• Bevindingen:
  • De FC-JM leverde eindige, stabiele schattingen voor de separerende sector, wat aangeeft dat er geen significant verschil is in het risico op uitval vergeleken met de referentiesector.
  • Het model slaagde erin effecten te deconstrueren in directe effecten (bijv. opleidingsniveau, compromis in het werkveld dat direct de uitvalrisico beïnvloedt) en indirecte effecten (gemedieerd door tevredenheid).
  • De resultaten bevestigden dat hoewel sociaaleconomische factoren en compromisniveaus de tevredenheid significant beïnvloedden, hun directe effect op uitval vaak niet-significant was zodra het traject van de tevredenheid werd meegenomen, terwijl onderwijs en het compromis in het werkveld directe beschermende of risicoverhogende effecten behielden.

Betekenis en Claims
Het artikel claimt dat de voorgestelde Firth-gecorrigeerde schattingsprocedure de toepasbaarheid van joint modellen uitbreidt naar datasets die worden gekenmerkt door zeldzame gebeurtenissen of sterk ongebalanceerde categorische covariaten waar klassieke methoden falen door monotone likelihood.

• Methodologische Bijdrage: Het biedt een formele afleiding en implementatie van de Firth-straf binnen het joint model EM-algoritme, wat de schatting van eindige, minder bevooroordeelde coëfficiënten in separatiegevallen mogelijk maakt.
• Inhoudelijke Bijdrage: In de toepassing op het beroepsonderwijs biedt het model een rigoureuzer causaal kader door de medierende rol van tevredenheid expliciet te modelleren. Het demonstreert dat structurele voorspellers vaak indirect invloed uitoefenen op het uitvalrisico via affectieve toestanden (tevredenheid), een mechanisme dat in standaard twee-fasen of statische voorspellers verborgen blijft.
• Beperkingen: De auteurs merken op dat de huidige implementatie beperkt is tot current-value associaties en tijd-constante exogene covariaten. Bovendien kan de afhankelijkheid van analytische Hessians leiden tot numerieke instabiliteit in extreem ijle data, wat wijst op een behoefte aan toekomstige stabilisatiestrategieën.

Het werk wordt gepresenteerd als een oplossing voor een specifieke schattingsfout, waardoor onderzoekers joint modellen kunnen gebruiken in contexten die voorheen als ongeschikt werden beschouwd vanwege separatie, wat de robuustheid van inferentie in sociale wetenschappelijke en biostatistische toepassingen met zeldzame gebeurtenissen verbetert.