Explainable AI for Data-Driven Design of High-Dimensional Predictive Studies

Technische Samenvatting: Verklaarbare AI voor datagedreven ontwerp van voorspellende studies met hoge dimensionaliteit

Probleemstelling
Voorspellende modellering in de gezondheidszorg is essentieel voor klinische besluitvorming, maar het ontwerpen van optimale modellen voor data met hoge dimensionaliteit blijft een aanzienlijke uitdaging. Traditionele statistische methoden, zoals Cox Proportional Hazards (CPH) modellen, worden geprefereerd vanwege hun interpreteerbaarheid en wiskundige strentheid, maar vertrouwen vaak op restrictieve lineariteitsaannames die complexe biologische realiteiten niet kunnen vastleggen, zoals niet-lineaire risicocurven (bijvoorbeeld U-vormige relaties voor BMI) of interacties van hoge orde tussen kenmerken. Daarentegen excelleren moderne machine learning (ML) modellen in het vastleggen van deze complexe patronen, maar functioneren ze als "black boxes" en missen ze de transparantie die vereist is voor klinisch vertrouwen en regelgevende goedkeuring. Hoewel Explainable AI (XAI) is opgekomen om black-box modellen te interpreteren, wordt het vaak slechts gebruikt voor post-hoc rechtvaardiging in plaats van als mechanisme om actief het ontwerp van transparante, white-box statistische modellen te verbeteren. Deze studie adresseert de kloof in het automatiseren van het proces van "feature engineering"—specifiek feature selectie, identificatie van niet-lineaire termen en ontdekking van interacties—om conventionele klinische modellen te verbeteren zonder in te boeten aan interpreteerbaarheid.

Methodologie
De auteurs stellen een Exploratory AI Recommender voor, een raamwerk dat is ontworpen om systematisch data-relaties aan het licht te brengen en het ontwerp van voorspellende studies te optimaliseren via drie distincte fasen:

1. Etablering van een Baseline: Een standaard, kennisgedreven multivariaat CPH-model wordt gefit met behulp van een gecureerde set predictoren (bijvoorbeeld demografie, comorbiditeiten, medicatie) zonder geavanceerde feature engineering (geen interacties of niet-lineaire termen).
2. Exploratieve AI & Generatie van Aanbevelingen:
   • Exploratieve Modellering: Een flexibel, hoogpresterend "black-box" model, specifiek een Random Survival Forest (RSF), wordt getraind op dezelfde data om complexe, niet-lineaire patronen en interacties vast te leggen.
   • Interpretatie via XAI: De RSF wordt geïnterpreteerd met behulp van SHAP (SHapley Additive exPlanations) om Feature Attributions (FAs) te genereren. Om subgroep-specifieke risico's niet te verdoezelen, voeren de auteurs een extreme-groep FA-analyse uit, waarbij de populatie wordt gestratificeerd in laag-risico en hoog-risico cohorten op basis van voorspelde risicoscores.
   • Logica voor Aanbevelingen: De FAs worden verwerkt via drie op regels gebaseerde patronen om bruikbare aanbevelingen te genereren:
     • Uitsluiting van Kenmerken: Kenmerken waarbij de gemiddelde absolute FA's een datagedreven significantiedrempel niet overschrijden (5% van de SD van de gemiddelde absolute FA's), worden aanbevolen voor verwijdering.
     • Niet-lineaire Termen: Kenmerken die een zwakke Pearson-correlatie ($|r| < 0.1$) vertonen tussen kenmerkwaarden en hun FA's, worden gemarkeerd voor niet-lineaire modellering (bijvoorbeeld kwadratische termen of splines).
     • Interacties tussen Kenmerken: Er wordt een iteratieve stratificatie-analyse uitgevoerd. Als de verdeling van FA's voor een specifiek kenmerk significant verschilt tussen strata gedefinieerd door een ander kenmerk (getest via Wilcoxon rank-sum), wordt een interactieterm van de eerste orde aanbevolen.
3. Evaluatie: De aanbevelingen worden geïntegreerd in een geaugmenteerd CPH-model. De prestaties van dit geaugmenteerde model worden vergeleken met de baseline CPH en de exploratieve RSF met behulp van de Concordance Index (C-index) voor discriminatie en kalibratieplots (intercept en helling) voor kalibratie.

Belangrijkste Resultaten
Het raamwerk werd voornamelijk geëvalueerd op een dataset met hoge dimensionaliteit van 245.614 patiënten uit de DataLoch-repository, waarbij de tijd tot de eerste val of gerelateerde verwonding (FRI) werd voorspeld.

• Generatie van Aanbevelingen: Het systeem identificeerde 23 kenmerken voor uitsluiting, adviseerde niet-lineaire termen voor twee kenmerken (alcoholstatus en leeftijd), en stelde 221 interactietermen van de eerste orde voor. Alle aanbevelingen werden ondersteund door bestaande medische literatuur.
• Prestatiewinst:
  • Het baseline CPH-model behaalde een C-index van 0,805 (95% BI 0,798–0,812).
  • De exploratieve RSF behaalde een C-index van 0,820.
  • Het uiteindelijke geaugmenteerde CPH-model (met inbegrip van alle aanbevelingen) behaalde een C-index van 0,815 (95% BI 0,809–0,822), wat een statistisch significante verbetering vertegenwoordigt ($\Delta$C-index = 0,010, $P < 0,001$) ten opzichte van de baseline.
  • Ook de kalibratie verbeterde, waarbij de helling verschilde van 1,063 naar 0,950 en het intercept van -0,006 naar 0,003.
• Generaliseerbaarheid: De methode werd succesvol toegepast op twee aanvullende publieke datasets (GBSG2 voor borstkanker en ACT voor HIV), waarbij consistente verbeteringen in discriminatie werden aangetoond (bijvoorbeeld GBSG2 C-index verbeterde van 0,665 naar 0,687; ACT van 0,725 naar 0,770).

Betekenis en Aanspraken
Het artikel stelt dat het voorgestelde raamwerk de kloof overbrugt tussen de voorspellende kracht van complexe AI en de transparantie die vereist is voor klinische adoptie. Door AI strikt te gebruiken als een exploratieve motor om het ontwerp van conventionele statistische modellen te informeren, claimen de auteurs de afweging tussen nauwkeurigheid en interpreteerbaarheid op te lossen zonder de fideliteitsproblemen die geassocieerd zijn met post-hoc XAI.

Belangrijke aanspraken met betrekking tot de betekenis van de studie omvatten:

• Datagedreven Studieontwerp: Het raamwerk automatiseert de ontdekking van uitsluiting van kenmerken, niet-lineariteiten en interacties, en gaat verder dan puur literatuurgedreven modelspecificatie.
• Inzicht in Subgroepen: De extreme-groep analyse onthult risicofactoren die specifiek zijn voor laag-risico populaties (bijvoorbeeld NSAID's in laag-risico cohorten) die vaak worden over het hoofd gezien door traditionele modellen die zich richten op hoog-risico groepen, wat nieuwe kansen biedt voor gerichte preventie.
• Controleerbaarheid: De resulterende geaugmenteerde modellen behouden de wiskundige transparantie van standaard risicoscores, waardoor ze geschikt zijn voor gereguleerde klinische omgevingen waar "black-box" ensemble-modellen vaak worden afgewezen.
• Schaalbaarheid: De aanpak is computerefficiënter in vergelijking met het trainen van complexe deep learning-architecturen voor definitieve voorspelling, aangezien het zware werk één keer wordt gedaan tijdens de exploratieve fase.

De auteurs handhaven een bescheiden houding, waarbij ze erkennen dat het raamwerk hypotheses genereert voor verder onderzoek in plaats van causaal bewijs, en dat de aanbevelingen afhankelijk zijn van de prestaties van het onderliggende exploratieve model. Ze benadrukken dat het instrument klinisch oordeel ondersteunt, in plaats van vervangt.