Technische Samenvatting: TEDDY – Een pediatrisch fundatiemodel voor risicovoorwaarschuwing

Probleemstelling

Pediatrische elektronische patiëntendossiers (EPD's) leggen ontwikkelingsgestructureerde klinische trajecten vast die fundamenteel verschillen van volwassen data wat betreft anatomie, fysiologie en ziektepresentatie. Bestaande klinische voorspellingsinstrumenten en AI/ML-modellen zijn echter voornamelijk getraind op volwassen populaties, wat leidt tot onbetrouwbare voorspellingen voor kinderen. Deze kloof is bijzonder acuut bij zeldzame en ontwikkelingsstoornissen (bijv. aangeboren afwijkingen, autismespectrumstoornissen), waarbij volwassen dossiers geen relevante voorkennis bieden.

Huidige generatieve fundatiemodellen voor EPD's (bijv. Delphi, ReClaim, Curiosity) worden getraind op volwassen of gemengde leeftijdscohorten en lijden vaak onder twee methodologische valkuilen wanneer ze op pediatrische data worden toegepast:

1. Binnen-bezoek lekkage (Within-encounter leakage): Modellen kunnen onbedoeld een diagnose voorspellen met behulp van andere codes van dezelfde bezoekdag, wat de nauwkeurigheid kunstmatig verhoogt omdat EPD-systemen diagnoses registreren op basis van de kalenderdag zonder interne ordening.
2. Demografische confounding: Modellen kunnen een hoge prestatie bereiken door demografische correlaties te leren (bijv. geslachtsspecifieke ziekten) in plaats van genuwe klinische signalen.

Bovendien is pediatrische data schaars, gefragmenteerd en ontbreekt het vaak aan de populatieschaal-datasets die vereist zijn voor het trainen van miljardenparameters-modellen. Er is een kritieke behoefte aan een generatief model dat specifiek voor kinderen is ontworpen en dat incidentele diagnoses en de timing van bezoeken kan anticiperen zonder afhankelijk te zijn van massale hoeveelheden data of door volwassenen afgeleide voorkennis.

Methodologie

Data en Cohort

Het model, TEDDY (Temporal Event Decoder for Disease in Youth), werd getraind op data van Texas Children's Hospital (TCH).

• Cohort: 1,6 miljoen pediatrische patiënten (leeftijd ≤ 25 jaar).
• Datavolume: Ongeveer 73 miljoen ICD-10 diagnose-events.
• Vocabulaire: Een gesloten vocabulaire van 1.849 tokens, inclusief 1.841 ICD-10-afgeleide codes (afgekapt tot hoofdstuk/subcategorie) en 8 speciale tokens (bijv. VISIT_START, VISIT_END, NO_EVENT, BIRTH, SEX_*).
• Preprocessing:
  • Gap-filling: NO_EVENT tokens worden tussen echte events ingevoegd op basis van het schema van de American Academy of Pediatrics (AAP) voor welbezoek-controles, om tijdsintervallen te definiëren tijdens perioden zonder zorg.
  • Bezoek-bracketing: Alle codes van dezelfde kalenderdag worden gegroepeerd tussen VISIT_START en VISIT_END tokens.
  • De-identificatie: Temporele data wordt uitsluitend opgeslagen als leeftijd in dagen vanaf de geboorte; er worden geen kalenderdata of beschermde gezondheidsinformatie (PHI) bewaard.
  • Exclusies: Moeder-kind dyades werden uitgesloten van pretraining om toekomstige intergenerationele transferexperimenten mogelijk te maken.

Modelarchitectuur

TEDDY is een decoder-only transformer met 1,84 miljoen parameters (8 lagen, 8 attention heads, embedding dimensie 128).

• Inputs: Sequenties van (token, leeftijd) paren. Leeftijd wordt gecodeerd via sinusvormige features die worden gemapt naar jaren, en opgeteld bij geleerde token embeddings. Er worden geen geleerde positionele embeddings gebruikt; de temporele ordening wordt afgeleid van het leeftijdskanaal en causale attention masks.
• Trainingsdoel: Een gezamenlijk next-token en time-to-event doel:
  1. Categorische Cross-Entropy ($L_{CE}$): Voorspelt het volgende token (diagnosecode, NO_EVENT, of bezoek-bracket) over de 1.849-tokens vocabulaire.
  2. Time-to-Event Loss ($L_{\Delta t}$): Voorspelt de snelheid ($\lambda_t$) van een exponentiële verdeling voor de tijd tot de volgende bezoekgrens. NO_EVENT targets worden behandeld als rechts-gecensureerde observaties.
• Loss functie: $L = L_{CE} + L_{\Delta t}$.

Evaluatieprotocol

De evaluatie werd ontworpen om veelvoorkomende bronnen van opgeblazen prestaties te elimineren:

1. Bezoek-grens scoring: Voorspellingen worden gedaan bij het VISIT_START token, voordat de codes van die specifieke dag worden onthuld. Dit voorkomt binnen-bezoek lekkage.
2. Alleen eerste voorkomen: Het model wordt alleen gescoord op de eerste verschijning van een diagnose in het dossier van een kind, met de focus op het anticiperen op nieuwe aandoeningen in plaats van het hervoorspellen van bekende aandoeningen.
3. Demografische matching: Voor elke aandoening zijn gevallen gematcht met controles van hetzelfde geslacht en vergelijkbare leeftijdsgroepen (met behulp van een cascade van fijne-naar-grove matching) om te garanderen dat de prestaties klinische signalen reflecteren in plaats van demografische stratificatie.
4. Benchmarks: TEDDY werd vergeleken met:
   • Dezelfde data baselines: DenseNet, CNN, RNN, LSTM (allemaal qua grootte gematcht).
   • Een algemeen taalmodel: Gemma-3-4b (4 miljard parameters, ~2000x groter), geprompt op dezelfde patiëntgeschiedenissen.

Belangrijkste Resultaten

Diagnostische Risicovoorspelling

Over 797 ziekte-onset voorspellingsopdrachten verspreid over 16 ICD-10 hoofdstukken:

• Algemene Prestaties: TEDDY behaalde een mediane AUC van 72,0%.
• Vergelijking: Het presteerde beter dan dezelfde-data baselines (DenseNet: 50,0%, CNN: 57,2%, RNN: 60,1%, LSTM: 62,7%) op 96–99% van de taken.
• Zeldzame Ziekten: De prestaties waren het sterkst voor zeldzame aandoeningen. Van de 225 zeldzaamste aandoeningen (prevalentie < 5 per 10.000) hadden 90% (202 aandoeningen) een 95% betrouwbaarheidsinterval dat volledig boven toeval lag.
• Demografie: De prestaties bleven consistent over geslacht en leeftijd strata, wat aangeeft dat het signaal niet wordt gedreven door demografische scheidbaarheid.
• Specifieke Benchmarks:
  • Astma (J45): TEDDY AUC = 79,3% vs. Gemma-3-4b (62,7%) en LSTM (60,0%).
  • ADHD (F90): TEDDY AUC = 84,7% vs. Gemma-3-4b (51,2%) en LSTM (71,7%).
  • Noot: Gemma-3-4b, ondanks dat het 2000x groter is, presteerde nabij toeval voor ADHD en aanzienlijk slechter dan TEDDY voor beide aandoeningen.

Temporele Voorspellende Kracht

Het vermogen van het model om diagnoses te anticiperen werd geëvalueerd bij verschillende lead times:

• Signaalpersistentie: Het voorspellende signaal bleef detecteerbaar meer dan twee jaar vóór de eerste geregistreerde diagnose.
  • Mediane AUC bij >2 jaar lead time: 59,7% (onbeperkte analyse) en 64,4% (fixed-cohort sensitiviteitsanalyse).
  • Mediane AUC op dezelfde dag: 71,8%.
• Dit suggereert dat het model langetermijn-trajectstructuren vastlegt in plaats van alleen kortetermijncorrelaties.

Bezoektiming Voorspelling

TEDDY schat de tijd tot het volgende bezoek met behulp van een restricted mean survival time (RMST) metriek:

• Nauwkeurigheid: Gemiddelde absolute fout van 3,0 dagen over een horizon van 365 dagen.
• Kalibratie: Het model vangt kindspecifieke bezoekfrequenties op (Pearson $r=0,54$ voor log-getransformeerde tijden), maar vertoont drift in de lange staart, waarbij het de waarschijnlijkheid van een niet-terugkerend bezoek na één jaar overschat (voorspeld 0,399 vs. geobserveerd 0,296). Dit wordt toegeschreven aan de eenvoud van de enkele exponentiële rate head.

Betekenis en Claims

Het artikel claimt dat pediatrische diagnostische geschiedenissen een levensvatbaar substraat vormen voor compacte generatieve modellen die in staat zijn tot brede, zeldzame en langdurige risicovoorspelling.

Belangrijke bijdragen en claims zijn onder meer:

1. Pediatisch-specifiek Fundatiemodel: TEDDY is het eerste generatieve EPD-fundatiemodel dat specifiek voor kinderen is gebouwd, waarmee het "populatiegat" wordt aangepakt waar volwassen modellen falen door de pediatrische fysiologie en ziektepresentatie.
2. Data-efficiëntie: Het model laat zien dat een getrouwe representatie van klinische trajecten (via bezoek-bracketing en leeftijd-encoding) zelfs met kleine hoeveelheden data (1,6M patiënten) en compacte modellen (1,84M parameters) klinisch betekenisvolle voorspellingen kan opleveren, wat het paradigma uitdaagt dat EPD-prestaties miljardenparameters en populatieschaal-data vereisen.
3. Strikte Evaluatie: Door strikte waarborgen te implementeren tegen binnen-bezoek lekkage en demografische confounding, betoogt het artikel dat de gerapporteerde prestaties een werkelijke voorspellende structuur reflecteren in plaats van artefacten.
4. Klinische Bruikbaarheid: Het vermogen om signalen jaren van tevoren te detecteren, met name voor zeldzame aandoeningen waar diagnostische odysseeën gebruikelijk zijn, suggereert de mogelijkheid voor eerdere interventie en verwijzing in de reguliere pediatrische zorg.

De auteurs concluderen dat hoewel het model een eerste stap is, toekomstig werk de inputs moet uitbreiden tot metingen en medicatie, moet generaliseren over instellingen, en intergenerationele (moeder-kind) trajecten moet verkennen. Ze merken expliciet de beperkingen op van single-institution data en de exclusie van niet-diagnostische gestructureerde data (labs, vitale functies).