📊 statistics

Extending Deep Cox Survival Models with Case-Cohort risk set Sampling

Dit artikel introduceert en evalueert de eerste integratie van case-cohort risk-set sampling in deep Cox proportional hazards neurale netwerken, waarbij wordt aangetoond dat hoewel nested case-control sampling consistent de prestaties van de volledige risk-set benadert, mini-batch training case-cohort sampling in staat stelt om vergelijkbare nauwkeurigheid te bereiken met aanzienlijke computationele besparingen.

Oorspronkelijke auteurs: Justine Nasejje, Michael P. Falk, Marvin N. Wright, Wende Clarence Safari, Pierre-Philippe Dechant, Raeesa Manjoo Docrat, Rukia Nuermaimaiti

Gepubliceerd 2026-09-17

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Justine Nasejje, Michael P. Falk, Marvin N. Wright, Wende Clarence Safari, Pierre-Philippe Dechant, Raeesa Manjoo Docrat, Rukia Nuermaimaiti

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

In de wereld van medisch onderzoek en engineering is het voorspellen wanneer iets zal gebeuren vaak waardevoller dan weten precies wanneer het zal gebeuren. Of het nu gaat om het falen van een machineonderdeel of het overleven van een patiënt door een ziekte, wetenschappers gebruiken een methode genaand overlevingsanalyse om de tijd tot een gebeurtenis te bestuderen. Een grote uitdaging in dit veld is dat studies vaak eindigen voordat elke proefpersoon de gebeurtenis heeft ervaren; sommige mensen zijn nog in leven wanneer de studie sluit, of een machine werkt nog steeds. Dit staat bekend als rechts-gecensureerde data, en dit vereist speciale statistische instrumenten om de onvolledige informatie te verwerken zonder de waardevolle data die wel bestaat weg te gooien. Decennialang is het standaardinstrument hiervoor een model dat het risico berekent op basis van een groep mensen die op elk gegeven moment nog in aanmerking komen voor risico, ook wel de risicogroep genoemd.

Nu de hoeveelheid data is geëxplodeerd, met moderne studies die duizenden patiënten en miljoenen datapunten volgen, zijn deze traditionele berekeningen een flessenhals geworden. Om de data te verwerken, moet een computer naar elke persoon die nog in de studie zit te kijken telkens wanneer er een gebeurtenis plaatsvindt, een proces dat enorme rekenkracht en geheugen vereist. Dit creëert een barrière voor het gebruik van moderne, krachtige kunstmatige intelligentie-technieken, die gedijen bij grote datasets maar worstelen wanneer ze worden gedwongen deze zware, repetitieve berekeningen uit te voeren. Onderzoekers vragen zich nu af hoe ze de nauwkeurigheid van deze geavanceerde modellen kunnen behouden terwijl ze ze snel genoeg maken om te draaien op de enorme datasets van de eenentwintigste eeuw.

Een team van onderzoekers van universiteiten in Zuid-Afrika, Duitsland en het Verenigd Koninkrijk heeft dit probleem aangepakt door een nieuwe manier te testen om diepe neurale netwerken te trainen, een type kunstmatige intelligentie dat ontworpen is om complexe patronen in data te vinden. Hun doel was om te zien of ze het trainingsproces konden versnellen door niet naar elke persoon in de studie tegelijk te kijken, maar in plaats daarvan naar een zorgvuldig gekozen steekproef. Ze vergeleken twee verschillende steekproefstrategieën: één die telkens bij elke gebeurtenis een paar nieuwe mensen kiest om tegenover elkaar te plaatsen, en een andere die een vaste groep mensen kiert aan het begin van de studie en bij hen blijft. Ze testten deze methoden op zowel computergegenereerde data, waarbij het juiste antwoord bekend is, als op een real-world dataset van borstkankerpatiënten, waarbij ze maten hoe goed de modellen overleving voorspelden en hoeveel computergeheugen en tijd ze vereisten.

De onderzoekers ontdekten dat de methode die een nieuwe groep mensen kiest voor elke gebeurtenis, bekend als nested case-control sampling, bijna perfect werkt. Of ze nu de volledige dataset gebruikten of slechts een kleine steekproef, deze aanpak produceerde voorspellingen die bijna identiek waren aan de trage, zware methode die naar iedereen kijkt. Het model leerde de juiste patronen, en de voorspellingen waren net zo accuraat als de standaardbenadering, maar deed dit zonder de enorme computationele kosten. Dit suggereert dat onderzoekers voor veel grootschalige problemen veilig deze steekproeftruc kunnen gebruiken om hun modellen veel sneller te laten draaien zonder verlies van voorspellende kracht.

De tweede methode, case-cohort sampling genoemd, gedroeg zich anders en onthulde een complexer verhaal. Wanneer de onderzoekers een zeer kleine vaste groep mensen gebruikten om de hele studie te vertegenwoordigen, had het model aanzienlijke problemen. In tests met een kleine groep daalde het vermogen van het model om tussen hoog-risico en laag-risico patiënten te onderscheiden scherp, en werden de voorspellingen onbetrouwbaar. De onderzoekers ontdekten echter dat de manier waarop de computer de data verwerkt alles verandert. Wanneer ze overschakelden van het verwerken van de hele dataset tegelijkertijd naar het verwerken van de data in kleine, snelle batches, verbeterde de prestatie van de kleine vaste groep drastisch. Met deze snellere verwerkingsstijl kon zelfs een kleine groep de computer helpen effectief te leren, waarbij het grootste deel van de nauwkeurigheid werd hersteld terwijl er nog steeds een groot deel aan rekenbronnen werd bespaard.

De studie keek ook naar hoe deze methoden de computer zelf beïnvloeden. De traditionele manier van het tegelijkertijd verwerken van alle data vereist een enorme hoeveelheid geheugen, die vaak zes gigabyte of meer bereikt, wat standaardcomputers kan laten crashen. Door over te schakelen naar de batch-aanpak, daalde het geheugengebruik naar minder dan een halve gigabyte, waardoor deze geavanceerde modellen toegankelijk werden op veel kleinere machines. De onderzoekers observeerden dat terwijl de methode met de kleine vaste groep instabiel was wanneer de computer alles tegelijk bekijkt, de batch-aanpak de fouten gladstreek, waardoor het model gestaag kon leren. Deze afweging tussen de omvang van de steekproef en de manier waarop de data wordt verwerkt biedt wetenschappers een nieuw instrumentarium: ze kunnen kiezen om een methode te gebruiken die altijd robuust is, of ze kunnen een kleinere, snellere methode gebruiken als ze bereid zijn aan te passen hoe de computer de data afhandelt.

Uiteindelijk overbrugt dit werk de kloof tussen klassieke statistiek en moderne kunstmatige intelligentie. Het laat zien dat het zware werk dat nodig is om overlevingsdata te analyseren, niet gedaan hoeft te worden door naar elke persoon in de studie op elk enkel moment te kijken. Door slimme steekproeftechnieken te gebruiken, met name wanneer deze gecombineerd worden met moderne trainingsmethoden, kunnen onderzoekers krachtige modellen bouwen die zowel accuraat als efficiënt zijn. De bevindingen suggereren dat voor de toekomst van de overlevingsanalyse de sleutel niet alleen het hebben van meer data is, maar weten hoe je ernaar kijkt op een manier die de limieten van onze computers respecteert terwijl de waarheid verborgen in de cijfers behouden blijft.

Technische Samenvatting: Uitbreiding van Deep Cox Survival Modellen met Case-Cohort Risk Set Sampling

Probleemstelling
Diepe neurale netwerken (DNN's) hebben een superieure voorspellende prestatie aangetoond in overlevingsanalyse wanneer ze worden getraind met de Cox partial likelihood. Echter, er bestaat een aanzienlijke bottleneck bij het schalen van deze modellen naar grote datasets: het evalueren van de volledige risicogroep (risk set) bij elk geobserveerd gebeurtenistijdstip brengt aanzienlijke computationele en geheugenkosten met zich mee. Deze beperking belemmert de schaalbaarheid van diepe Cox-modellen. Hoewel risicogroep-samplingtechnieken zoals Nested Case-Control (NCC) zijn aangepast voor neurale netwerken om NCC te mitigeren, blijft de integratie van Case-Cohort (CC) sampling—een ontwerp waarbij een statische subcohort eenmalig bij de baseline wordt gesampled—in deep Cox-frameworks nog onverkend. Deze studie adresseert de kloof in de bestaande literatuur met betrekking tot de toepassing en evaluatie van CC-sampling binnen deep survival learning, waarbij specifiek de trade-offs tegenover NCC en full risk-set benaderingen worden onderzocht in zowel full-batch als mini-batch trainingsregimes.

Methodologie
De auteurs stellen een trainingsframework voor voor Cox-gebaseerde DNN's dat risicogroep-sampling incorporeert. De kern van de statistische fundering is het Cox proportional hazards model, waarbij de netwerkoutput $\eta_i = f_\theta(X_i)$ de lineaire predictor $\beta^\top X_i$ vervangt. Het model minimaliseert de negatieve log-partial likelihood.

De studie evalueert drie samplingstrategieën voor het construeren van de risicogroep $R(t_j)$ bij elk gebeurtenistijdstip $t_j$ :

Full Risk Set: De baseline-benadering waarbij alle individuen die nog in risico zijn worden gebruikt ( $R(t_j) = \{i : T_i \ge t_j\}$ ).
Nested Case-Control (NCC): Voor elke gebeurtenis worden een vast aantal controles ( $m$ ) willekeurig gesampled uit de huidige risicogroep.
Case-Cohort (CC): Een statische subcohort van grootte $m$ wordt eenmalig bij de baseline gesampled. Bij elk gebeurtenistijdstip bestaat de risicogroep uit de gebeurtenis-case plus de leden van de subcohort die nog steeds in risico zijn.

Het framework is geïmplementeerd met behulp van een feed-forward neuraal netwerk (drie verborgen lagen met ReLU-activaties, dropout-regularisatie) getraind via de Adam-optimizer. De evaluatie beslaat twee verschillende trainingsregimes:

Full-Batch: De gehele dataset wordt gebruikt voor elke gradiënt-update.
Mini-Batch: De data wordt verdeeld in batches; risicogroepen worden beperkt tot individuen die aanwezig zijn binnen de huidige batch. Voor CC in mini-batch is de risicogroep het snijvlak van de vaste subcohort en de huidige batch, plus de gebeurtenis-case.

Experimenten werden uitgevoerd op:

Synthetische Data: Gegenereerd met bekende ground-truth latente risicostructuren ( $N=6.000$ ) om het herstel van de ware lineaire predictor en de latente risicoverdeling te evalueren.
Real-World Data: De METABRIC borstkankerdataset ( $N \approx 1.800$ ) om de prestaties op complexe klinische data te beoordelen.

Prestaties werden gemeten aan de hand van de Concordance Index (C-index), de Integrated Brier Score (IBS), Pearson en Spearman correlaties (voor synthetische data), en de benutting van computationele resources (CPU en geheugen).

Belangrijkste Bijdragen
Naar de beste kennis van de auteurs biedt deze studie de eerste integratie en systematische evaluatie van Case-Cohort risicogroep-sampling binnen deep Cox proportional hazards neurale netwerken. De specifieke bijdragen zijn:

Nieuwe Integratie: Het aanpassen van het klassieke Case-Cohort ontwerp naar implementaties van het Cox-model binnen diepe neurale netwerken, waarmee een gat in deep survival learning-frameworks wordt gedicht.
Trainingsformulering: Het ontwikkelen van een trainingsformulering die Case-Cohort sampling incorporeert binnen zowel full-batch als mini-batch stochastische optimalisatie, wat schaalbaar leren mogelijk maakt.
Systematische Vergelijking: Het bieden van de eerste empirische vergelijking tussen full risk set, NCC en CC strategieën binnen diepe Cox-modellen, waarbij de trade-offs tussen computationele kosten en voorspellende nauwkeurigheid worden geanalyseerd.

Resultaten

Full-Batch Training:
- NCC: Benaderde consistent de full risk-set baseline over alle configuraties heen. In synthetische data bereikte het C-index waarden (~0,78) die bijna identiek waren aan de baseline, met log-hazard correlaties die 0,99 naderden.
- CC: Toonde een hoge gevoeligheid voor de subcohortgrootte ( $k$ ). Ernstige down-sampling ( $k=5$ ) resulteerde in een significante daling van de prestaties (C-index reductie van ~23% ten opzichte van de baseline) en een slecht herstel van de latente risicostructuur. Echter, het vergroten van de subcohortgrootte (bijv. naar 1.000 in synthetische data of 500 in METABRIC) mitigeerde overfitting en herstelde de baseline prestaties, zij het ten koste van de trainingstijd.
Mini-Batch Training:
- NCC: Bleef robuust en volgde de full-risk baseline met hoge stabiliteit.
- CC: Mini-batch uitvoering verminderde de degradatie die werd waargenomen bij full-batch CC aanzienlijk. Een kleine subcohort ( $k=5$ ) die slecht presteerde in full-batch, behaalde in mini-batch een C-index van ~0,738 (slechts een ~5,3% daling van de baseline). Het vergroten van de subcohortgrootte naar 15 of hoger stelde CC in staat om nabij de baseline C-index en IBS scores te herstellen.
- Resource Efficiëntie: Mini-batching reduceerde het piekgeheugengebruik drastisch (van ~6 GB in full-batch naar ~0,5 GB in mini-batch). Hoewel het vergroten van de subcohortgrootte in mini-batch het geheugengebruik niet significant verhoogde, verhoogde het wel de wall-clock trainingstijd.
Risicostructuur Herstel: In synthetische experimenten behield NCC consistent de latente risicostructuur. CC met kleine subcohorten had moeite met het herstellen van de ware risikoranking in full-batch, maar vertoonde een duidelijke verbetering in mini-batch settings.

Betekenis en Claims
Het artikel claimt dat risicogroep-sampling aanzienlijke computationele besparingen kan bieden in diepe Cox-modellen zonder de voorspellende prestaties op te offeren, mits de samplingstrategie gepast wordt gekozen.

NCC wordt gepresenteerd als een robuuste methode die consistente prestaties biedt over verschillende configuraties heen.
Mini-batch CC wordt geïdentificeerd als een effectief alternatief wanneer de subcohortgrootte gepast wordt gekozen, waarbij een balans wordt gevonden tussen computationele efficiëntie en statistische nauwkeurigheid.
De studie benadrukt dat CC-sampling bijzonder waardevol is wanneer de onderliggende data van nature voortkomt uit een case-cohort studieontwerp, wat een natuurlijke analytische strategie biedt voor dergelijke data.
De bevindingen suggereren dat hoewel full-batch CC grote subcohorten vereist om prestatiedegradatie te voorkomen, de stochastische aard van mini-batch training het mogelijk maakt dat CC globale risicodynamiek synthetiseert uit veel minder samples, waardoor volledige voorspellende capaciteit wordt bereikt tegen een fractie van de computationele kosten.

De auteurs concluderen dat hun framework de klassieke Cox partial likelihood uitbreidt naar moderne grootschalige leerprocessen, waarbij exacte formuleringen worden hersteld in full-batch settings en efficiënte samplingdesigns worden geïntegreerd voor schaalbare training.

Meer zoals dit