Technische Samenvatting: Aanpak van overlevingsanalyse met kleine steekproeven via Transfer Learning

Probleemstelling

Overlevingsanalyse is fundamenteel voor medisch onderzoek bij het voorspellen van tijd-tot-gebeurtenis uitkomsten, zoals overlijden of ziekteprogressie. De precisie van deze modellen is echter sterk afhankelijk van de omvang van de steekproef. In klinische settings, met name voor specifieke kanker subtypes of scenario's voor gepersonaliseerde geneeskunde, worden onderzoekers vaak geconfronteerd met kleine steekproefgroottes (bijv. <200 patiënten) vanwege langdurige follow-up vereisten, lage incidentiecijfers van gebeurtenissen of de zeldzaamheid van specifieke moleculaire kenmerken. Standaard statistische benaderingen slagen er vaak niet in om nuttige patronen te extraheren uit dergelijke beperkte data, wat leidt tot een slechte voorspellende prestatie. Hoewel grootschalige open-access datasets (bijv. SEER, UK Biobank) bestaan, zijn deze zelden direct toepasbaar op specifieke lokale cohorten vanwege distributieverschuivingen. Deze studie adresseert de uitdaging om de prestaties van overlevingsvoorspelling op kleine doeldatasets te verbeteren door kennis te benutten uit gerelateerde grootschalige brondatasets via transfer learning.

Methodologie

De auteurs stellen transfer learning-frameworks voor en evalueren deze voor twee verschillende categorieën overlevingsmodellen: parametrische (neurale netwerk-gebaseerde) en niet-parametrische (boom-gebaseerde) modellen.

1. Transfer voor neurale netwerkmodellen (DeepSurv, Cox-CC, DeepHit)

Voor neurale netwerk-gebaseerde overlevingsmodellen hanteert de studie standaard transfer learning-strategieën:

• Pretraining: Modellen worden eerst getraind op een grote brondataset (SEER).
• Retraining (RT): Alle netwerkparameters worden opnieuw geoptimaliseerd op de doeldataset.
• Fine-tuning (FT): Alleen een subset van de parameters (specifiek de outputlaag in dit extreme geval van de studie) wordt opnieuw geoptimaliseerd, waarbij de vooraf geleerde kenmerkrepresentaties behouden blijven.
• Granulariteitsanalyse: De studie onderzoekt de relatie tussen transfer-granulariteit en de beschikbaarheid van data. Het stelt dat hoewel retraining theoretisch optimaal is bij voldoende data, fine-tuning superieur is wanneer de doeldata schaars is om overfitting en 'catastrophic forgetting' van bronkennis te voorkomen.

2. Transfer voor Random Survival Forests (TSF)

Voor de niet-parametrische Random Survival Forest (RSF), stellen de auteurs een nieuwe methode voor genaamd Transfer Survival Forest (TSF), aangezien standaard transfer learning-technieken voor neurale netwerken niet direct toepasbaar zijn op boom-ensembles.

• Source Forest Training: Een RSF wordt getraind op de bron-taak om $N_S$ overlevingsbomen te genereren.
• Tree-Structure Frequency (TSF-Tk): De methode analyseert de frequentie van boomstructuren in het bron-ensemble. Het telt de frequentie van kenmerkcombinaties op de top $k$ niveaus van de bomen. Deze frequenties worden genormaliseerd naar een waarschijnlijkheidsverdeling $P(T_k)$.
• Target Forest Constructie:
  1. Sampling: Prototypische boomstructuren worden gesampled uit de bronverdeling $P(T_k)$.
  2. Transplanting: De top $k$ niveaus van de nieuwe doelbomen nemen de splitting features over van de gesamplede bronstructuren.
  3. Fine-tuning: De splitting values voor deze topniveaus worden opnieuw berekend met behulp van de doeldata. Lagere knopen (diepte $> k$) worden onafhankelijk gegroeid met behulp van standaard boom-bouwalgoritmen op de doeldata.
• Alternatief (DP): Een vergelijkende methode (DP) wordt ook getest, die alleen de diepte-gebaseerde waarschijnlijkheid van het voorkomen van kenmerken beschouwt, waarbij de co-occurrence relaties tussen kenmerken worden genegeerd.

Experimentele Opzet

• Brongegevens: 27.379 Stage I Colorectale Kanker (CRC) patiënten uit de SEER-database.
• Doelgegevens: 728 Stage I CRC patiënten uit het West China Hospital (WCH).
• Kenmerken: Acht klinische voorspellers inclusief geslacht, leeftijd, T-stadium, tumoromvang, graad, CEA-niveaus, perineurale invasie en lymfeklieronderzoek-status.
• Evaluatie: De studie simuleert kleine-steekproefscenario's door te trainen op subsets van de WCH-data variërend van 50 tot 500 monsters. Prestaties worden gemeten met de tijd-afhankelijke concordantie-index ($C_{td}$).
• Baselines:
  • Target: Modellen die alleen op doeldata zijn getraind (geen transfer).
  • Source: Pre-getrainde bronmodellen die direct worden toegepast op de doeldata (geen fine-tuning).

Belangrijkste Resultaten

De studie toont aan dat transfer learning de overlevingsvoorspelling aanzienlijk verbetert over verschillende steekproefgroottes heen.

Parametrische Modellen (DeepSurv, Cox-CC, DeepHit)

• Prestatieverbetering: Transfer learning verbeterde de $C_{td}$-scores consistent ten opzichte van training op enkel de doeldata. Voor de volledige dataset (655 monsters) verbeterde Cox-CC van 0,7868 naar 0,8111, en DeepSurv van 0,7722 naar 0,8043.
• Gevoeligheid voor kleine steekproeven: De verbeteringen waren nog prominenter bij kleinere datasets (bijv. $n=50$).
• Strategiekeuze:
  • Wanneer de doeldata overvloedig is ($\ge$ 500), presteert Retraining over het algemeen beter dan Fine-tuning.
  • Wanneer de doeldata beperkt is ($\le$ 200), levert Fine-tuning (specifiek het aanpassen van alleen de outputlaag) superieure resultaten op, waardoor de instabiliteit van retraining met onvoldoende data wordt vermeden.

Niet-parametrische Modellen (Transfer Survival Forest - TSF)

• Superieure Prestaties: TSF behaalde de hoogste prestaties van alle geteste modellen. Met de volledige dataset bereikte TSF een $C_{td}$ van 0,8297, waarmee het beste neurale netwerkmodel (DeepHit met 0,8135) versloeg.
• Positieve vs. Negatieve Transfer:
  • Positieve Transfer: Treedt op wanneer de doeldata voldoende is ($\ge$ 40 monsters), waarbij TSF zowel de source-only als de target-only baselines overtreft.
  • Negatieve Transfer: Wanneer de doeldata extreem schaars is ($< 40$ monsters), kan TSF onderpresteren ten opzichte van het niet-transfer doelmodel. Dit wordt toegeschreven aan de hoge variantie bij het herberekenen van splitting-waarden met beperkte data.
• Optimale Configuratie: Om negatieve transfer in kleine steekproeven te mitigeren, raden de auteurs aan om alleen de top 1 of 2 niveaus van de boomstructuren over te dragen (TSF-T1 of TSF-T2) en te voorkomen dat bomen te diep worden om overfitting te voorkomen.

Betekenis en Claims

Het artikel claimt dat transfer learning een levensvatbare en effectieve strategie is voor het verbeteren van kankerprognosemodellen in scenario's met kleine steekproeven, een veelvoorkomende flessenhals in klinisch onderzoek.

1. Het overbruggen van de datakloof: De studie valideert dat grootschalige publieke datasets (SEER) kunnen dienen als robuuste pre-training bronnen voor lokale, kleinschalige klinische cohorten (WCH), wat de voorspellende nauwkeurigheid aanzienlijk verbetert waar traditionele methoden tekortschieten.
2. Methodologische Innovatie: De introductie van TSF vult een kritiek gat in de literatuur. Terwijl transfer learning voor parametrische neurale netwerken goed gevestigd is, biedt deze studie het eerste toegewijde framework voor het overdragen van kennis naar boom-gebaseerde overlevingsmodellen, waarbij gebruik wordt gemaakt van hun interpreteerbaarheid en robuustheid.
3. Praktische Richtlijnen: Het onderzoek biedt empirische richtlijnen voor beoefenaars:
   • Voor neurale netwerken moet de keuze tussen retraining en fine-tuning worden bepaald door de beschikbare omvang van de doelsteekproef.
   • Voor boom-gebaseerde modellen is het overdragen van enkel de bovenste structurele niveaus cruciaal om de voordelen van bronkennis te balanceren met de noodzaak om aan te passen aan de specifieke doeldata-distributies.
4. Klinische Toepasbaarheid: De bevindingen suggereren dat deze technieken niet beperkt zijn tot colorectale kanker, maar over het algemeen toepasbaar zijn op andere tijd-tot-gebeurtenis medische uitkomsten, inclusief die afgeleid van elektronische patiëntendossiers en multi-modale data (bijv. beeldvorming, genomics), mits de bron- en doeltaken relevante onderliggende kenmerken delen.

De auteurs concluderen dat hoewel transfer learning substantiële verbeteringen biedt, zorgvuldige configuratie vereist is om negatieve transfer te voorkomen, vooral wanneer de doeldata extreem beperkt is. De broncode voor de voorgestelde TSF-methode is beschikbaar gesteld om verdere research en toepassing te faciliteren.