Scalable Random Survival Forests via Risk Set Sampling

Technische Zusammenfassung: Skalierbare Random Survival Forests mittels Risk-Set-Sampling

Problemstellung
Random Survival Forests (RSF) sind eine leistungsstarke Erweiterung von Random Forests für zensierte Zeit-bis-Ereignis-Daten. Ihre Anwendung auf große oder hochdimensionale Datensätze ist jedoch oft rechentechnisch prohibitiv. Der primäre Engpass ergibt sich aus der wiederholten Evaluierung von „Risikokontexten“ (Risk Sets), die zur Berechnung der Log-Rank-Splitting-Regel während der Baumkonstruktion erforderlich sind. Für jeden Ereignist Zeitpunkt muss der Algorithmus alle noch unter Risiko stehenden Individuen evaluieren, was die Rechenkosten mit zunehmender Stichprobengröße und der Anzahl der distinkten Ereigniszeitpunkte rapide ansteigen lässt. Während Risk-Set-Sampling erfolgreich in Cox-basierten neuronalen Netzen (z. B. Cox-Time) integriert wurde und in der klassischen Epidemiologie (verschachteltes Fall-Kontroll-Design) ein Standarddesign darstellt, wurde es bisher noch nicht für RSF adaptiert.

Methodik
Die Autoren schlagen eine Modifikation des RSF-Algorithmus vor, die das Risk-Set-Sampling direkt in den Prozess der Baumkonstruktion integriert.

• Kernmechanismus: Anstatt den vollständigen Risikokontext ($R_k$) zu jedem Ereignist Zeitpunkt $t_k$ zur Berechnung der Log-Rank-Splitting-Statistik zu verwenden, sampelt die Methode einen festen Bruchteil der Individuen aus dem Risikokontext ($\tilde{R}_k$).
• Statistische Anpassung: Die Log-Rank-Statistik stützt sich auf die erwartete Anzahl von Ereignissen und deren Varianz innerhalb eines Knotens. Die Autoren modifizieren diese Berechnungen, indem sie den gesampelten Risikokontext $\tilde{R}_k$ anstelle des vollständigen Sets $\tilde{R}$ verwenden. Konkret werden die erwartete Anzahl der Ereignisse $E(D_{\alpha,k})$ und die Varianz $Var(D_{\alpha,k})$ für einen Tochterknoten $\alpha$ neu berechnet, indem das Verhältnis der gesampelten unter Risiko stehenden Individuen ($\tilde{R}_{\alpha,k}$) zum gesamten gesampelten Risikokontext ($\tilde{R}_k$) verwendet wird.
• Implementierung: Der Ansatz wurde im R-Paket ranger implementiert, einer Hochleistungs-Implementierung für Random Forests. Die Autoren testeten Sampling-Fraktionen von 10 % bis 100 % (wobei 100 % den Standard des vollständigen Risikokontexts repräsentiert).
• Experimentelles Design:
  • Simulationen: Heterogene Überlebensdaten wurden unter Verwendung von Exponential- und Weibull-Mischverteilungen mit Stichprobengrößen von $n=500, 1000$ und $2000$ sowie $p=15$ Kovariaten generiert.
  • Reale Daten: Es wurden zwei Datensätze verwendet: METABRIC (1904 Brustkrebs-Beobachtungen) und der German Breast Cancer Study Group (GBSG) Datensatz (686 Beobachtungen).
  • Metriken: Die Performance wurde mittels des Concordance Index (C-Index) über 5-fache Kreuzvalidierung und Out-of-Bag (OOB)-Schätzungen sowie der Rechenlaufzeit evaluiert.

Wichtigste Ergebnisse

• Prädiktive Leistung: Über alle simulierten und realen Datensätze hinweg erreichten RSF-Modelle, die auf gesampelten Risikokontexten trainiert wurden (speziell unter Verwendung von 25 % bis 40 % des Risikokontexts), C-Index-Werte, die praktisch ununterscheidbar von Modellen waren, die auf vollständigen Risikokontexten trainiert wurden.
• Recheneffizienz: Die Reduzierung des Risikokontexts auf den Bereich von 25–40 % führte zu einer Reduktion der Trainingszeit um mehr als 50 %. Die Laufzeit stieg monoton mit dem Anteil des Risikokontexts an, wobei die signifikantesten Gewinne bei größeren Datensätzen beobachtet wurden.
• Stabilität und Bias: Die Studie ergab, dass das Risk-Set-Sampling primär die Varianz der Schätzungen beeinflusst, anstatt systematischen Bias einzuführen. Die Konfidenzintervalle für den C-Index zeigten erhebliche Überlappungen über alle Sampling-Fraktionen hinweg, was darauf hindeutet, dass kein statistisch signifikanter Unterschied in der prädiktiven Diskriminierung besteht.
• Regularisierungseffekt: In mehreren Szenarien zeigten Modelle, die mit moderaten Sampling-Fraktionen (25–40 %) trainiert wurden, geringfügig höhere C-Index-Werte als Full-Risk-Modelle, was auf einen potenziell vorteilhaften Regularisierungseffekt hindeutet, der Rauschen reduziert.

Bedeutung und Behauptungen
Das Paper behauptet, dass Risk-Set-Sampling eine einfache, aber effektive Modifikation ist, welche die Skalierbarkeit von Random Survival Forests erheblich verbessert, ohne die prädiktive Leistung oder Modellstabilität zu beeinträchtigen. Die Autoren argumentieren:

1. Brückenschlag zwischen Disziplinen: Der Ansatz bietet eine methodische Brücke zwischen klassischem epidemiologischem Sampling-Design (Nested Case-Control) und modernem maschinellem Lernen für die Überlebensanalyse.
2. Praktischer Nutzen: Die Berechnung des vollständigen Risikokontexts bietet oft kaum praktischen Vorteil für das Erreichen einer guten prädiktiven Leistung in der RSF-Modellierung, verursacht jedoch signifikant höhere Rechenkosten.
3. Zugänglichkeit: Durch die Implementierung dieser Methodik im weit verbreiteten ranger-Paket erleichtern die Autoren die praktische Anwendung skalierbarer RSF, insbesondere für groß angelegte und hochdimensionale Überlebensdaten.

Die Autoren kommen zu dem Schluss, dass die Methode zwar robust ist, zukünftige Arbeiten jedoch deren Anwendung auf komplexere Frameworks (Competing Risks, Multi-State-Modelle) untersuchen und die Interaktionen mit anderen RSF-Hyperparametern erforschen könnten.