Scalable Random Survival Forests via Risk Set Sampling

Résumé technique : Forêts de survie aléatoires scalables via l'échantillonnage de l'ensemble à risque

Énoncé du problème
Les forêts de survie aléatoires (RSF - Random Survival Forests) sont une extension puissante de l'apprentissage automatique des forêts aléatoires, conçue pour les données de temps de survie censurées. Cependant, leur application à des ensembles de données volumineux ou de grande dimension est souvent prohibitive sur le plan computationnel. Le principal goulot d'étranglement provient de l'évaluation répétée des « ensembles à risque » nécessaires pour calculer la règle de division du log-rank lors de la construction de l'arbre. Pour chaque instant d'événement, l'algorithme doit évaluer tous les individus encore à risque, ce qui entraîne des coûts de calcul qui augmentent rapidement avec la taille de l'échantillon et le nombre de temps d'événements distincts. Bien que l'échantillonnage de l'ensemble à risque ait été intégré avec succès dans les réseaux de neurones basés sur le modèle de Cox (par exemple, Cox-Time) et constitue un standard dans l'épidémiologie classique (cas-témoins imbriqués), il n'a pas encore été adapté aux RSF.

Méthodologie
Les auteurs proposent une modification de l'algorithme RSF qui intègre directement l'échantillonnage de l'ensemble à risque dans le processus de construction de l'arbre.

• Mécanisme central : Au lieu d'utiliser l'ensemble complet du risque ($R_k$) à chaque instant d'événement $t_k$ pour calculer la statistique de division du log-rank, la méthode échantillonne une fraction fixe d'individus à partir de l'ensemble à risque ($\tilde{R}_k$).
• Ajustement statistique : La statistique du log-rank repose sur le nombre attendu d'événements et leur variance au sein d'un nœud. Les auteurs modifient ces calculs pour utiliser l'ensemble à risque échantillonné $\tilde{R}_k$ plutôt que l'ensemble complet. Plus précisément, le nombre attendu d'événements $E(D_{\alpha,k})$ et la variance $Var(D_{\alpha,k})$ pour un nœud fils $\alpha$ sont recalculés en utilisant le ratio des individus à risque échantillonnés ($\tilde{R}_{\alpha,k}$) par rapport à l'ensemble à risque total échantillonné ($\tilde{R}_k$).
• Implémentation : Cette approche a été implémentée dans le package R ranger, une implémentation haute performance des forêts aléatoires. Les auteurs ont testé des fractions d'échantillonnage allant de 10 % à 100 % (où 100 % représente l'ensemble à risque complet standard).
• Design expérimental :
  • Simulations : Des données de survie hétérogènes ont été générées à l'aide de mélanges de distributions exponentielles et de Weibull avec des tailles d'échantillon de $n=500, 1000$ et $2000$ et $p=15$ covariables.
  • Données réelles : Deux ensembles de données ont été utilisés : METABRIC (1904 observations de cancer du sein) et le groupe d'étude allemand sur le cancer du sein (GBSG) (686 observations).
  • Métriques : La performance a été évaluée par l'indice de concordance (C-index) via une validation croisée à 5 plis et des estimations hors échantillon (OOB), ainsi que par le temps d'exécution computationnel.

Résultats clés

• Performance prédictive : Sur tous les ensembles de données simulés et réels, les modèles RSF entraînés sur des ensembles à risque échantillonnés (spécifiquement en utilisant 25 % à 40 % de l'ensemble à risque) ont obtenu des valeurs de C-index virtuellement indiscernables des modèles entraînés sur des ensembles à risque complets.
• Efficacité computationnelle : Réduire l'ensemble à risque à la plage de 25–40 % a permis de réduire le temps d'entraînement de plus de 50 %. Le temps d'exécution augmentait de manière monotone avec la fraction de l'ensemble à risque, les gains les plus importants étant observés dans les ensembles de données plus larges.
• Stabilité et biais : L'étude a révélé que l'échantillonnage de l'ensemble à risque affecte principalement la variance des estimations plutôt que d'introduire un biais systématique. Les intervalles de confiance pour le C-index présentaient des chevauchements substantiels entre toutes les fractions d'échantillonnage, indiquant qu'il n'y avait aucune différence statistiquement significative en termes de discrimination prédictive.
• Effet de régularisation : Dans plusieurs scénarios, les modèles entraînés avec des fractions d'échantillonnage modérées (25–40 %) présentaient des valeurs de C-index légèrement supérieures aux modèles à risque complet, suggérant un potentiel effet de régularisation bénéfique qui réduit le bruit.

Signification et revendications
L'article affirme que l'échantillonnage de l'ensemble à risque est une modification simple mais efficace qui améliore considérablement la scalabilité des forêts de survie aléatoires sans compromettre la performance prédictive ou la stabilité du modèle. Les auteurs soutiennent que :

1. Pont disciplinaire : L'approche fournit un pont méthodologique entre les conceptions d'échantillonnage épidémiologiques classiques (cas-témoins imbriqués) et l'apprentissage automatique moderne pour l'analyse de survie.
2. Utilité pratique : Le calcul du risque complet offre souvent peu d'avantages pratiques pour obtenir une bonne performance prédictive dans les modèles RSF, tout en engendrant des coûts computationnels nettement plus élevés.
3. Accessibilité : En implémentant cette méthodologie dans le package largement utilisé ranger, les auteurs facilitent l'application de RSF scalables en pratique, particulièrement pour les données de survie à grande échelle et de grande dimension.

Les auteurs concluent que, bien que la méthode soit robuste, des travaux futurs pourraient explorer son application à des cadres plus complexes (risques concurrents, modèles multi-états) et étudier les interactions avec d'autres hyperparamètres des RSF.