Pretraining on Adult ICU Data Accelerates Data Efficient AI Model Development in Critically Ill Children

Les hôpitaux sont de vastes réceptacles d'expériences humaines, enregistrant chaque battement de cœur, chaque respiration et chaque analyse de sang sous forme de flux numériques. Depuis des décennies, les scientifiques tentent d'apprendre aux ordinateurs à lire ces flux, dans l'espoir de prédire quand un patient pourrait s'aggraver ou quand il est prêt à rentrer chez lui. Ce domaine, connu sous le nom d'apprentissage automatique clinique, fonctionne de manière optimale lorsqu'il dispose de montagnes de données pour apprendre. Le problème est que ces montagnes ne sont pas réparties uniformément. Les unités de soins intensifs pour adultes sont de grande taille, bien financées et génèrent une quantité massive d'informations auxquelles les chercheurs peuvent accéder et étudier. Les unités de soins intensifs pédiatriques, où les enfants sont traités, sont beaucoup plus petites, souvent dispersées dans des centres spécialisés, et leurs données sont rarement partagées ou facilement accessibles. Cela crée une situation difficile : comment construire un programme informatique intelligent pour aider les enfants malades quand on n'a pas assez d'exemples d'enfants malades pour l'instruire ?

Une solution potentielle est une technique appelée apprentissage par transfert (transfer learning). Imaginez un étudiant qui a passé des années à étudier l'histoire d'un pays et qui tente ensuite d'apprendre l'histoire d'un pays voisin. Il ne peut pas simplement copier ses anciennes notes, car les dates et les événements sont différents, mais il peut utiliser sa compréhension de la façon dont les empires s'élèvent et tombent, ou de la manière dont la géographie façonne la politique, pour apprendre la nouvelle histoire bien plus rapidement que quelqu'un partant de zéro. Dans le monde de l'intelligence artificielle, cela signifie prendre un modèle qui a déjà appris à partir d'un immense ensemble de données de patients adultes et utiliser ce savoir comme point de départ pour apprendre à connaître les enfants. La grande question à laquelle les chercheurs ont été confrontés était de savoir si ce raccourci fonctionne réellement. L'ordinateur comprend-il vraiment les schémas sous-jacents de la maladie assez bien pour aider les enfants, ou les différences entre adultes et enfants sont-elles trop grandes pour que le modèle puisse les combler ?

Une équipe de chercheurs de l'Imperial College London et de plusieurs hôpitaux du Royaume-Uni s'est donné pour mission de répondre à cela en testant les limites de cette approche. Ils ont commencé avec un ensemble de données massif de plus de 71 000 séjours en soins intensifs pour adultes provenant des États-Unis, une ressource connue sous le nom de MIMIC-IV. Ils ont entraîné des modèles informatiques sur ces données adultes pour accomplir six tâches spécifiques : prédire si un patient mourrait, combien de temps il resterait à l'hôpital, s'il développerait une insuffisance rénale, s'il développerait un sepsis, la qualité de son fonctionnement rénal, et s'il était prêt à être débranché d'un respirateur. Une fois ces modèles entraînés, les chercheurs les ont emmenés dans trois unités de soins intensifs pédiatriques différentes au Royaume-Uni, qui détenaient ensemble des données sur environ 17 700 enfants.

Le premier test consistait à voir ce qui se passerait s'ils utilisaient simplement les modèles entraînés sur les adultes sur les enfants sans aucun ajustement supplémentaire. C'est ce qu'on appelle un déploiement "zero-shot", où l'ordinateur tente d'appliquer directement ses connaissances adultes à la nouvelle situation. Les résultats ont été clairs et décevants. Les modèles n'ont pas performé de manière satisfaisante. Pour prédire la mortalité, les modèles adultes étaient bien moins précis que les modèles entraînés spécifiquement sur les données des enfants. Ils commettaient également des erreurs significatives dans la prédiction du sepsis et des problèmes rénaux. En fait, les modèles étaient si certains de leurs mauvaises réponses qu'ils prédisaient souvent un risque de décès très élevé pour des enfants qui allaient en réalité bien. Cela a montré que l'on ne peut pas simplement prendre un modèle conçu pour les adultes et s'attendre à ce qu'il fonctionne pour les enfants ; les différences biologiques sont trop importantes pour être ignorées.

Cependant, l'histoire ne s'arrête pas là. Les chercheurs ont ensuite posé une question plus nuancée : si vous partez du modèle adulte mais que vous le laissez apprendre à partir d'une petite quantité de données pédiatriques locales, devient-il meilleur ? Ils ont testé cela en prenant le modèle entraîné sur les adultes et en le "fine-tunant" (ajustement fin) en utilisant seulement 100 dossiers de patients pédiatriques. Ils ont comparé cela à l'entraînement d'un tout nouveau modèle à partir de zéro en utilisant ces mêmes 100 dossiers. La différence était frappante. Le modèle qui partait de la connaissance adulte et qui s'adaptait ensuite aux enfants surpassait de manière significative le modèle qui partait de rien. Dans chaque tâche et dans chaque site hospitalier, le modèle qui bénéficiait de l'avance de l'adulte était plus précis. Par exemple, pour prédire la mort, l'avantage était substantiel, le modèle adapté montrant une capacité bien plus nette à distinguer les patients qui survivraient de ceux qui ne survivraient pas.

Les chercheurs ont également observé ce qui se passait à mesure qu'ils ajoutaient des données. À mesure qu'ils augmentaient le nombre de dossiers pédiatriques, passant de 100 à l'ensemble complet de milliers de dossiers, l'écart entre les deux approches se réduisait. Cela est logique : si vous avez suffisamment de données, vous pouvez enseigner à un nouveau modèle tout ce dont il a besoin sans aucune aide. Mais la découverte clé est que le pré-entraînement sur les adultes permettait au modèle d'atteindre un haut niveau de performance avec beaucoup moins d'exemples pédiatriques. Dans de nombreux cas, le modèle qui partait de la connaissance adulte et apprenait à partir de quelques centaines d'enfants était aussi performant qu'un modèle entraîné de zéro sur des milliers d'enfants. Cela suggère que pour les hôpitaux disposant de très petites quantités de données, l'utilisation de la connaissance adulte comme fondation est un moyen puissant de commencer.

L'étude a également examiné précisément ce que l'ordinateur devait changer pour que cela fonctionne. Ils ont découvert que le simple ajustement des chiffres utilisés par l'ordinateur pour mesurer les patients (comme le calcul de la pression artérielle moyenne) ne suffisait pas à résoudre le problème. L'ordinateur devait en fait réapprendre les relations entre les points de données. Lorsque les chercheurs ont "gelé" la partie de l'ordinateur qui reconnaît les schémas et n'ont entraîné que la couche finale de prise de décision, le modèle s'est considérablement amélioré, récupérant la majeure partie de la précision perdue. Cela indique que le modèle adulte avait appris des schémas utiles sur la façon dont le corps réagit au stress et à la maladie, mais qu'il devait être réentraîné pour appliquer ces schémas au contexte spécifique du corps d'un enfant.

En fin de compte, la recherche trace une voie claire pour le développement de l'intelligence artificielle en soins pédiatriques. Elle montre que si l'on ne peut pas simplement faire un "copier-coller" d'un modèle adulte pour sauver un enfant, on peut utiliser le modèle adulte comme un tremplin puissant. En partant de l'immense savoir des soins intensifs pour adultes et en l'adaptant soigneusement aux données pédiatriques locales, les hôpitaux peuvent construire des outils d'aide à la décision efficaces beaucoup plus rapidement et avec beaucoup moins de données qu'autrement. L'étude confirme que cette approche est plus précieuse là où les données sont les plus rares, offrant un moyen d'apporter l'IA médicale avancée à de plus petits centres spécialisés qui pourraient autrement être laissés pour compte. C'est un rappel que, dans la quête pour aider les patients les plus graves, nous pouvons parfois apprendre de l'expérience des autres, à condition d'être prêts à faire le travail nécessaire pour comprendre les différences.