The fundamental problem of risk prediction for individuals: health AI, uncertainty, and personalized medicine
Cette étude démontre que les prédictions de risques individuels en milieu clinique sont souvent bien plus incertaines que supposé car les incertitudes liées au modèle et à l'applicabilité dominent fréquemment l'incertitude d'estimation, même pour des algorithmes performants, nécessitant que les outils prédictifs servent d'aides de soutien à l'interaction clinicien-patient plutôt que de décideurs définitifs.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous essayiez de prédire la météo pour une personne spécifique debout dans un champ. Vous disposez d'un modèle de supercalculateur qui est incroyablement doué pour prédire la météo pour l'ensemble du pays. Si vous lui demandez : « Pleuvra-t-il dans cette région ? », il donnera une réponse très précise basée sur des millions de points de données.
Cependant, l'article que vous avez fourni soutient que si vous posez la même question au supercalculateur : « Est-ce qu'il va pleuvoir sur la tête de John en ce moment même ? », la réponse est en réalité beaucoup plus incertaine que nous ne le pensons. Même si le modèle est un génie pour la vue d'ensemble, il pourrait deviner de manière totalement aléatoire pour l'individu.
Voici la décomposition des conclusions de l'article en utilisant des analogies simples :
Les trois types de « supposition » (incertitude)
Les auteurs expliquent que lorsqu'un médecin utilise une IA pour prédire si une patiente est atteinte d'un cancer de l'ovaire, il existe trois raisons différentes pour lesquelles la prédiction peut être incertaine. Ils appellent cela l'incertitude d'« Estimation », de « Modèle » et d'« Applicabilité ».
1. L'incertitude d'Estimation : Le problème du « petit échantillon »
- L'analogie : Imaginez que vous essayiez de deviner la taille moyenne de tous les adultes d'une ville. Si vous n'en mesurez que 10, votre estimation pourrait être très loin de la réalité. Si vous en mesurez 10 000, votre estimation devient très précise.
- La thèse de l'article : Il s'agit de l'incertitude qui provient d'une petite quantité de données. L'article confirme que si vous donnez plus de données à l'IA (un ensemble d'entraînement plus large), ce type spécifique d'erreur diminue. Mais c'est le seul type d'erreur qui s'améliore avec davantage de données.
2. L'incertitude de Modèle : Le problème de la « recette »
- L'analogie : Imaginez que vous vouliez faire un gâteau. Vous avez les mêmes ingrédients (les données de la patiente), mais vous avez 50 chefs différents. Le chef A utilise un micro-ondes, le chef B un four, le chef C ajoute du sucre supplémentaire et le chef D oublie les œufs. Même s'ils utilisent tous les mêmes ingrédients, ils produiront tous des gâteaux légèrement différents.
- La thèse de l'article : En IA, l'« incertitude de Modèle » survient parce que les chercheurs doivent faire des choix : Quel algorithme devrions-nous utiliser ? Quelles variables sont importantes ? Comment gérons-nous les données manquantes ? L'article a constaté que le changement de ces choix de « recette » crée une énorme quantité d'incertitude. Même si vous donnez 10 000 ingrédients aux chefs, ils cuisineront toujours des gâteaux différents parce qu'ils utilisent des méthodes différentes.
3. L'incertitude d'Applicabilité : Le problème du « contexte »
- L'analogie : Imaginez une recette qui fonctionne parfaitement dans une cuisine en Belgique. Maintenant, essayez d'utiliser cette même recette dans une cuisine en Suède, mais la farine est différente, le four chauffe différemment et l'eau est plus dure. Le gâteau pourrait s'avérer complètement différent, même si la recette est la même.
- La thèse de l'article : Cela se produit lorsqu'un modèle entraîné sur des patientes dans un hôpital est utilisé sur des patientes d'un autre hôpital (ou d'un autre pays). Les différences dans la façon dont les médecins mesurent les choses ou dans le profil des patientes créent de l'incertitude. L'article a révélé que le simple fait d'avoir plus de données ne règle pas ce problème ; l'« emplacement » et le « style de mesure » comptent toujours énormément.
La grande découverte : Plus de données n'est pas la solution miracle
La découverte la plus surprenante de l'article concerne l'importance de ces incertitudes.
- L'ancienne façon de penser : Nous pensons généralement : « Si nous obtenons simplement plus de données, l'IA deviendra parfaite pour chaque personne. »
- Le rappel à la réalité de l'article : Les auteurs ont testé cela en utilisant des données sur le cancer de l'ovaire. Ils ont construit près de 60 000 versions différentes d'un modèle de prédiction (en changeant les recettes, les sources de données et les tailles d'échantillon).
- Lorsqu'ils ont examiné les problèmes de « Recette » et de « Contexte » (incertitude de Modèle et d'Applicabilité), ajouter plus de données n'a presque pas aidé.
- Même avec un ensemble de données massif de 10 000 patientes, le risque prédit pour un patient spécifique pouvait varier radicalement. Pour une patiente spécifique, une version du modèle pourrait dire qu'elle a 5 % de chances d'avoir un cancer, tandis qu'une autre version dirait 95 %. Les deux versions pourraient être « correctes » pour la population, mais elles donnent des conseils opposés pour l'individu.
Ce que cela signifie pour vous et votre médecin
L'article conclut par un message très important sur la façon dont nous devons utiliser ces outils d'IA :
- L'IA est un guide, pas un dictateur : Comme la prédiction pour une seule personne est si incertaine, l'IA ne devrait jamais prendre la décision finale seule. C'est comme une prévision météorologique qui dit « Il y a 50 % de chances qu'il pleuve ». Elle ne vous dit pas de rester à l'intérieur ; elle vous donne simplement une information.
- La connexion humaine est la clé : Puisque le chiffre de l'IA pour un individu est fragile, la véritable « médecine personnalisée » provient de la conversation entre le médecin et le patient. Le médecin doit expliquer que l'IA n'est qu'une opinion parmi d'autres opinions possibles.
- Ne faites pas confiance aveuglément au chiffre : Ce n'est pas parce qu'un modèle est « précis » pour un groupe de personnes (comme dire qu'il pleut 30 % du temps dans une ville) que ce chiffre est fiable pour vous spécifiquement.
En bref : L'article nous avertit que, bien que l'IA soit excellente pour repérer des modèles dans de grands groupes, elle est en réalité assez « floue » lorsqu'il s'agit de cibler précisément le risque pour une seule personne. Nous devons cesser d'attendre de l'IA qu'elle nous donne un chiffre unique et parfait pour chaque patient et commencer à l'utiliser comme un outil pour aider les médecins et les patients à prendre des décisions ensemble.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.