How does machine learning bias in prediction of behavioral phenotypes relate to individual characteristics?
Cette étude analyse les erreurs de prédiction dans les modèles basés sur le cerveau à travers de multiples cohortes et mesures comportementales, révélant que les caractéristiques individuelles telles que le mouvement de la tête, la morphologie de la tête et le sexe/genre contribuent de manière significative au biais d'apprentissage automatique, particulièrement pour les phénotypes socio-affectifs et de santé mentale dans les populations en développement.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA d'un preprint qui n'a pas été évalué par des pairs. Ce n'est pas un avis médical. Ne prenez pas de décisions de santé basées sur ce contenu. Lire la clause de non-responsabilité complète
Imaginez essayer de prédire l'avenir d'une personne à partir d'une carte de son cerveau. Depuis des décennies, les scientifiques espèrent qu'en scannant le câblage du cerveau, ils pourraient prévoir comment une personne va penser, ressentir ou se comporter. Cette idée est le fondement d'un domaine appelé la médecine de précision, où les médecins pourraient un jour utiliser des scanners cérébraux pour détecter des risques de santé mentale avant même l'apparition des symptômes. Pour ce faire, les chercheurs utilisent de puissants programmes informatiques, souvent appelés apprentissage automatique (machine learning), pour trouver des schémas dans les données cérébrales qui correspondent à des comportements spécifiques. Cependant, ces programmes informatiques ne sont pas parfaits. Ils font parfois des erreurs, et ces erreurs ne sont pas aléatoires. Tout comme une prévision météorologique peut être moins précise pour une région spécifique en raison de la géographie locale, ces programmes de lecture cérébrale éprouvent souvent plus de difficultés avec certains groupes de personnes que d'autres. Par exemple, des études antérieures ont montré que ces modèles ont tendance à être moins précis pour les personnes issues de minorités raciales par rapport aux Américains blancs. La grande question a été : pourquoi cela arrive-t-il ? Est-ce parce que le cerveau lui-même est différent, ou est-ce lié à la manière dont les données ont été collectées ?
Une équipe de chercheurs s'est donné pour mission de résoudre cette énigme en examinant des milliers de scanners cérébraux et de dossiers comportementaux de jeunes gens. Ils voulaient savoir si les erreurs commises par ces modèles informatiques étaient liées à des traits spécifiques des individus scannés. L'équipe a rassemblé des données provenant de trois grands groupes : près de 4 300 enfants âgés de neuf à onze ans, environ 430 enfants et adolescents âgés de cinq à vingt et un ans, et environ 780 jeunes adultes âgés de vingt-deux à trente-sept ans. Au total, ils ont examiné plus de 100 comportements différents, allant de la capacité d'une personne à reconnaître les émotions à la façon dont elle gère le stress ou résout des problèmes. Ils ont entraîné leurs modèles informatiques pour prédire ces comportements en utilisant uniquement les données de scanner cérébral. Une fois que les modèles ont fait leurs prédictions, les chercheurs ont calculé la différence entre ce que le modèle avait deviné et le score réel obtenu par la personne lors du test. Cette différence est l'erreur de prédiction.
Les chercheurs ont ensuite posé une question simple mais cruciale : ces erreurs surviennent-elles plus souvent chez les personnes présentant certaines caractéristiques ? Ils ont examiné huit facteurs différents, notamment l'âge, le sexe, la race, l'éducation, le revenu familial, la taille de la tête et l'amplitude des mouvements de la tête de la personne pendant l'examen. Ils ont découvert que les erreurs étaient effectivement liées à ces traits, mais pas de manière simple. Le schéma le plus constant était que les modèles éprouvaient le plus de difficultés à prédire les comportements sociaux et émotionnels, tels que la reconnaissance des sentiments ou la gestion de l'anxiété, particulièrement chez les groupes les plus jeunes. Pour ces traits difficiles à prédire, les erreurs de l'ordinateur étaient fortement liées à trois éléments spécifiques : l'amplitude des mouvements de la tête pendant le scan, la taille du cerveau et le sexe.
L'étude a révélé que les personnes qui bougeaient davantage la tête pendant le scan avaient tendance à présenter des erreurs de prédiction plus importantes. Cela est logique, car le mouvement peut flouter les images cérébrales, rendant plus difficile pour l'ordinateur de percevoir les détails fins des connexions cérébrales. De même, la taille du cerveau d'une personne importait. Les modèles étaient moins précis pour les individus ayant des volumes intracrâniens plus petits, c'est-à-dire l'espace total à l'intérieur du crâne qui contient le cerveau. Cela était particulièrement vrai pour les enfants et pour les mesures de problèmes comportementaux. Enfin, les chercheurs ont constaté que les participants masculins présentaient généralement des erreurs de prédiction plus importantes que les participantes féminines, particulièrement lorsque les modèles tentaient de deviner les capacités cognitives ou les problèmes de comportement.
La découverte la plus importante fut peut-être que ces facteurs sont profondément connectés entre eux. L'étude a montré que la race et l'appartenance ethnique ne sont pas seulement liées à des facteurs sociaux comme le revenu ou l'éducation, mais sont aussi liées à ces problèmes liés au scan. Par exemple, les données ont montré que certains groupes raciaux avaient tendance à présenter plus de mouvements de tête pendant les scans ou des tailles de cerveau moyennes différentes. Cela suggère que lorsqu'un modèle informatique est moins performant pour un groupe racial spécifique, ce n'est peut-être pas parce que le cerveau est fondamentalement différent d'une manière que le modèle ne peut comprendre. Au lieu de cela, l'erreur pourrait provenir de ces différences physiques et techniques dans les données, telles que le mouvement ou la taille du cerveau, qui sont plus fréquentes dans ce groupe.
Les chercheurs ont conclu que le biais de ces modèles de prédiction cérébrale n'est pas un problème unique, mais un mélange de nombreux petits facteurs travaillant ensemble. Ils ont constaté que le simple fait de supprimer les facteurs sociaux évidents des données lors de l'entraînement de l'ordinateur ne suffisait pas à résoudre le problème. Les erreurs persistaient, suggérant que les méthodes standards utilisées par les scientifiques pour nettoyer et préparer les données de scanner cérébral ne sont pas encore assez performantes pour gérer ces différences subtiles. C'est une conclusion critique pour quiconque espère utiliser les scanners cérébraux pour diagnostiquer précocement des troubles de la santé mentale. Si un outil est moins précis pour certains groupes de personnes, cela pourrait conduire à des diagnostics manqués ou à des évaluations de risques erronées pour ceux qui ont le plus besoin d'aide. L'étude ne prétend pas avoir résolu le problème, mais elle a clairement cartographié l'endroit où se situent les difficultés, montrant que pour construire des outils plus équitables, les scientifiques doivent porter une attention particulière à la manière dont les mouvements de la tête, la taille du cerveau et le sexe influencent les données, en particulier lorsqu'ils travaillent avec des enfants et des jeunes.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.