How does machine learning bias in prediction of behavioral phenotypes relate to individual characteristics?
Diese Studie analysiert Vorhersagefehler in hirnbasierten Modellen über mehrere Kohorten und Verhaltensmaße hinweg und zeigt auf, dass individuelle Merkmale wie Kopfbewegung, Kopfmorphologie sowie Geschlecht signifikant zu Machine-Learning-Bias beitragen, insbesondere bei sozioaffektiven und psychischen Phänotypen in Entwicklungspopulationen.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung eines Preprints, das nicht peer-reviewed wurde. Dies ist kein medizinischer Rat. Treffen Sie keine Gesundheitsentscheidungen auf Grundlage dieses Inhalts. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen, die Zukunft eines Menschen basierend auf einer Karte seines Gehirns vorherzusagen. Jahrzehntelang haben Wissenschaftler gehofft, dass sie durch das Scannen der neuronalen Verschaltungen des Gehirns vorhersagen könnten, wie ein Mensch denken, fühlen oder sich verhalten wird. Diese Idee ist das Fundament eines Feldes namens Präzisionsmedizin, in dem Ärzte eines Tages Gehirnscans nutzen könnten, um psychische Gesundheitsrisiken zu erkennen, noch bevor Symptome auftreten. Um dies zu erreichen, verwenden Forscher leistungsstarke Computerprogramme, die oft als maschinelles Lernen bezeichnet werden, um Muster in Gehirndaten zu finden, die bestimmten Verhaltensweisen entsprechen. Diese Computerprogramme sind jedoch nicht perfekt. Sie machen manchmal Fehler, und diese Fehler sind nicht zufällig. Genau wie eine Wettervorhersage für eine bestimmte Region aufgrund der lokalen Geografie weniger genau sein kann, haben auch diese gehirnlesenden Programme oft größere Schwierigkeiten mit bestimmten Gruppen von Menschen als mit anderen. So haben beispielsweise vergangene Studien gezeigt, dass diese Modelle bei Menschen aus Minderheiten weniger genau sind als bei Weißamerikanern. Die große Frage war bisher: Warum passiert das? Liegt es daran, dass das Gehen selbst anders ist, oder liegt es daran, wie die Daten erhoben wurden?
Ein Forscherteam machte sich daran, dieses Rätsel zu lösen, indem es Tausende von Gehirnscans und Verhaltensdatensätzen von jungen Menschen untersuchte. Sie wollten wissen, ob die von diesen Computermodellen gemachten Fehler mit spezifischen Merkmalen der gescannten Personen verknüpft waren. Das Team sammelte Daten aus drei großen Gruppen: fast 4.300 Kindern im Alter von neun bis elf Jahren, etwa 430 Kindern und Jugendlichen im Alter von fünf bis einundzwanzig Jahren und rund 780 jungen Erwachsenen im Alter von zweiundzwanzig bis siebenunddreißig Jahren. Insgesamt untersuchten sie über 100 verschiedene Verhaltensweisen, die von der Fähigkeit, Emotionen zu erkennen, bis hin zum Umgang mit Stress oder dem Lösen von Problemen reichten. Sie trainierten ihre Computermodelle, um diese Verhaltensweisen ausschließlich anhand der Gehirnscan-Daten vorherzusagen. Sobald die Modelle ihre Vorhersagen getroffen hatten, berechneten die Forscher die Differenz zwischen dem, was das Modell erraten hatte, und dem, was die Person tatsächlich in einem Test erreichte. Diese Differenz ist der Vorhersagefehler.
Die Forscher stellten daraufhin eine einfache, aber entscheidende Frage: Treten diese Fehler häufiger bei Menschen mit bestimmten Merkmalen auf? Sie untersuchten acht verschiedene Faktoren, darunter Alter, Geschlecht, ethnische Zugehörigkeit, Bildung, Familieneinkommen, Kopfgröße und wie stark sich die Person während des Scans im Scanner bewegt hat. Sie fanden heraus, dass die Fehler tatsächlich mit diesen Merkmalen verknüpft waren, aber nicht auf eine einfache Weise. Das beständigste Muster war, dass die Modelle am meisten Schwierigkeiten hatten, soziale und emotionale Verhaltensweisen vorherzusagen, wie etwa das Erkennen von Gefühlen oder den Umgang mit Angstzuständen, insbesondere in den jüngeren Gruppen. Bei diesen schwer vorherzusagenden Merkmalen waren die Fehler des Computers stark an drei spezifische Dinge gebunden: wie stark die Person ihren Kopf während des Scans bewegt hat, die Größe ihres Gehirns und ihr Geschlecht.
Die Studie ergab, dass Menschen, die ihren Kopf während des Scans mehr bewegten, dazu neigten, größere Vorhersagefehler aufzuweisen. Das ist nachvollziehbar, da Bewegungen die Gehirnbilder verschwimmen lassen können, was es für den Computer schwieriger macht, die feinen Details der Gehirnverbindungen zu erkennen. Ähnlich wichtig war die Größe eines Menschen's Gehirn. Die Modelle waren bei Personen mit kleinerem intrakraniellem Volumen – also dem gesamten Raum innerhalb des Schädels, der das Gehirn beherbergt – weniger genau. Dies galt insbesondere für Kinder und für Maße bezüglich Verhaltensproblemen. Schließlich fanden die Forscher heraus, dass männliche Teilnehmer im Allgemeinen größere Vorhersagefehler aufwiesen als weibliche Teilnehmer, insbesondere wenn die Modelle versuchten, kognitive Fähigkeiten oder Verhaltensauffälligkeiten vorherzusagen.
Die vielleicht wichtigste Entdeckung war, dass diese Faktoren tief miteinander verbunden sind. Die Studie zeigte, dass ethnische Zugehörigkeit und Herkunft nicht nur mit sozialen Faktoren wie Einkommen oder Bildung verknüpft sind, sondern auch mit diesen scanbezogenen Problemen. Beispielsweise zeigten die Daten, dass bestimmte ethnische Gruppen dazu neigten, mehr Kopfbewegungen während der Scans oder unterschiedliche durchschnittliche Gehirngrößen aufzuweisen. Dies deutet darauf an, dass wenn ein Computermodell bei einer bestimmten ethnischen Gruppe schlechter abschneidet, dies nicht unbedingt daran liegen muss, dass das Gehirn selbst auf eine Weise fundamental anders ist, die das Modell nicht verstehen kann. Stattdessen könnte der Fehler aus diesen physischen und technischen Unterschieden in den Daten resultieren, wie etwa Bewegung oder Gehirngröße, die in dieser Gruppe häufiger vorkommen.
Die Forscher kamen zu dem Schluss, dass die Verzerrung (Bias) in diesen gehirn-vorhersagenden Modellen kein einzelnes Problem ist, sondern eine Mischung aus vielen kleinen Faktoren, die zusammenwirken. Sie fanden heraus, dass es nicht ausreichte, die offensichtlichen sozialen Faktoren während des Computertrainings einfach aus den Daten zu entfernen, um das Problem zu lösen. Die Fehler blieben bestehen, was darauf hindeutet, dass die standardmäßigen Methoden, mit denen Wissenschaftler Gehirnscan-Daten bereinigen und vorbereiten, noch nicht gut genug sind, um diese subtilen Unterschiede zu bewältigen. Dies ist eine kritische Erkenntnis für jeden, der hofft, psychische Erkrankungen durch Gehirnscans frühzeitig zu diagnostizieren. Wenn ein Werkzeug für bestimmte Gruppen weniger genau ist, könnte dies zu Fehldiagnosen oder falschen Risikoeinschätzungen für diejenigen führen, die Hilfe am dringendsten benötigen. Die Studie behauptet nicht, das Problem gelöst zu haben, aber sie hat klar aufgezeigt, wo die Schwierigkeiten liegen, und verdeutlicht, dass Wissenschaftler bei der Entwicklung fairerer Werkzeuge genau auf den Einfluss von Kopfbewegungen, Gehirngröße und Geschlecht achten müssen, insbesondere wenn sie mit Kindern und jungen Menschen arbeiten.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.