Advancing Health Equity through Multi-Level Fairness in Health Informatics

In den modernen Krankenhäusern findet eine stille Revolution statt. Computer lernen, Krankenakten zu lesen, Muster in Symptomen zu erkennen und Behandlungen mit einer Geschwindigkeit und Präzision vorzuschlagen, die menschliche Ärzte nicht erreichen können. Diese Werkzeuge, die auf maschinellem Lernen basieren, versprechen, die Versorgung zu optimieren und Leben zu retten. Doch wie jedes Werkzeug, das aus der menschlichen Geschichte geschmiedet wurde, tragen sie die Fingerabdrücke der Vergangenheit in sich. Die Daten, mit denen diese Computer trainiert werden – Aufzeichnungen darüber, wer krank wurde, wer behandelt wurde und wer zurückgelassen wurde – spiegeln oft tief verwurzelte gesellschaftliche Ungleichheiten wider. Wenn ein Computer aus voreingenommenen Daten lernt, kann er unbeabsichtigt lernen, manche Patienten schlechter zu behandeln als andere, wodurch genau jene Disparitäten verstärkt werden, die er eigentlich lösen soll. Dies ist kein Fehler im Code, sondern ein Spiegelbild der Welt, die der Code zu verstehen vorgibt. Die zentrale Herausforderung für Wissenschaftler besteht heute nicht nur darin, diese Systeme präzise zu machen, sondern sicherzustellen, dass sie gerecht sind, damit die Vorteile der Technologie jeden Patienten erreichen, unabhängig von seinem Hintergrund oder seinem Wohnort.

Nick Souligne und Vignesh Subbian, Forscher an der University of Arizona, haben ihre Aufmerksamkeit auf dieses kritische Problem gerichtet. Sie unternahmen den Versuch zu untersuchen, wie das Feld der Gesundheitsinformatik derzeit mit dem Thema der Fairness umgeht. Insbesondere untersuchten sie eine Strategie, die als Multi-Level-Fairness bekannt ist. Anstatt zu versuchen, ein voreingenommenes Computermodell nur an einer einzigen Stelle zu korrigieren – etwa durch die Bereinigung der Daten, bevor der Computer lernt, oder durch die Anpassung des Endergebnisses, nachdem der Computer eine Entscheidung getroffen hat – versucht Multi-Level-Fairness, an mehreren Punkten im Prozess einzugreifen. Die Forscher wollten wissen, ob dieser umfassende Ansatz tatsächlich zu besseren Gesundheitsergebnissen für unterversorgte Gruppen führt und ob die Art und Weise, wie Wissenschaftler ihre Arbeit berichten, ausreicht, um dies zu beweisen. Nach der Überprüfung einer breiten Palette bestehender Studien fanden sie, dass die Idee, Bias auf mehreren Ebenen anzugehen, zwar vielversprechend ist, das Fachgebiet jedoch immer noch damit kämpft, diese technischen Korrekturen mit echter gesundheitlicher Chancengleichheit zu verknüpfen, und dass die Regeln für die Berichterstattung über diese Bemühungen oft zu vage sind, um wirklich nützlich zu sein.

Die Forscher begannen damit, die Landschaft der aktuellen Bemühungen abzubilden. Sie fanden heraus, dass sich viele Studien auf eine einzige Art von Bias oder eine einzige Methode zu dessen Behebung konzentrieren. Einige Forscher bereinigen die Daten vor dem Training des Modells, andere passen das Modell während des Lernprozesses an und wieder nehmen Anpassungen an den endgültigen Vorhersagen vor. Die Autoren stellten jedoch fest, dass sehr wenige Studien diese Methoden zu einer kohärenten Strategie kombinieren. In einer Überprüfung von Hunderten von Studien zur Milderung von Bias (Bias Mitigation) kombinierte nur ein winziger Bruchteil tatsächlich verschiedene Techniken, und noch weniger untersuchten, wie diese Kombinationen bestimmte Bevölkerungsgruppen, wie etwa Minderheiten oder einkommensschwache Bevölkerungsschichten, beeinflussten. Die Autoren legen nahe, dass das Verlassen auf eine einzige Korrektur so ist, als versuche man, ein Leck in einem Boot zu stoppen, indem man nur ein Loch stopft, während man die anderen ignoriert; das Wasser wird trotzdem eindringen. Um die gesundheitliche Chancengleichheit wirklich voranzubringen, argumentieren sie, müssen wir Bias bei jedem Schritt der Entwicklung des Computers adressieren, vom Moment der Datenerhebung bis zu dem Moment, in dem ein Arzt das Werkzeug in einer Klinik einsetzt.

Ein erheblicher Teil der Arbeit konzentriert sich auf die Lücke zwischen technischer Fairness und tatsächlicher gesundheitlicher Chancengleichheit. Die Forscher weisen darauf hin, dass ein Computermodell in einem engen mathematischen Sinne „fair“ sein kann – also das Krankheitsrisiko für verschiedene ethnische Gruppen gleichermaßen gut vorhersagen – und dennoch daran scheitert, die Gesundheitsergebnisse zu verbessern. Dies geschieht, weil das Modell die komplexen, sich überschneidenden Barrieren ignorieren kann, denen bestimmte Gruppen gegenüberstehen, wie etwa mangelnder Zugang zu Transportmitteln oder der Stress, in Armut zu leben. Wenn ein Modell vorhersagt, dass ein Patient eine bestimmte Behandlung benötigt, der Patient sie aber nicht bezahlen kann oder nicht ins Krankenhaus gelangt, bewirkt die Vorhersage, egal wie genau sie ist, nichts für ihn. Die Autoren betonen, dass wahre Fairness erfordert, über die Zahlen hinaus zu blicken, um zu sehen, wie sich die Vorhersagen des Modells in der realen Welt auswirken, insbesondere für diejenigen, die mit multiplen Benachteiligungen konfrontiert sind. Sie argumentieren, dass wir den Erfolg nicht nur daran messen dürfen, wie gut der Computer performt, sondern daran, ob er zu einem gerechten Zugang zur Versorgung und einer besseren Gesundheit für alle führt.

Um sicherzustellen, dass diese Bemühungen transparent und rechenschaftspflichtig sind, untersucht das Paper die Standards, nach denen Wissenschaftler ihre Arbeit berichten. Derzeit gibt es Richtlinien wie TRIPOD-AI und MINIMAR, die Forschern vorgeben, welche Informationen sie angeben sollen, wenn sie ein neues medizinisches Modell veröffentlichen. Diese Standards verlangen Details über die verwendeten Daten und darüber, wie das Modell getestet wurde. Die Autoren stellten jedoch fest, dass diese Richtlinien oft zu kurz greifen, wenn es um das Thema Fairness geht. Sie fordern Forscher selten dazu auf, zu erklären, wie sie Bias in jeder Phase der Entwicklung überprüft oder wie sie sichergestellt haben, dass das Modell für marginalisierte Gruppen gut funktioniert. Ohne diese Details ist es für andere Wissenschaftler oder Krankenhausadministratoren schwierig zu wissen, ob ein neues Werkzeug wirklich sicher und fair für alle Patienten ist. Die Forscher merken an, dass TRIPOD-AI zwar ein starker Ausgangspunkt ist, aber erweitert werden muss, um eine explizite Berichterstattung darüber zu fordern, wie Bias erkannt und behoben wurde und wie das Modell die gesundheitliche Chancengleichheit nach der Implementierung in einem realen Krankenhaus beeinflusst.

Basierend auf diesen Erkenntnissen bieten die Autoren zwei klare Empfehlungen für die Zukunft. Erstens drängen sie Forscher dazu, Fairness in den gesamten Lebenszyklus der Erstellung eines Computermodells einzubetten. Das bedeutet, Bias bei der Datenerhebung zu prüfen, den Trainingsprozess inklusiver zu gestalten und das Modell nach der Veröffentlichung ständig zu überwachen, um zu sehen, ob es alle Menschen fair behandelt. Zweitens fordern sie einen neuen, strengeren Standard für die Berichterstattung. Sie schlagen vor, dass die wissenschaftliche Gemeinschaft sich auf einen einzigen, umfassenden Satz von Regeln einigen sollte, der von Autoren verlangt, jeden Schritt im Detail darzulegen, den sie unternommen haben, um Fairness zu gewährleisten – einschließlich der Frage, wie sie mit verschiedenen Personengruppen umgegangen sind und wie sie die Auswirkungen auf die gesundheitliche Chancengleichheit gemessen haben. Durch diese Änderungen kann das Feld über einfache technische Korrekturen hinausgehen und eine Zukunft aufbauen, in der maschinelles Lernen tatsächlich als Werkzeug dient, um die Kluft in den gesundheitlichen Disparitäten zu schließen, anstatt sie zu vergrößern. Die Arbeit von Souligne und Subbian dient als Erinnerung daran, dass der Weg zu besserer Gesundheit für alle nicht nur intelligentere Computer erfordert, sondern auch einen durchdachteren und ehrlicheren Umgang damit, wie wir sie bauen und teilen.