Language Models Reproduce Human Reductionist Bias and Decision Inconsistency in Neurodevelopmental Disorders Assessment

In der komplexen Welt der psychischen Gesundheitsfürsorge stehen Ärzte und Psychologen oft vor einer schwierigen Aufgabe: zu entscheiden, ob der Zustand eines Menschen schwerwiegend genug ist, um Anspruch auf staatliche Unterstützung zu haben. Dabei geht es nicht nur um die Diagnose einer Krankheit; es geht darum, zu beurteilen, wie sehr ein Mensch in der Lage ist, sein eigenes Leben zu bewältigen. In vielen Orten bestimmt dieses Urteil darüber, ob eine Familie Geld für Pflege, spezialisierte Unterbringung oder das Recht erhält, dass ein Elternteil zu Hause bleibt, um zu helfen. Die Entscheidung hängt von einer spezifischen Frage ab: Kann dieser Mensch unabhängig leben oder benötigt er ständige Hilfe bei seinen Grundbedürfnissen? Für Menschen mit neuroentwicklungsbedingten Zuständen wie Autismus oder Aufmerksamkeitsdefizit-/Hyperaktivitätsstörungen ist die Antwort selten einfach. Ihre Schwierigkeiten können im Sprechzimmer eines Arztes unsichtbar sein, aber in der realen Welt überwältigend wirken. Da diese Entscheidungen ein so großes Gewicht haben, wächst die Hoffnung, dass künstliche Intelligenz helfen könnte, sie gerechter und konsistenter zu gestalten. Große Sprachmodelle, jene leistungsfähigen Computerprogramme, die schreiben und argumentieren können, werden getestet, um zu sehen, ob sie als unparteiische Richter fungieren können. Doch bevor wir ihnen solch bedeutsame Entscheidungen anvertrauen, müssen wir verstehen, wie sie die Welt sehen. Interpretieren sie menschliche Bedürfnisse auf die gleiche Weise wie Menschen, oder übersehen sie die subtilen, sozialen Aspekte eines Lebens, die Unabhängigkeit erst möglich machen?

Ein Forscherteam in Polen unternahm den Versuch, dies zu testen, indem es sowohl menschliche Experten als auch künstliche Intelligenz durch eine Reihe strenger Testreihen schickte. Sie versammelten fünfunddreißig menschliche Fachkräfte, eine Mischung aus achtzehn Ärzten und siebzehn Psychologen, die regelmäßig in Bewilligungsausschüssen für Behinderungen arbeiten. Dies sind die Gremien, die entscheiden, wer Unterstützung erhält. Um sie fair zu vergleichen, wählten die Forscher auch sieben verschiedene große Sprachmodelle führender Technologieunternehmen aus. Das Ziel war zu sehen, ob die Maschinen dieselben Fehler wie die Menschen machen würden oder ob sie eine neue Art von Voreingenommenheit einbringen würden. Die Forscher entwarfen eine Studie, die drei spezifische Dinge untersuchte: ob die Entscheidungsträger durch die Reihenfolge der Informationen oder durch ein irreführendes Foto getäuscht werden konnten, wie bescheiden sie in Bezug auf ihr eigenes Wissen waren und, was am wichtigsten war, wie sie den Begriff „grundlegende Lebensbedürfnisse“ definierten.

Das Experiment begann mit einer Reihe fiktiver Fallstudien. Die menschlichen Experten und die Computermodelle wurden gebeten, Beschreibungen von Personen mit verschiedenen Erkrankungen zu lesen und anschließend zwei Fragen zu beantworten. Erstens mussten sie bewerten, wie gut die Person funktionierte. Zweitens mussten sie entscheiden, ob diese Person ständige Pflege oder Unterstützung benötigte, um unabhängig zu leben. Um zu testen, ob die Entscheidungsträger durch irrelevante Details beeinflusst werden konnten, spielten die Forscher einige Tricks. In einigen Fällen platzierten sie alle negativen Informationen über die Schwierigkeiten einer Person ganz am Anfang der Geschichte, in der Hoffnung, dass der Leser bei diesen schlechten ersten Eindrücken hängen bleiben würde. In anderen Fällen fügten sie einem Text, der ansonsten identisch mit einem Text mit einem neutralen Foto war, das Foto einer Person bei, die traurig oder verzweifelt aussah. Sie wollten sehen, ob das Sehen eines traurigen Gesichts die Experten dazu verleiten würde, mehr Unterstützung zu gewähren, selbst wenn der Text besagte, dass es der Person gut gehe.

Die Ergebnisse dieser Tricks waren über beide Gruppen hinweg überraschend konsistent. Weder die menschlichen Experten noch die KI-Modelle zeigten eine signifikante Änderung ihrer Entscheidungen basierend auf der Reihenfolge des Textes oder der Emotion des Fotos. Beide Gruppen schienen diese Ablenkungen zu ignorieren und sich auf die Kerndaten des Falls zu konzentrieren. Dies war eine Erleichterung und deutete darauf hin, dass die Modelle nicht leicht durch diese visuellen oder textuellen Reize zu täuschen waren, die einen Menschen hätten stolpern lassen können. Als die Forscher jedoch tiefer blickten, trat ein anderes Problem zutage. Sie fanden heraus, dass weder die Menschen noch die Maschinen in ihrer Logik besonders konsistent waren. Eine Person konnte als „signifikant beeinträchtigt“ in ihrer Funktionsfähigkeit eingestuft werden, und dennoch erhielt dieselbe Person möglicherweise nicht die benötigte Unterstützung. Umgekehrt konnte jemand mit einer „durchschnittlichen“ Funktionsfähigkeit dennoch Hilfe erhalten. Die Bewertung dessen, wie gut eine Person funktionierte, sagte nicht zuverlässig voraus, ob sie Unterstützung erhalten würde. Diese Inkonsistenz bestand sowohl bei den menschlichen Ärzten als als auch bei den Computermodellen, was darauf hindeutet, dass der Übergang von der Beschreibung eines Problems zur Gewährung einer Lösung ein chaotischer, menschenähnlicher Prozess ist, den auch die Maschinen geerbt haben.

Der vielleicht aufschlussreichste Teil der Studie kam, als die Forscher die Teilnehmer baten, ihr Denken zu erklären. Sie baten die Menschen und die Maschinen, zu definen, was „grundlegende Lebensbedürfnisse“ tatsächlich bedeuteten. Hier zeigte sich eine klare Kluft. Die menschlichen Psychologen tendierten zu einer breiteren Sichtweise. Sie schlossen das emotionale Wohlbefinden, die Fähigkeit zur Kommunikation und soziale Bindungen als wesentliche Bestandteile eines grundlegenden Lebens ein. Wenn eine Person nicht mit anderen kommunizieren oder soziale Signale verstehen konnte, sahen die Psychologen darin ein Scheitern bei der Erfüllung eines Grundbedürfnisses. Die menschlichen Ärzte hingegen vertraten eine engere Sichtweise. Sie konzentrierten sich fast ausschließlich auf das physische Überleben: die Fähigkeit zu essen, sich anzuziehen, zu gehen und die Toilette zu benutzen. Die KI-Modelle stimmten überraschenderweise den Ärzten zu. Sie definierten Grundbedürfnisse fast ausschließlich im Hinblick auf das biologische Überleben und die Selbstversorgung. Sie erwähnten Kommunikation oder soziale Interaktion nur selten, es sei denn, sie waren direkt mit der körperlichen Sicherheit verknüpft.

Dieser Unterschied in der Definition hatte direkte Auswirkungen auf die endgültigen Entscheidungen. Da die Psychologen soziale und kommunikative Schwierigkeiten in ihre Definition der „Grundbedürfnisse“ einbezogen, war die Wahrscheinlichkeit höher, dass sie den fiktiven Patienten Unterstützung gewährten. Die Ärzte und die KI-Modelle, die sich an eine strikte biologische Checkliste hielten, gewährten seltener Unterstützung. Obwohl die Modelle behaupteten, sehr bescheiden in ihrem Wissen zu sein – sie erzielten in einem Test zur intellektuellen Demut höhere Werte als die menschlichen Ärzte –, machte diese Bescheidenheit ihre Entscheidungen nicht konsistenter oder besser auf die menschlichen Experten abgestimmt. Tatsächlich schien die hohe Punktzahl der Modelle in Bezug auf die Demut ein oberflächliches Merkmal zu sein, eine Art der Ausdrucksweise, die sich nicht in einem tieferen Verständnis der menschlichen Komplexität niederschlug. Die Maschinen waren bereit zu sagen, dass sie sich irren könnten, aber sie agierten dennoch innerhalb eines engen, medizinischen Rahmens, der die soziale Realität der Menschen, die sie beurteilten, verfehlte.

Die Studie kommt zu dem Schluss, dass künstliche Intelligenz zwar gut darin sein mag, einfache Tricks wie ein trauriges Foto oder eine verwirrende Satzreihenfolge zu ignorieren, sie aber noch nicht bereit ist, das menschliche Urteilsvermögen in diesen sensiblen Bereichen zu ersetzen. Die Modelle reproduzieren eine reduktionistische Sicht auf das menschliche Leben, eine, die die physische Unabhängigkeit gegenüber sozialer und kommunikativer Verbindung wertschätzt. Indem sie sich nur auf die Fähigkeit des Körpers zu funktionieren konzentrieren, riskieren die Maschinen, Menschen die Unterstützung zu verweigern, deren größte Schwierigkeiten im Bereich der Interaktion und des Verständnisses liegen. Die Forscher schlagen vor, dass künstliche Intelligenz erst dann wirklich nützlich für die psychische Gesundheit und die Beurteilung von Behinderungen sein kann, wenn sie lernt, den ganzen Menschen zu sehen, nicht nur die biologische Maschine. Bis die Technologie in der Lage ist, das volle Gewicht dessen zu erfassen, was es bedeutet, ein menschliches Leben zu führen, wird die Abhängigkeit von ihr bei diesen Entscheidungen möglicherweise lediglich die gleichen engen Perspektiven verstärken, die die Arbeit der menschlichen Experten schon lange erschweren.