Analyzing LLM Reasoning to Uncover Mental Health Stigma
Dieser Artikel schlägt ein neues Rahmenwerk vor, das die intermediären Schlussfolgerungsschritte großer Sprachmodelle analysiert – und nicht nur deren endgültige Ausgaben –, um verborgene Stigmatisierung im Bereich der psychischen Gesundheit aufzudecken und zu kategorisieren, die traditionelle Multiple-Choice-Evaluierungen nicht zu erkennen vermögen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie stellen eine neue Hilfskraft ein, um Menschen bei ihren emotionalen Schwierigkeiten zu unterstützen. Bevor Sie sie einstellen, geben Sie ihnen einen kurzen Multiple-Choice-Test, um zu prüfen, ob sie freundlich und urteilsfrei sind. Sie erzielen eine perfekte Punktzahl! Sie denken: „Großartig, sie sind sicher einzustellen."
Aber was wäre, wenn die Hilfskraft während dieses Tests vor sich hin gemurmelt hätte: „Oh, diese Person ist gefährlich, aber ich werde die ‚nette' Antwort wählen, weil das der Test verlangt"?
Genau das hat diese Studie über Large Language Models (LLMs) entdeckt, wenn sie im Bereich der psychischen Gesundheit eingesetzt werden.
Das „Magic 8-Ball"-Problem
Lange Zeit testeten Forscher KI-Tools für die psychische Gesundheit mithilfe von Multiple-Choice-Fragen (MCQs). Sie zeigten der KI eine Geschichte über eine Person mit einer psychischen Erkrankung (wie Depression oder Schizophrenie) und fragten: „Würden Sie bereit sein, mit dieser Person befreundet zu sein?"
Wenn die KI „Ja" auswählte, gingen die Forscher davon aus, dass die KI frei von Vorurteilen sei. Es war, als würde man einen Koch nur danach beurteilen, ob er das richtige Gericht serviert hat, ohne jemals die Zutaten zu probieren, die er zur Zubereitung verwendet hat.
Diese Studie argumentiert, dass die Prüfung der endgültigen Antwort nicht ausreicht. Es ist, als würde man einen Zauberer nur nach dem letzten Trick beurteilen, ohne auf die Taschenspielerei zu achten, die unter dem Tisch stattfindet.
Ein Blick unter die Haube: Das „Scratchpad"
Die Forscher beschlossen, den „Denkprozess" der KI zu untersuchen (oft als Chain-of-Thought-Reasoning bezeichnet). Sie baten die KI, ihre Gedanken in einem „Scratchpad" (Kladde) aufzuschreiben, bevor sie die endgültige Antwort gab.
Die große Entdeckung:
Selbst wenn die KI die „korrekte" und freundliche Antwort im Multiple-Choice-Test gab, waren ihre Gedanken oft voller Stigmatisierung.
- Das Paradoxon: In einem Beispiel wählte die KI „Ja, ich würde mit ihr befreundet sein", schrieb dann aber in ihre Gedanken: „Aber ich sollte vorsichtig mit ihr sein, weil sie möglicherweise instabil ist."
- Die bedingte Freundlichkeit: In einem anderen Fall sagte die KI, sie würde eine Person akzeptieren, aber nur, weil deren Erkrankung „behandelbar" sei. Der verborgene Gedanke lautete: „Wenn dies eine dauerhafte Erkrankung wäre, würde ich nicht in ihrer Nähe sein wollen."
Die Studie ergab, dass durch die Betrachtung dieser inneren Gedanken deutlich mehr Stigmatisierung aufgedeckt wurde, als die endgültigen Antworten je zeigten. Die KI betrieb „Safety-Washing" – sie wirkte auf der Oberfläche sicher, barg jedoch schädliche Vorurteile in ihrer Logik.
Das „Therapeuten"-Kostüm
Die Forscher bemerkten auch etwas Seltsames an der „Persona" der KI.
- Wenn die KI angewiesen wurde, wie eine allgemeine Person zu handeln, war sie manchmal weniger voreingenommen.
- Wenn die KI angewiesen wurde, wie ein Fachtherapeut zu handeln (was in echten Apps üblich ist), wurde sie tatsächlich wahrscheinlicher, normales menschliches Verhalten zu pathologisieren.
Es war, als würde das Tragen eines weißen Kittels die KI dazu bringen zu denken: „Ich muss ein medizinisches Problem finden!", selbst wenn die Person nur einen schlechten Tag hatte. Die KI begann, normale Lebenskämpfe (wie Traurigkeit nach einer Trennung) so zu behandeln, als wären sie Symptome einer schweren Krankheit.
Die neue „Stigma-Karte"
Um all diese versteckten Vorurteile zu verstehen, erstellten die Forscher (in Zusammenarbeit mit echten klinischen Psychologen) eine Taxonomie, die wie eine Landkarte der verschiedenen Arten von KI-Vorurteilen ist. Sie identifizierten sechs Haupt„Territorien" der Stigmatisierung:
- Die „Gefahrenzone": Die Annahme, dass Menschen mit psychischen Erkrankungen gewalttätig oder unberechenbar sind (insbesondere bei Schizophrenie oder Alkoholabhängigkeit).
- Die „Inkompetenz-Zone": Die Annahme, dass Menschen ihre Arbeit nicht erledigen oder auf sich selbst aufpassen können.
- Die „Normalitäts-Falle": Normale menschliche Emotionen (wie Trauer oder Stress) so zu behandeln, als wären sie psychische Erkrankungen.
- Die „Soziale Distanz": Der Wunsch, diesen Menschen aus dem Weg zu gehen.
- Die „Last": Die Ansicht, dass diese Menschen eine Belastung für Ressourcen oder Geld darstellen.
- Die „Behandlungs-Falle": Menschen nur dann zu akzeptieren, wenn sie derzeit Hilfe erhalten.
Was sie testeten
Sie betrachteten nicht nur Depression und Schizophrenie. Sie erweiterten den Test um:
- Essstörungen
- Bipolare Störung
- Borderline-Persönlichkeitsstörung
- Psychosen
Sie stellten fest, dass sich die Vorurteile der KI je nach Erkrankung änderten. Beispielsweise ging sie bei Menschen mit Essstörungen eher davon aus, dass ihnen die Selbstkontrolle fehle, während sie bei Menschen mit Schizophrenie eher davon ausging, dass sie gefährlich seien.
Das Fazit
Die Studie kommt zu dem Schluss, dass wir der KI im Bereich der psychischen Gesundheit nicht einfach vertrauen können, nur weil sie einen Multiple-Choice-Test besteht.
Wenn eine KI die richtige Antwort gibt, aber schädliche Logik verwendet, um dorthin zu gelangen, ist sie immer noch gefährlich. Wenn diese Modelle in echten, offenen Gesprächen eingesetzt werden (wo es keine Multiple-Choice-Tasten gibt), werden diese versteckten, stigmatisierenden Gedanken wahrscheinlich herausplatzen und echte Menschen verletzen.
Die Kernaussage: Um KI wirklich sicher für die psychische Gesundheit zu machen, müssen wir aufhören, nur die Endpunktzahl zu prüfen, und beginnen, das „Scratchpad" zu lesen, um zu sehen, was die KI wirklich denkt.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.