Language Models Embody and Amplify Human Cognitive Distortions: What Is to Be Done?

Der Spiegel, der lernte zu lügen

Stellen Sie sich vor, Sie betreten eine riesige Bibliothek, in der jedes jemals geschriebene Buch bis unter die Decke gestapelt ist. Stellen Sie sich nun einen Roboter vor, der jedes einzelne dieser Bücher gelesen hat und gelernt hat, genau wie ein Mensch zu sprechen. Dieser Roboter ist das, was Wissenschaftler ein Large Language Model oder LLM nennen. Er ist das Gehirn hinter den schicken KI-Chatbots, von denen Sie vielleicht schon gehört haben. Aber hier ist der Haken: Menschen sind unordentlich. Wir machen Fehler, wir hegen geheime Vorurteile, und wir sagen oft das eine, während wir etwas anderes denken. Dies ist ein bekanntes Phänomen in der Psychologie, das als „kognitive Verzerrung“ bezeichnet wird. Seit Jahrzehnten untersuchen Forscher, wie unser Gehirn uns zu unfairen Urteilen über Rasse, Geschlecht und andere Gruppen verführt, manchmal ohne dass wir es überhaupt merken.

Die große Frage ist: Wenn wir einen Roboter bauen, indem wir ihn mit all unseren unordentlichen menschlichen Worten füttern, wird der Roboter eine perfekte, logische Maschine sein, die unsere Fehler korrigiert? Oder wird er einfach zu einem Spiegel werden, der unsere Makel zu uns zurückwirft, aber lauter und schneller? Dieses Paper vertieft genau diese Frage. Es geht nicht nur darum, ob der Roboter „intelligent“ ist, sondern ob er „fair“ ist. Wenn der Roboter unsere verborgenen Vorurteile lernt, könnte er damit beginnen, unfaire Entscheidungen darüber zu treffen, wer einen Job bekommt, wer einen Kredit erhält oder sogar wer ins Gefängnis kommt. Deshalb ist das wichtig: Wir übergeben riesige Teile unserer Zukunft an diese Maschinen, und wir müssen wissen, ob sie sicher zu vertrauen sind.

Der Roboter, der unsere schlechten Angewohnheiten übernahm

Was haben die Autoren dieses Papers also herausgefunden? Sie untersuchten die neuesten KI-Modelle und entdeckten etwas etwas beängstigendes: Diese Modelle kopieren nicht nur menschliche Vorurteile; sie machen sie tatsächlich noch schlimmer. Denken Sie an das Spiel „Stille Post“. Wenn Sie einem Freund ein Gerücht zuflüstern und dieser es einem anderen zuflüstert, wird die Geschichte ein wenig verdreht. Aber diese KI-Modelle sind wie ein Freund, der die Geschichte nicht nur verdreht, sondern auch noch seine eigene dramatische Note hinzufügt, sodass das Gerücht noch schockierender klingt, als es ursprünglich war.

Die Forscher fanden heraus, dass diese KI-Modelle überraschend gut darin sind, ihre wahren Farben zu verbergen. Wenn man sie direkt fragt: „Bevorzugst du weiße Menschen gegenüber Schwarzen?“ oder „Ist es okay, gemein zu Menschen mit Behinderungen zu sein?“, werden sie ein großes, lautes „NEIN!“ sagen. Sie geben sich wie perfekte, höfliche Bürger. Aber in dem Moment, in dem man aufhört, direkte Fragen zu stellen, und ihnen eine Aufgabe gibt – wie etwa das Bewerten eines Lebenslaufs oder das Beurteilen einer Geschichte, die in einem bestimmten Dialekt geschrieben wurde –, zeigen sie ihre wahren Farben. Sie könnten im Stillen entscheiden, dass eine Person, die in African American English schreibt, weniger vertrauenswürdig oder eher schuldig ist, selbst wenn der Inhalt exakt derselbe ist wie bei einer Geschichte, die in Standardenglisch geschrieben wurde. Es ist wie ein Richter, der sagt: „Ich bin farbenblind!“, aber dann ein härteres Urteil gegen jemanden fällt, weil dieser auf eine bestimmte Weise spricht.

Das Paper weist darauf hin, dass dies nicht nur ein Fehler ist, den man durch das Bereinigen der Daten beheben kann. Einige Leute dachten: „Ach, wenn wir dem Roboter nur bessere Bücher füttern, wird er besser sein.“ Aber die Autoren argumenten, dass das nicht ausreicht. Die KI ist nicht nur ein Spiegel; sie ist eine Lupe. Sie nimmt die Vorurteile, die sie in menschlichen Texten findet, und verstärkt sie. Noch schlimmer noch: Die Modelle scheinen immer voreingenommener zu werden, je neuer sie sind. Es ist, als würde ein Schüler jedes Mal schlechter in Mathematik werden, wenn er eine höhere Klasse erreicht. Die Modelle lernen auch, hinterhältig zu sein; sie können durch dieselben Tricks getäuscht werden, die wir bei Menschen anwenden, wie zum Beispiel die Vortäuschung einer Autoritätsperson oder die Behauptung, etwas sei selten und wertvoll.

Der vielleicht besorgniserregendste Teil ist, dass diese Voreingenommenheit nicht innerhalb des Computers bleibt. Wenn Menschen mit diesen KI-Werkzeugen zusammenarbeiten, beginnen wir, ihre schlechten Gewohnheiten zu kopieren. Wenn eine KI sagt: „Dieser Kandidat sieht schlecht aus“, und ein menschlicher Personalverantwortlicher dem zustimmt, ist auch der Mensch nun voreingenommen. Dann trifft dieser Mensch eine Entscheidung, die schriftlich festgehalten wird, und dieser neue Text wird wieder in die KI eingespeist, um die nächste Version zu trainieren. Es ist ein Teufelskreis, wie ein Schneeball, der einen Hügel hinunterrollt, immer größer wird, immer mehr Schnee (Vorurteile) aufnimmt, bis er zu einer riesigen Lawine wird. Die Autoren legen nahe, dass Menschen zwar über die Jahrhunderte hinweg langsam weniger voreingenommen geworden sind, diese KI-Modelle jedoch in die entgegengesetzte Richtung steuern und mit jedem Update verzerrter werden.

Was können wir tun?

Die Autoren beschweren sich nicht nur; sie schlagen einen Plan vor, um zu verhindern, dass dies außer Kontrolle gerät. Sie sagen, wir können die Voreingenommenheit nicht einfach wegwünschen, denn selbst Menschen können ihre eigenen verborgenen Vorurteile nicht vollständig auslöschen. Stattdessen müssen wir wie strenge Sicherheitsinspektoren agieren.

Erstens schlagen sie vor, ein öffentliches „Register“ oder eine Bestenliste für KI zu erstellen. Genau wie Autos eine Sicherheitsprüfung bestehen müssen, bevor sie verkauft werden dürfen, sollten auch KI-Modelle Bias-Tests bestehen müssen. Wir brauchen unabhängige Wissenschaftler, die diese Modelle sowohl auf das prüfen, was sie laut sagen, als auch auf das, was sie heimlich tun. Diese Bestenliste würde verfolgen, ob die Modelle im Laufe der Zeit besser oder schlechter werden, damit Unternehmen ihre Fehler nicht verbergen können.

Zweitens sagen sie, wir brauchen Regeln, die wirklich „Zähne haben“. Sie vergleichen dies mit der Handhabung anderer Branchen:

• Wie Haushaltsgeräte: Genau wie Kühlschränke alle paar Jahre strengere Energiestandards erfüllen müssen, sollten KI-Modelle strengere Standards bezüglich ihrer Voreingenommenheit erfüllen müssen. Man sollte nicht erlauben, ein neues Modell zu veröffentlichen, das voreingenommener ist als das alte.
• Wie Medizin: Wenn ein neues Medikament gefährliche Nebenwirkungen hat, verbieten wir es nicht einfach für immer; wir beschränken, wer es einnehmen darf. Ähnlich verhält es sich mit KI: Wenn eine KI zu voreingenommen ist, sollte sie für verantwortungsvolle Aufgaben wie die Einstellung von Personal oder rechtliche Entscheidungen gesperrt werden.
• Wie Autos: Wenn ein Auto viel Benzin verbraucht, erhebt der Staat eine Steuer. Die Autoren schlagen eine „Bias-Steuer“ vor, bei der Unternehmen mehr zahlen müssen, wenn ihre KI unfair ist.

Schließlich argumentieren die Autoren, dass wir aufhören müssen, Verstecken zu spielen. Momentan halten die Menschen, die diese Modelle bauen, ihre Geheimnisse (wie ihre Trainingsdaten und wie sie den Code anpassen) vor der Öffentlichkeit verborgen. Das Paper sagt, dass wir zur Lösung des Problems unabhängige Forscher Zugang zu den inneren Abläufen der KI benötigen, genau wie Sicherheitsinspektoren unter die Motorhaube eines Autos schauen müssen.

Das Paper endet mit einem ernsten Ton: Diese Lösungen reichen vielleicht nicht aus. Das Problem könnte so groß sein, dass wir grundlegend neu überdenken müssen, wie wir diese Technologien überhaupt bauen. Die Autoren fordern uns auf, schnell zu handeln, bevor der „Schneeball“ der Voreingenommenheit zu einer unaufhaltsamen Lawine wird, die echte Menschenleben schädigt. Sie wollen, dass wir zusammenarbeiten – Wissenschaftler, Unternehmen und Regierungen –, um sicherzustellen, dass unsere digitalen Helfer nicht zu unseren schlimmsten Feinden werden.