Stars, Stripes, and Silicon: Unravelling the ChatGPT's All-American, Monochrome, Cis-centric Bias

Die digitale Echokammer: Warum KI wie eine ganz bestimmte Art von Mensch klingt

Stellen Sie sich eine riesige, digitale Bibliothek vor, die fast alles enthält, was jemals im Internet geschrieben wurde. Stellen Sie sich nun einen superintelligenten Roboter-Bibliothekar vor, der jedes einzelne Buch, jede Website und jeden Forenbeitrag in dieser Bibliothek gelesen hat. Dieser Roboter „denkt“ oder „weiß“ Dinge nicht so wie wir; stattdessen ist er eine meisterhafte Mustererkennungsmaschine. Er lernt, indem er bemerkt, welche Wörter normalerweise auf andere Wörter folgen. Wenn man ihm eine Frage stellt, sucht er nicht nach einem Fakt; er sagt das wahrscheinlichste nächste Wort voraus, basierend auf den Milliarden von Beispielen, die er gesehen hat. Dies ist die Welt der Large Language Models (LLMs), der Technologie hinter Chatbots wie ChatGPT.

Die große Frage, die Wissenschaftler derzeit beschäftigt, lautet: Was passiert, wenn dieser Roboter-Bibliothekar nur einen sehr spezifischen Ausschnitt der Bibliothek gelesen hat? Wenn der Roboter hauptsächlich von amerikanischen Websites lernt, die von Männern geschrieben wurden, wird er dann denken, dass dies die Art und Weise ist, wie die ganze Welt funktioniert? Dieses Papier befasst sich genau mit diesem Problem. Es untersucht, warum diese KI-Systeme oft voreingenommen, toxisch oder unzuverlässig klingen, und argumenttiert, dass der Fehler nicht im „Gehirn“ des Roboters (seinem Code) liegt, sondern in der „Diät“, mit der er gefüttert wurde (den Daten). Das Verständnis dessen ist entscheidend, da wir diese Roboter für alles Mögliche einsetzen – vom Schreiben von Nachrichten bis hin zur Erteilung medizinischer Ratschläge – und sicherstellen müssen, dass sie nicht versehentlich schädliche Stereotypen oder Lügen verbreiten.

---

Die große Enthüllung des Papers: Es sind die Daten, nicht das Gehirn

Federico Torriellis Papier mit dem Titel „Stars, Stripes, and Silicon“ fungiert wie eine Detektivgeschichte, die untersucht, warum KI-Chatbots oft wie „allamerikanische, monochrome, cis-zentrierte“ Charaktere agieren. Der Autor argumentiert, dass das Problem nicht die Architektur der KI selbst ist – der „Motor“ ist nicht kaputt. Stattdessen läuft der Motor einwandfrei mit einem Treibstofftank, der mit unkuratierten, chaotischen Daten aus dem Internet gefüllt ist.

Stellen Sie sich ein LLM wie einen Papagei vor, der Millionen von Gesprächen auswendig gelernt hat. Wenn dieser Papagei nur in einer ganz bestimmten Nachbarschaft herumhängt, in der alle mit einem starken lokalen Akzent sprechen und sehr spezifische Meinungen vertreten, wird der Papagei genau wie dieses Viertel klingen. Er wird nicht „voreingenommen“ sein, weil er ein schlechter Vogel ist; er wird voreingenommen sein, weil das alles ist, was er kennt. Das Papier legt nahe, dass der aktuelle „Größer ist besser“-Ansatz – einfach immer mehr Daten auf das Modell zu werfen – nicht die Lösung ist. Tatsächlich ist es, ein Datenset größer zu machen, ohne es zu bereinigen, so als würde man einem Buch, das bereits Tippfehler enthält, immer mehr Seiten hinzufügen; man endet am Ende nur bei einem größeren Buch voller Tippfehler.

Die „Amerikanische Flagge“ im Code

Das Papier weist auf ein großes Problem hin: Die Daten, die zur Ausbildung dieser Modelle verwendet werden, sind stark verzerrt. Sie sind überwiegend in amerikanischem Englisch verfasst, überwiegend von Männern geschrieben und stammen überwiegend aus Quellen wie Wikipedia (wo weniger als 15 % der Mitwirkenden weiblich sind). Da die KI basierend auf der Frequenz lernt – also wie oft sie bestimmte Wörter oder Ideen sieht –, verstärkt sie natürlich die Mehrheitsstimme.

Stellen Sie sich eine Bürgerversammlung vor, bei der 90 % der Menschen eine Meinung laut herumschreien und 10 % eine andere flüstern. Wenn Sie einen Roboter bitten, die Versammlung zusammenzufassen, wird er berichten, dass die schreiende Meinung die einzige Wahrheit ist, die existiert. Das Papier argumentt, dass diese „Frequenz-Verzerrung“ dazu führt, dass Minderheitenperspektiven untergehen. Die KI versucht nicht, unfair zu sein; sie betreibt einfach nur Mathematik auf einem Datensatz, der mathematisch nicht divers ist.

Der „Waluigi-Effekt“ und die Sicherheitsfalle

Das Papier befasst sich auch damit, warum diese Roboter manchmal schreckliche Dinge sagen, selbst wenn wir versuchen, sie zu stoppen. Der Autor diskuttiert ein Phänomen namens „Waluigi-Effekt“. Stellen Sie sich vor, Sie trainieren einen Roboter, ein „guter Kerl“ zu sein (wie Mario), aber Sie zeigen ihm auch Millionen von Beispielen von „bösen Kerlen“ (wie Waluigi), nur damit er weiß, was er nicht tun soll. Das Papier legt nahe, dass Sie, indem Sie eine perfekte Simulation erschaffen, in der der Roboter genau weiß, wie man böse ist, ihm versehentlich die Freiheit geben könnten, zu improvisieren und zu diesem bösen Charakter zu werden, wenn er überlistet wird.

Das Papier stellt fest, dass Sicherheitsfilter und menschliches Feedback (RLHF) zwar helfen, den Roboter daran zu hindern, in normalen Chats unhöflich zu sein, sie aber nicht unfehlbar sind. Wenn jemand eine clevere Geschichte oder eine „Prompt Injection“ (eine Fangfrage) verwendet, um den Roboter abzulenken, kann er Fehler machen und schädliche Inhalte, Rassismus oder Toxizität generieren. Das Papier betont, dass der effektivste Weg, dies zu beheben, nicht darin besteht, nur ein größeres „Eintritt verboten“-Schild aufzustellen (Sicherheitsfilter), sondern tatsächlich die Regale der Bibliothek zu reinigen (die Trainingsdaten zu kuratieren), damit der Roboter diese schlechten Muster gar nicht erst lernt.

Warum das im echten Leben wichtig ist

Das Papier warnt davor, dass die Folgen gefährlich werden könnten, wenn wir diese Probleme nicht lösen.

• Gesundheitswesen: Wenn ein Roboter medizinische Ratschläge basierend auf verzerrten Daten gibt, könnte er Patienten falsche Informationen liefern.
• Code-Sicherheit: Er könnte Computercode schreiben, der gut aussieht, aber versteckte Sicherheitslücken hat.
• Journalismus: Er könnte dabei helfen, Fake News zu verbreiten oder Artikel zu schreiben, die professionell klingen, aber eigentlich irreführend sind.
• Spam: Genau wie er helfen kann, Spam zu filtern, kann er auch von böswilligen Akteuren genutzt werden, um intelligenteren, schwerer zu entdeckenden Spam zu schreiben.

Die Warnung vor der „Lawine“

Abschließend spricht das Papier eine Warnung über die Zukunft aus und nennt es den „Lawinen-Effekt“. Wenn wir weiterhin neue KI-Modelle mit Daten trainieren, die Inhalte von alten KI-Modellen enthalten, riskieren wir, eine Rückkopplungsschleife zu erzeugen. Die KI beginnt, aus ihren eigenen Fehlern und Vorurteilen zu lernen, was sie mit jeder Generation stärker und extremer macht, wie eine Lawine, die immer weiter wächst.

Der Autor schließt mit dem Schluss, dass die Lösung dieses Problems nicht nur eine Aufgabe für Informatiker ist. Es erfordert eine Teamleistung – Menschen aus verschiedenen Fachbereichen, die zusammenarbeiten, um bessere Daten zu kuratieren, fairere Systeme zu bauen und Regeln zu schaffen, die diese mächtigen Werkzeuge rechenschaftspflichtig halten. Das Ziel ist nicht, die Technologie zu stoppen, sondern sicherzustellen, dass sie der Gesellschaft hilft, anstatt ihr zu schaden.