Computational Orientalism: Measuring Structural Discourse Bias in Large Language Models Using the Middle East Cultural Sensitivity Score (MECSS)
Dieses Paper führt den Middle East Cultural Sensitivity Score (MECSS) ein, um zu demonstrieren, dass große Sprachmodelle, einschließlich derer, die im Nahen Osten entwickelt wurden, systematisch strukturelle orientalistische Biases durch „Said-washing“ und die Rahmung westlichen Wissens als universell reproduzieren, was offenlegt, dass Standardmetriken für Fairness nicht in der Lage sind, diese tief verwurzelten epistemischen Verzerrungen zu erkennen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Wenn wir einen Computer bitten, eine Kultur zu erklären, gehen wir oft davon aus, dass wir eine neutrale Zusammenfassung von Fakten erhalten. Doch die Systeme, die diese Fragen beantworten, sind keine unbeschriebenen Blätter. Sie basieren auf riesigen Textbibliotheken, die größtenteils von Menschen im Westen, auf Englisch, verfasst wurden, und sie lernen zu sprechen, indem sie die in diesen Bibliotheken gefundenen Muster imitieren. Das bedeutet, dass ein Computer, wenn ein Nutzer nach dem Nahen Osten fragt, nicht einfach Informationen abruft; er konstruiert eine Geschichte basierend auf den Annahmen, die in seinen Trainingsdaten eingebettet sind. Seit Jahrzehnten beschreiben Gelehrte eine spezifische Art des Erzählens über den Orient, die als Orientalismus bekannt ist. Dies handelt nicht nur davon, unhöflich zu sein oder Stereotypen zu verwenden. Es ist eine tiefere, strukturelle Gewohnheit des Schreibens, die den Westen als den normalen, aktiven Beobachter behandelt und den Osten als ein passives, mysteriöses Objekt, das durch westliche Regeln erklärt werden muss. Es setzt voraus, dass westliche Ideen universelle Wahrheiten sind, während lokale Ideen nur „kulturelle Eigenheiten“ sind. Die Frage, die Forscher nun stellen, ist, ob moderne künstliche Intelligenz, die für Hunderte Millionen Menschen zu einer primären Informationsquelle geworden ist, diese alten Muster still und leise wiederholt, selbst wenn sie versucht, höflich zu sein.
Ein Forscher setzte sich zum Ziel, diesen unsichtbaren Bias in zwei verschiedenen großen Sprachmodellen zu messen. Eines war ein leistungsstarkes System, das in den USA entwickelt wurde, und das andere war ein Modell, das in den Vereinigten Arabischen Emiraten gebaut und mit einer signifikanten Menge an arabischen Inhalten trainiert wurde. Der Forscher wollte eine hoffnungsvolle Idee testen: dass der Aufbau einer künstlichen Intelligenz im Nahen Osten unter Verwendung lokaler Sprachen und regionaler Daten von Natur aus eine fairere, weniger voreingenommene Sicht auf die Region hervorbringen würde. Um die Antwort zu finden, entwickelte er ein neues Messinstrument namens „Middle East Cultural Sensitivity Score“. Anstatt nur nach offensichtlichen Beleidigungen oder böswilligen Wörtern zu suchen, untersuchte dieses Werkzeug die sehr Struktur der Sätze, die die Modelle generierten. Es prüfte sieben spezifische Gewohnheiten, wie etwa, ob das Modell den gesamten Nahen Osten als einen einzigen, undifferenzierten Block behandelte, ob es lokale Menschen als passive Opfer statt als aktive Entscheidungsträger beschrieb und ob es westliche politische Theorien als den Standardweg verwendete, um Ereignisse zu erklären, während es lokales Wissen als etwas behandelte, das einer besonderen Rechtfertigung bedurfte.
Der Forscher führte 280 Konversationen durch und stellte den Modellen eine breite Palette von Fragen zu Politik, Kultur und Geschichte. Er analysierte dann die Antworten, um zu sehen, wie oft die Modelle in diese strukturellen Fallen tappten. Die Ergebnisse zeigten, dass beide Modelle, unabhängig davon, wo sie gebaut wurden, diese voreingenommenen Muster systematisch reproduzierten. Das amerikanische Modell zeigte zwar einige Vorurteile, aber das in den VAE gebaute Modell erzielte tatsächlich einen höheren Wert auf der Bias-Skala, was bedeutete, dass es die problematischen Muster häufiger und intensiver reproduzierte. Dieser Befund stellt die Annahme infrage, dass es ausreicht, lediglich den Standort der Entwickler zu ändern oder lokale Sprachen zu den Trainingsdaten hinzuzufügen, um das Problem zu lösen. Der Forscher fand heraus, dass das VAE-Modell trotz seiner regionalen Herkunft immer noch stark auf westliche Rahmenbedingungen zurückgriff, um die Welt zu erklären, und diese als die Standardlinse betrachtete, durch die alles betrachtet werden muss.
Eine der auffälligsten Entdeckungen war ein Phänomen, das der Forscher „Said-washing“ nannte. Dies geschieht, wenn ein Modell eine Antwort damit beginnt, explizit zu erklären, dass die Region vielfältig und komplex sei, nur um unmittelbar darauf mit einer Verallgemeinerung fortzufahren, die genau jene Komplexität ignoriert. Zum Beispiel könnte ein Modell sagen: „Natürlich hat der Nahe Osten viele verschiedene Kulturen und Geschichten“, und dann sofort damit fortfahren, die „nahöstliche Gesellschaft“ als eine einzige, einheitliche Einheit mit einem einzigen Satz von Beweggründen zu beschreiben. Dieses Muster trat in fast 88 Prozent der Gespräche mit dem amerikanischen Modell und in etwa 63 Prozent der Gespräche mit dem VAE-Modell auf. Es deutet darauf hin, dass die Modelle gelernt haben, den Anschein von Sensibilität zu erzeugen, ohne die zugrunde liegende Struktur ihres Denkens tatsächlich zu ändern. Sie können die richtigen Worte benutzen, um fair zu klingen, aber die Art und Weise, wie sie die Informationen organisieren, bleibt tief in alten, kolonialen Sichtweisen verwurzelt.
Die Studie zeigte auch, dass der Bias nicht nur darin bestand, was die Modelle sagten, sondern wie sie die Welt organisierten. Beide Modelle behandelten westliche analytische Rahmenwerke konsistent als den Standard, unmarkierten Weg, die Realität zu verstehen, während sie nicht-westliches Wissen als etwas Besonderes behandelten, das einer speziellen Erklärung bedurfte. Dies war der beständigste Befund bei beiden Systemen und trat in fast jedem Gespräch auf. Der Forscher merkte an, dass der Unterschied in der Leistung der Modelle teilweise auf deren Größe zurückzuführen sein könnte, da das amerikanische Modell signifikant größer und fortschrittlicher war als das VAE-Modell. Kleinere Modelle neigen dazu, einfachere, weniger nuancierte Texte zu produzieren, was eher wie die breiten Verallgemeinerungen aussehen kann, die der Forscher maß. Die Tatsache jedoch, dass beide Modelle auf demselben hohen Niveau des Bias hinsichtlich der Verwendung westlicher Rahmenwerke konvergierten, deutet darauf hin, dass das Problem tiefer liegt als nur bei der Größe des Computers oder dem Standort der Entwickler.
Letztlich kommt das Paper zu dem Schluss, dass der Bias kein einfacher Fehler ist, der durch das Hinzufügen von mehr Sprachen oder das Verschieben der Server in ein anderes Land behoben werden kann. Das Problem ist epistemologisch, was bedeutet, dass es um die eigentliche Natur des Wissens geht, das die Modelle gelernt haben. Die Trainingsdaten selbst sind gefüllt mit westlichen Perspektiven, die den Nahen Osten als ein Objekt behandeln, das untersucht werden muss, statt als ein Subjekt mit eigener Handlungsfähigkeit. Um dies wirklich zu ändern, argumentiert der Forscher, muss die Trainingsdatenbasis transformiert werden, indem ein viel größeres Volumen an wissenschaftlicher Arbeit von Gelehrten aus der Region, in deren eigenen Sprachen und unter Verwendung ihrer eigenen intellektuellen Traditionen, aufgenommen wird. Bis sich die Daten ändern, werden diese Systeme weiterhin Antworten generieren, die selbstbewusst und autoritär klingen, aber im Stillen eine Weltanschauung verstärken, in der der Westen der Erzähler ist und der Rest der Welt lediglich die Geschichte.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.