General Phrase Debiaser: Debiasing Masked Language Models at a Multi-Token Level

Computer, die Sprache lesen und schreiben können, sind bemerkenswert geschickt geworden und fähig, Nachrichten zusammenzufassen, Dokumente zu übersetzen und sogar Poesie zu verfassen. Diese Systeme, bekannt als Sprachmodelle, lernen, indem sie riesige Textmengen aus dem Internet studieren und dabei die darin enthaltenen Muster, Fakten und Meinungen absorbieren. Da die menschliche Sprache jedoch voller historischer Vorurteile und kultureller Stereotypen ist, lernen diese Modelle oft, diese auch zu wiederholen. Ein Computer könnte annehmen, dass eine Krankenschwester immer eine Frau ist oder ein Mathematiker immer ein Mann, einfach weil er dies in seinen Trainingsdaten am häufigsten gesehen hat. Dies ist ein erhebliches Problem für jeden, der diese Werkzeuge fair nutzen möchte, da die Maschinen unbeabsichtigt schädliche Vorurteile gegenüber Geschlecht, Rasse und Beruf verstärken können. Während Forscher schon lange versucht haben, diese Probleme zu beheben, konzentrierten sich die meisten bisherigen Versuche darauf, einzelne Wörter zu korrigieren, indem sie Voreingenommenheit als eine einfache Angelegenheit behandelten, bei der man nur ein paar problematische Begriffe austauscht. Doch reale Voreingenommenheit existiert selten isoliert; sie verbirgt sich in der Art und Weise, wie Wörter zu Phrasen und Sätzen kombiniert werden, wobei sich die Bedeutung auf subtile, gefährliche Weise verschiebt.

Ein Team von Forschern der Chinesischen Akademie der Wissenschaften, der Alibaba Group und der University of Bristol hat eine neue Methode entwickelt, um diese tiefere Ebene der Vorurteile anzugehen. Sie nennen ihren Ansatz den „General Phrase Debiaser“, ein System, das darauf ausgelegt ist, Sprachmodelle zu bereinigen, indem es auf Gruppen von Wörtern statt nur auf einzelnen Worten sucht. Die Forscher erkannten, dass sie, um das Problem wirklich zu lösen, die spezifischen Phrasen finden mussten, in denen die Voreingenommenheit des Modells am stärksten ist, und dann das Modell lehren mussten, diese Assoziationen zu ignorieren. Ihr Prozess beginnt mit einer klugen Methode zur Sammlung der für die Korrektur benötigten Beweise. Anstatt Menschen manuell bitten zu lassen, jede mögliche voreingenommene Phrase aufzuschreiben, was langsam und unvollständig wäre, scannt das System Wikipedia-Seiten. Es sucht nach Hyperlinks, die zu Themen wie Berufen, Mathematik, Kunst und Wissenschaft führen, und nutzt diese, um stereotype Phrasen zu identifizieren, die das Modell möglicherweise gelernt hat. Beispielsweise könnte es feststellen, dass das Modell „Mann“ stark mit „mathematischer Theorie“ und „Frau“ mit „Tanzkunst“ assoziiert.

Sobald das System diese voreingenommenen Phrasen identifiziert hat, geht es in die zweite Phase über: das Finden der exakten Fragen oder Prompts, die das Vorurteil des Modells auslösen. Stellen Sie sich vor, man bittet den Computer, einen Satz wie „Die [Person] ist ein Experte in [Lücke]“ zu vervollständigen. Die Forscher ließen den Computer durch Millionen möglicher Sätze suchen, um diejenigen zu finden, bei denen es am wahrscheinlichsten eine voreingenommene Vermutung anstellen würde. Sie suchen nicht nur nach Antworten mit einem einzelnen Wort; sie suchen nach Antworten mit mehreren Wörtern, wie etwa „mathematische Theorie“ gegenüber „Tanzkunst“, da sich dort die wahre Voreingenommenheit oft verbirgt. Durch die Messung, wie unterschiedlich das Modell auf diese Phrasen reagiert, wenn das Subjekt ein Mann im Vergleich zu einer Frau ist, berechnet das System einen Wert, der die Stärke der Voreingenommenheit repräsentiert. Die Forscher nutzen diesen Wert dann, um einen Feinabstimmungsprozess (Fine-Tuning) zu steuern. Sie speisen diese spezifischen, voreingenommenheits-auslösenden Sätze zurück in das Modell ein, passen aber dieses Mal die internen Einstellungen des Modells an, um den Unterschied in seinen Antworten zu verringern. Das Ziel ist nicht, das Wissen des Modells über Mathematik oder Kunst zu löschen, sondern sicherzustellen, dass es diese Felder nicht mehr mit einem bestimmten Geschlecht verknüpft.

Die Ergebnisse dieser Arbeit zeigen, dass das Anvisieren von Phrasen weita viel effektiver ist als das Anvisieren einzelner Wörter. Die Forscher testeten ihre Methode an drei bekannten Sprachmodellen unterschiedlicher Größe und fanden heraus, dass sie die geschlechtsspezifische Voreingenommenheit sowohl in beruflichen als auch in akademischen Disziplinen signifikant reduzierte. In Standardtests, die darauf ausgelegt sind, Voreingenommenheit zu messen, verbesserten sich die Modelle dramatisch. Beispielsweise sah eines der Modelle, BERT, seinen Bias-Wert von 0,35 auf 0,12 sinken, während ein anderes, ALBERT, von 0,72 auf 0,16 fiel. Diese Zahlen deuten darauf hin, dass die Modelle viel weniger wahrscheinlich dazu neigen, bestimmte Berufe oder Fachbereiche mit einem bestimmten Geschlecht zu assoziieren. Entscheidend ist, dass die Forscher auch überprüften, ob dieser Reinigungsprozess die Fähigkeit der Modelle zum allgemeinen Sprachverständnis beschädigt. Sie ließen die bereinigten Modelle durch eine Batterie von Standard-Sprachtests zu Grammatik, Sentiment und Logik laufen und fanden heraus, dass die Modelle fast alle ihre ursprünglichen Fähigkeiten beibehielten. Die Fähigkeit, Sprache zu verstehen, blieb intakt, was beweist, dass es möglich ist, schädliche Stereotypen zu entfernen, ohne die Intelligenz der Maschine zu beeinträchtigen.

Dieser Ansatz markiert einen Wandel in der Art und Weise, wie Forscher über die Behebung künstlicher Intelligenz denken. Frühere Methoden verließen sich oft auf externe Wortlisten, die von Menschen geschrieben wurden, oder versuchten, den gesamten Wortschatz des Modells auf einmal zu korrigieren, was ineffizient sein konnte oder die Nuancen der tatsächlichen Funktionsweise von Voreingenommenheit übersah. Der General Phrase Debiaser hingegen automatisiert die Entdeckung voreingenommener Phrasen und zielt auf die spezifischen Wortkombinationen ab, in denen das Problem existiert. Die Forscher argumentieren, dass diese Korrektur auf Multi-Token-Ebene essenziell ist, da menschliche Voreingenommenheit selten ein einzelnes Wort ist, sondern ein Muster der Assoziation, das über Phrasen hinweg reicht. Während sich die Studie auf Encoder-only-Modelle konzentrierte – einen spezifischen Typ von Sprachmodellen –, könnten die entdeckten Prinzipien potenziell auch auf andere Arten von Systemen anwendbar sein. Die Arbeit zeigt, dass wir, indem wir genauer auf die Struktur der Sprache blicken, Werkzeuge bauen können, die nicht nur klüger, sondern auch fairer sind und sicherstellen, dass die Computer der Zukunft die Vielfalt der Welt widerspiegeln, der sie dienen, anstatt die Beschränkungen ihrer Trainingsdaten.