Bias Taught: Linguistic and Model Stereotypes in AI-Based Educational Evaluations
Diese Studie zeigt auf, dass große Sprachmodelle systematische linguistische und kulturelle Vorurteile in Bildungsbewertungen aufweisen, indem sie Bewertungen mit variierender Schwierigkeit und Länge über verschiedene Sprachen hinweg generieren, die mit PISA-Ergebnissen korrelieren, während sie gleichzeitig Stereotypen verstärken, die im westlichen Kontext Empathie und im asiatischen Kontext Hierarchie betonen, was vor dem Einsatz kulturschützende Audits erforderlich macht.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
In den modernen Klassenzimmern findet eine stille Revolution statt. Lehrer und Schüler wenden sich zunehmend der künstlichen Intelligenz zu, insbesondere großen Sprachmodellen, um beim Entwerfen von Tests, dem Bewerten von Arbeiten und dem Geben von Feedback zu helfen. Diese Computerprogramme wurden mit riesigen Mengen an Text aus dem Internet trainiert und haben gelernt, vorherzusagen, welche Wörter als Nächstes in einem Satz folgen sollten. Da sie so gut darin sind, die menschliche Schreibweise nachzuahmen, beginnen Schulen damit, sie zur Erstellung von Lehrmaterialien für Schüler auf der ganzen Welt einzusetzen. Es wächst jedoch die Sorge, dass diese Werkzeuge nicht so neutral sein könnten, wie sie scheinen. Genau wie ein Mensch unbewusste Überzeugungen darüber haben kann, wie verschiedene Gruppen von Menschen lernen, könnten diese Computerprogramme ähnliche Vorurteile aus den Daten absorbiert haben, mit denen sie gefüttert wurden. Wenn ein KI-System einen Schüler anders behandelt, nur weil er eine Frage in einer anderen Sprache gestellt hat, könnte dies ein ungerechtes Lernumfeld schaffen, das alte Stereotypen verstärkt, anstatt Schülern zum Erfolg zu verhelfen.
Ein Forscherteam des Bowdoin College beschloss zu testen, ob diese digitalen Werkzeuge wirklich unparteiisch sind. Sie wollten herausfinden, ob die Sprache, die ein Schüler zur Hilfeleistung verwendet, die Schwierigkeit der vom Computer zugewiesenen Arbeit verändern würde. Zu diesem Zweck baten sie vier der populärsten KI-Modelle, Mathe-, Lese- und Naturwissenschaftstests für fünfzehnjährige Schüler zu erstellen. Sie gaben jedem Computer exakt dieselben Anweisungen, übersetzten diese Anweisungen jedoch in acht verschiedene Sprachen: Arabisch, Englisch, Französisch, Deutsch, Hindi, Mandarin, Portugiesisch und Spanisch. Insgesamt sammelten die Forscher mehr als viertausend Antworten der Maschinen. Sie analysierten anschließend die Länge der Tests, wie schwer die Modelle die Tests einschätzten und welche Verhaltensweisen die Modelle als „gut“ oder „schlecht“ für Schüler und Lehrer betrachteten.
Die Ergebnisse zeigten ein auffälliges Muster. Wenn die Forscher die KI baten, einen Test auf Hindi oder Mandarin zu erstellen, generierte der Computer konsistent viel längere und schwierigere Aufgaben als wenn er dieselbe Aufgabe auf Arabisch, Deutsch oder Spanisch ausführen sollte. Beispielsweise schätzte eines der Modelle, dass ein Mathetest in Mandarin einem Schüler zwei Stunden zur Bearbeitung abverlangen würde, während ein Test auf Spanisch weniger als eine Stunde dauern würde, obwohl die Anweisungen identisch waren. Die Modelle bewerteten die Schwierigkeit der Hindi- und Mandarin-Tests auch als signifikant höher. Dies war kein zufälliger Fehler; die Unterschiede waren so konsistent, dass sie bei allen vier verschiedenen KI-Systemen, die die Forscher getestet hatten, auftraten. Die Studie ergab, dass die Schwierigkeit und die Länge der KI-generierten Tests stark mit den internationalen Rankings der Schülerleistungen übereinstimmten. Mit anderen Worten: Die Computer schienen zu glauben, dass Schüler aus Ländern mit hohen Testergebnissen härtere Arbeit verdienten, während Schüler aus Ländern mit niedrigeren Ergebnissen leichtere Arbeit verdienten, ungeachtet des tatsächlichen Schülers, der vor dem Bildschirm saß.
Über das Erstellen von Tests hinaus fragten die Forscher die KI auch danach, wie eine „gute“ Lehrkraft oder ein „guter“ Schüler aussieht. Auch hier veränderte die verwendete Sprache die Antwort. Wenn der Prompt auf Englisch, Deutsch oder Portugiesisch war, neigte die KI dazu, gute Lehrer als empathisch, geduldig und auf den Aufbau von Beziehungen zu Schülern fokussiert zu beschreiben. Wenn der Prompt jedoch auf Hindi oder Mandarin war, beschrieb die KI gute Lehrer als streng, diszipliniert und auf Wissen sowie Hierarchie fokussiert. Ähnlich beschrieben die Modelle „schlechte“ Schüler je nach Sprache unterschiedlich. In einigen Sprachen konzentrierte sich die KI auf mangelnde Disziplin oder Aufschieberitis, während sie sich in anderen auf mangelnden Respekt oder allgemeines Fehlverhalten konzentrierte. Diese Unterschiede legen nahe, dass die KI nicht nur Wörter übersetzt, sondern aus einer Datenbank kultureller Stereotypen darüber abruft, wie Bildung in verschiedenen Teilen der Welt funktioniert.
Die Forscher prüften sorgfältig, ob diese Unterschiede lediglich darauf zurückzuführen waren, dass verschiedene Länder unterschiedliche Lehrpläne haben. Sie konsultierten eine Gruppe von Pädagogen aus der ganzen Welt, um zu sehen, ob die KI lediglich nationale Standards befolgte. Sie fanden heraus, dass Lehrplanunterschiede nur einen winzigen Bruchteil der Ergebnisse erklären konnten. Der Großteil der Variation stammte von der KI selbst. Die Studie legt nahe, dass diese Computerprogramme gelernt haben, bestimmte Sprachen mit spezifischen akademischen Erwartungen zu assoziieren, und somit effektiv als Spiegel globaler Ungleichheiten fungieren. Wenn ein Schüler in einem nicht-westlichen Land einen KI-Tutor nutzt, könnte er eine viel schwerere Arbeitslast oder eine andere Art von Feedback erhalten als ein Schüler in einem westlichen Land, einfach aufgrund der Sprache, die er spricht.
Diese Forschung hebt ein kritisches Problem für die Zukunft der Bildung hervor. Da Schulen sich immer mehr auf künstliche Intelligenz verlassen, um Unterricht zu gestalten und Schüler zu bewerten, besteht das Risiko, dass diese Werkzeuge im Stillen schädliche Stereotypen verstärken. Die KI trifft diese Urteile nicht, weil sie die Schüler versteht; sie wiederholt Muster, die sie in ihren Trainingsdaten gefunden hat. Die Studie kommt zu dem Schluss, dass diese Werkzeuge, bevor sie in Klassenzimmern weit verbreitet werden, geprüft werden müssen, um sicherzustellen, dass sie Schüler nicht aufgrund ihrer Sprache ungleich behandeln. Ohne diese Prüfung könnte das Versprechen einer personalisierten, globalen Bildung stattdessen zu einem System werden, das die Kluft zwischen Schülern vertieft und ihnen lehrt, dass ihr Potenzial durch die Sprache definiert wird, die sie sprechen, und nicht durch ihre eigenen Fähigkeiten.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.