Decolonizing AI Ethics in Education: A Systematic Review and Glocalized Framework (FGAIEE)

Stellen Sie sich eine Welt vor, in der die Regeln dafür, wie wir einander behandeln, von einer einzigen Gruppe von Menschen geschrieben werden, die ausschließlich ihre eigene Geschichte und Sprache verwenden, und diese dann auf alle anderen anwenden. Dies ist die aktuelle Realität für künstliche Intelligenz in Schulen. Da Computer immer intelligenter werden, werden sie zunehmend eingesetzt, um Tests zu bewerten, Lektionen zu empfehlen und sogar zu entscheiden, wer eine Universität besuchen darf. Aber die ethischen Leitlinien, die diese Systeme fair halten sollen, werden größtenteils in wohlhabenden, westlichen Nationen erstellt. Diese Leitlinien setzen voraus, dass jeder auf die gleiche Weise denkt, spricht und lernt. Wenn diese Regeln auf Schüler in Afrika, Asien oder Lateinamerika angewendet werden, versagen sie oft. Sie könnten einen Akzent eines Schülers missverstehen, lokale kulturelle Werte ignorieren oder einfach nicht funktionieren, weil die Internetverbindung zu langsam ist. Das Ergebnis ist ein System, das behauptet, fair zu sein, aber in Wirklichkeit bestimmte Gruppen weiter an den Rand drängt.

Dieses Ungleichgewicht hat unter Forschern eine neue Frage ausgelöst: Wer entscheidet darüber, was richtig ist? Ein Team von Wissenschaftlern aus Indonesien hat sich das Ziel gesetzt, dies zu beantworten, indem sie analysieren, wie KI-Ethik tatsächlich in Klassenzimmern auf der ganzen Welt angewendet wird. Sie haben nicht nur die Regeln gelesen; sie untersuchten die 84 veröffentlichten Studien, die die Menschen diskutieren, die die Leitlinien verfasst haben, die Schüler, die sie betreffen, und die Orte, an denen sie eingesetzt werden. Ihr Ziel war es, einen Weg zu finden, damit KI-Ethik für alle funktioniert, nicht nur für die wenigen, die die Macht besitzen, die Leitlinien zu schreiben. Sie nennen diesen Ansatz „glokal“, eine Mischung aus global und lokal, was darauf hindeutet, dass gute Regeln mit dem gesamten Blick auf die Welt erstellt werden müssen, aber so gebaut sein müssen, dass sie den spezifischen Bedürfnissen der jeweiligen Gemeinschaft gerecht werden.

Die Forscher begannen damit, 84 verschiedene Studien zu sammeln, die zwischen 2015 und 2025 veröffentlicht wurden. Sie suchten nach jeglicher Forschung, die diskutierte, wie KI in der Bildung eingesetzt wird und ob sie fair ist. Sie sortierten tausende Artikel aus und behielten nur jene, die echte Belege oder tiefe Analysen darüber lieferten, wie diese Systeme in der Praxis funktionieren. Sie schenkten Studien aus dem „Globalen Süden“ besondere Aufmerksamkeit – ein Begriff, der Regionen beschreibt, die oft bei Gesprächen über Technologie vernachlässigt wurden, einschließlich Ländern in Afrika, Lateinamerika und Teilen Asiens. Durch die Konzentration auf diese Stimmen innerhalb der bestehenden Literatur hoffte das Team, ein anderes Bild davon zu zeichnen, wie ethische KI aussehen sollte.

Was sie fanden, war eine klare Kluft. Die überwiegende Mehrheit der Regeln und Leitlinien stammt von Institutionen aus Europa und Nordamerika. Diese Regeln werden oft als eine einfache Checkliste von Werten formuliert, wie etwa „sei fair“ oder „sei transparent“. Die Studie zeigt jedoch, dass diese Checklisten selten die tatsächliche Arbeitsweise in Schulen in anderen Teilen der Welt verändern. In vielen Fällen werden Schulen im Globalen Süden angewiesen, diese westlichen Regeln zu übernehmen, ohne dass sie zuvor um ihre Meinung gebeten wurden. Die Forscher fanden heraus, dass KI-Systeme, die ausschließlich mit englischen Daten und westlichen Ideen aufgebaut werden, häufiger Fehler machen, wenn sie auf Schüler mit anderen Sprachen oder anderen kulturellen Hintergründen treffen. Zum Beispiel haben automatisierte Bewertungstools oft Schwierigkeiten mit nicht-muttersprachlichen Englischsprechern und geben ihnen niedrigere Punktzahlen – nicht, weil ihre Arbeit schlechter ist, sondern weil der Computer ihre Art zu sprechen nicht versteht.

Die Studie zeigte auch, dass die Menschen, die durch diese Regeln geschützt werden sollen – Lehrer, Schüler und lokale Führungspersönlichkeiten – selten am Entscheidungsprozess beteiligt sind. In den wenigen Fällen, in denen lokale Gemeinschaften einbezogen wurden, war diese Beteiligung oft nur eine Formalität, ein Häkchen, das gesetzt werden musste, statt einer echten Partnerschaft. Die Forscher stellten fest, dass die Technologie oft die Probleme nicht löst, die sie eigentlich beheben sollte, wenn lokale Stimmen ignoriert werden. Anstatt allen beim Lernen zu helfen, kann sie bestehende Ungleichheiten vertiefen und es denjenigen erschweren, die ohnehin schon Schwierigkeiten haben, Schritt zu halten.

Doch die Geschichte endet nicht mit dem Scheitern. Die Forscher entdeckten auch eine wachsende Bewegung lokaler Lösungen, die viel besser funktionieren. In Ghana beispielsweise nutzen Schulen ein Konzept namens „Ubuntu“, das betont, dass ein Mensch ein Mensch durch andere Menschen ist. Diese Idee wird genutzt, um KI-Systeme zu entwerfen, die sich auf Gemeinschaftsvertrauen und geteilte Verantwortung konzentrieren, anstatt nur auf individuelle Leistungen. In Südostasien wird ein anderer Ansatz namens „Gotong Royong“, was bedeutet, gemeinsam für das Gemeinwohl zu arbeiten, genutzt, um sicherzustellen, dass jeder ein Mitspracherecht bei der Nutzung von Technologie hat. Diese lokalen Methoden sind nicht bloß kleine Anpassungen an die großen globalen Regeln; sie sind völlig andere Denkweisen darüber, was richtig und falsch ist. Sie behandeln lokales Wissen als ebenso wichtig wie westliche Wissenschaft.

Das Team kam zu dem Schluss, dass die derzeitige Vorgehensweise fehlerhaft ist, da sie Ethik als ein Produkt behandelt, das für jeden gleichermaßen passt. Sie argumentieren, dass wir aufhören müssen, zu versuchen, einen einzigen Satz von Regeln auf die ganze Welt zu erzwingen. Stattdessen schlagen sie einen neuen Rahmen vor: den „Framework for Glocalized AI Ethics in Education“. Dieser Ansatz legt nahe, dass ethische Regeln von Grund auf aufgebaut werden sollten. Das bedeutet, dass eine Schule in einem anderen Land, wenn sie KI nutzen möchte, in der Lage sein sollte, die Regeln so zu gestalten, dass sie zu ihrer eigenen Kultur, Sprache und ihren Bedürfnissen passen. Es bedeutet auch, dass die Unternehmen, die diese Werkzeuge verkaufen, nachweisen müssen, dass ihre Systeme fair für lokale Schüler funktionieren, bevor sie diese verkaufen dürfen.

Die Forscher schlagen drei Hauptschritte vor, um dies zu erreichen. Erstens muss das Wissen, das diese Systeme leitet, aus vielen verschiedenen Quellen stammen, nicht nur aus einer. Zweitens müssen die Menschen, die die Technologie nutzen, eine echte Stimme bei deren Design und Überprüfung haben. Drittens muss es echte Konsequenzen geben, wenn die Technologie nicht fair ist, wie etwa die Verweigerung des Kaufs von Werkzeugen, die nicht für alle funktionieren. Dies ist nicht nur eine Frage der Höflichkeit; es geht darum, sicherzustellen, dass die Technologie tatsächlich funktioniert. Die Studie zeigt, dass das Vertrauen in das System steigt und die Technologie für alle nützlicher wird, wenn lokale Gemeinschaften in das Design einbezogen werden.

Diese neue Denkweise bedeutet nicht, alle alten Regeln wegzuwerfen. Stattdessen bedeutet es, die Art und Weise zu ändern, wie wir sie erstellen. Es geht darum zu erkennen, dass es viele Wege gibt, ethisch zu handeln, genau wie es viele Wege gibt, eine Sprache zu sprechen oder eine Lektion zu lehren. Die Forscher glauben, dass wir, wenn wir ein System bauen können, das diese Unterschiede respektiert, eine KI schaffen können, die wirklich allen Schülern beim Lernen hilft. Sie sagen nicht, dass dies einfach ist oder dass es nicht über Nacht passieren wird. Aber sie sind sich einig, dass der aktuelle Pfad, auf dem einige wenige mächtige Gruppen für alle entscheiden, nicht funktioniert. Die Zukunft der KI in der Bildung hängt davon ab, den Menschen zuzuhören, die sie tatsächlich nutzen, und sicherzustellen, dass ihre Stimmen beim Design der Werkzeuge, die ihre Zukunft gestalten werden, gehört werden.