Empire Amplifier: Uncovering and Contesting the Prioritization of Colonial Content on Platforms Through Community-Informed Algorithmic Auditing
Durch eine von der Gemeinschaft informierte algorithmische Prüfung von YouTube zeigt diese Studie, dass das Empfehlungssystem der Plattform russischsprachige Inhalte gegenüber kirgisischen für Kindnutzer unverhältnismäßig stark priorisiert und dadurch koloniale Sprachideologien verstärkt sowie die Wiederbelebung indigener Sprachen trotz Behauptungen, diverse Stimmen zu verstärken, bedroht.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich eine magische, unendliche Bibliothek namens YouTube vor. Der Besitzer der Bibliothek (der Algorithmus) ist wie ein sehr eifriger, überfürsorglicher Bibliothekar, der versucht zu erraten, was Sie als Nächstes lesen möchten.
Dieser Artikel handelt von einer Gruppe von Forschern, die nach Kirgisistan, einem Land in Zentralasien, reisten, um zu prüfen, ob dieser Bibliothekar die lokale Bevölkerung tatsächlich unterstützt oder ob er sie versehentlich (oder absichtlich) in Richtung einer anderen Kultur drängt.
Hier ist die Geschichte dessen, was sie fanden, einfach erzählt:
Die große Sorge: „Die Bibliothek stiehlt unsere Sprache"
Seit langem machen sich die Menschen in Kirgisistan Sorgen. Sie sprechen Kirgisisch, ihre Muttersprache, aber auch Russisch, aufgrund ihrer Geschichte mit dem Russischen Reich und der Sowjetunion.
Die Eltern in Kirgisistan bemerkten etwas Beunruhigendes: Ihre Kinder begannen, mehr Russisch als Kirgisisch zu sprechen. Sie machten die „magische Bibliothek" (YouTube) dafür verantwortlich. Sie hatten das Gefühl, dass die Bibliothek, selbst wenn sie versuchten, ihren Kindern kirgisische Cartoons zu zeigen, ihnen weiterhin russische Videos aufdrängte. Sie befürchteten, die Bibliothek bringe ihren Kindern bei, dass Russisch „cool" und Kirgisisch „langweilig" sei, und lösche damit effektiv ihre Kultur aus.
Die Untersuchung: Der „Sockenpuppen"-Test
Die Forscher fragten nicht nur die Eltern; sie wollten Beweise. Also bauten sie digitale „Sockenpuppen".
Stellen Sie sich diese Sockenpuppen als Roboter-Dummies vor.
- Sie schufen hunderte dieser Roboter.
- Einige Roboter gaben sich als neue Nutzer in der Hauptstadt aus.
- Andere gaben sich als neue Nutzer in einem winzigen, abgelegenen Dorf aus, in dem fast niemand Russisch spricht.
- Einige gaben sich als Kinder aus, die kirgisische Cartoons liebten.
- Andere gaben sich als Kinder aus, die russische Cartoons liebten.
Diese Roboter betraten die Bibliothek, klickten Videos an und notierten genau, was der Bibliothekar als Nächstes empfahl. Sie taten dies über 10.000 Mal.
Die schockierenden Ergebnisse
Die Roboter stellten fest, dass der Bibliothekar nicht auf die lokale Kultur hörte. Hier ist, was passierte:
- Das „Neuer Nutzer"-Problem: Selbst wenn ein Roboter zum allerersten Mal in ein abgelegenes Dorf ging, in dem niemand Russisch spricht, empfahl der Bibliothekar sofort russische Videos. Es spielte keine Rolle, wo sich der Roboter befand; der Bibliothekar ging davon aus, dass alle russische Inhalte wollten.
- Das „Kind"-Problem: Wenn die Roboter sich als Kinder ausgaben, die nach Dingen suchten, die Kinder lieben (wie „Cartoons" oder „Märchen"), gab ihnen der Bibliothekar überwiegend russische Ergebnisse, selbst wenn der Roboter die Suchbegriffe auf Kirgisisch eingegeben hatte.
- Die „Filterblase"-Falle: Dies war der überraschendste Teil. Wenn die Roboter sich wie Kinder verhielten, die kirgisische Inhalte wirklich liebten (sie schauten 10 kirgisische Cartoons hintereinander), hörte der Bibliothekar auf, kirgisische Videos zu empfehlen! Er wechselte tatsächlich dazu, englische oder russische Videos zu empfehlen.
- Vergleich: Stellen Sie sich vor, Sie sagen einem Freund: „Ich möchte nur Äpfel essen." Er bringt Ihnen einen Apfel, sagt dann aber: „Okay, jetzt, wo Sie einen gegessen haben, hier ist ein ganzer Korb mit Orangen und Bananen, weil ich denke, Sie sind der Äpfel überdrüssig." Die Bibliothek bestrafte die Kinder dafür, dass sie ihre eigene Kultur mochten.
Warum passiert das?
Die Forscher prüften, ob es einfach nicht genug kirgisische Videos gab. Sie fanden Tausende von Stunden an kirgisischen Kinderinhalten, einschließlich Sendungen, die von der Regierung und großen internationalen Gruppen wie UNICEF produziert wurden.
Das Problem war nicht ein Mangel an Inhalten. Das Problem war das Gehirn des Algorithmus. Es schien so verdrahtet zu sein, dass es die Sprache des „Imperiums" (Russisch) gegenüber der lokalen Sprache priorisierte und alte Machtstrukturen verstärkte, in denen die Kultur des Kolonisators als überlegen angesehen wird.
Die gute Nachricht: Wie man sich wehren kann
Die Forscher wiesen nicht nur auf das Problem hin; sie fragten die Eltern: „Was können wir tun?" und testeten einige Ideen. Sie fanden ein paar „Hacks", um den Bibliothekar zu täuschen:
- Das Gerät teilen: Wenn ein Kind sein eigenes Handy benutzt, denkt die Bibliothek, es sei ein „russisches Kind", und zeigt ihm russische Videos. Wenn das Kind jedoch ein Familientablet mit einem Elternteil teilt, der kirgisische Inhalte anschaut, gerät die Bibliothek in Verwirrung. Sie sieht die Historie des Elternteils und beginnt, auch dem Kind kirgisische Videos zu empfehlen.
- Die Suche übersetzen: Wenn ein Kind auf Russisch nach einem Video fragt, kann der Elternteil diese Anfrage bevor sie eingegeben wird ins Kirgisische übersetzen. Dies zwingt die Bibliothek, kirgisische Ergebnisse anzuzeigen.
Die Hauptaussage
Der Artikel kommt zu dem Schluss, dass Technologieunternehmen zwar oft sagen: „Wir sind hier, um allen zu helfen, ihre Kultur zu teilen", aber in diesem Fall die Technologie tatsächlich ein Imperium verstärkte. Sie erschwerte das Überleben einer lokalen Kultur.
Die Geschichte ist jedoch nicht hoffnungslos. Indem man versteht, wie der Bibliothekar funktioniert, können Familien einfache Tricks (wie das Teilen von Geräten) anwenden, um die Kontrolle zurückzugewinnen und sicherzustellen, dass ihre Kinder ihre eigene Sprache und Kultur sehen, statt nur das, was der Algorithmus denkt, dass sie sehen sollten.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.