Empire Amplifier: Uncovering and Contesting the Prioritization of Colonial Content on Platforms Through Community-Informed Algorithmic Auditing
Door middel van een door de gemeenschap geïnformeerde algoritmische audit van YouTube onthult dit onderzoek dat het aanbevelingssysteem van het platform kindergebruikers onevenredig sterk Russisch-talige inhoud prioriteert boven Kirgizisch, waardoor koloniale taalkundige ideologieën worden versterkt en de herleving van inheemse talen wordt bedreigd, ondanks beweringen dat diverse stemmen worden versterkt.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je een magische, oneindige bibliotheek voor die YouTube heet. De eigenaar van deze bibliotheek (het algoritme) is als een zeer enthousiaste, overbeschermende bibliothecaris die probeert te raden wat je als volgende wilt lezen.
Dit artikel gaat over een groep onderzoekers die naar Kirgizië reisden, een land in Centraal-Azië, om te controleren of deze bibliothecaris de lokale bevolking daadwerkelijk hielp of of ze hen per ongeluk (of opzettelijk) naar een andere cultuur duwden.
Hier is het verhaal van wat ze ontdekten, in eenvoudige bewoordingen verteld:
De Grote Zorgen: "De Bibliotheek Steelt Onze Taal"
Al lang maken de mensen in Kirgizië zich zorgen. Ze spreken Kirgizisch, hun moedertaal, maar ze spreken ook Russisch vanwege hun geschiedenis met het Russische Rijk en de Sovjet-Unie.
De ouders in Kirgizië merkten iets engs op: hun kinderen begonnen meer Russisch te spreken dan Kirgizisch. Ze gaven de "magische bibliotheek" (YouTube) de schuld. Ze voelden dat, zelfs wanneer ze hun kinderen Kirgizische tekenfilms probeerden te tonen, de bibliotheek hen voortdurend Russische video's opstopte. Ze waren bang dat de bibliotheek hun kinderen leerde dat Russisch "cool" is en Kirgizisch "saai", waardoor hun cultuur effectief werd uitgewist.
Het Onderzoek: De "Sokpop"-test
De onderzoekers vroegen niet alleen aan de ouders; ze wilden bewijs. Dus bouwden ze digitale "sokpoppen".
Zie deze sokpoppen als robotpoppen.
- Ze creëerden honderden van deze robots.
- Sommige robots deden zich voor als nieuwe gebruikers in de hoofdstad.
- Sommige deden zich voor als nieuwe gebruikers in een klein, afgelegen dorp waar bijna niemand Russisch spreekt.
- Sommige deden zich voor als kinderen die Kirgizische tekenfilms liefhadden.
- Sommige deden zich voor als kinderen die Russische tekenfilms liefhadden.
Deze robots gingen de bibliotheek binnen, klikten op video's en schreven precies op wat de bibliothecaris als volgende aanbeval. Ze deden dit meer dan 10.000 keer.
De Schokkende Resultaten
De robots ontdekten dat de bibliothecaris niet luisterde naar de lokale cultuur. Dit is wat er gebeurde:
- Het "Nieuwe Gebruiker"-probleem: Zelfs wanneer een robot voor het eerst de bibliotheek binnenkwam in een afgelegen dorp waar niemand Russisch spreekt, raadde de bibliothecaris direct Russische video's aan. Het maakte niet uit waar de robot was; de bibliothecaris ging ervan uit dat iedereen Russische inhoud wilde.
- Het "Kind"-probleem: Wanneer de robots zich voordeden als kinderen die zochten naar dingen waar kinderen van houden (zoals "tekenfilms" of "sprookjes"), gaf de bibliothecaris hen voornamelijk Russische resultaten, zelfs als de robot de zoekwoorden in Kirgizisch tikte.
- De "Filterbel"-valstrik: Dit was het meest verrassende deel. Wanneer de robots zich voordeden als kinderen die echt van Kirgizische inhoud hielden (door 10 Kirgizische tekenfilms achter elkaar te kijken), stopte de bibliothecaris met het aanbevelen van Kirgizische video's! Hij schakelde daadwerkelijk over naar het aanbevelen van Engelse of Russische video's.
- Vergelijking: Stel je voor dat je tegen een vriend zegt: "Ik wil alleen appels eten." Ze brengen je een appel, maar zeggen dan: "Oké, nu je er een hebt, hier is een hele mand met sinaasappels en bananen, want ik denk dat je het zat bent met appels." De bibliotheek strafte de kinderen voor het houden van hun eigen cultuur.
Waarom Gebeurt Dit?
De onderzoekers controleerden of er gewoon niet genoeg Kirgizische video's waren. Ze vonden duizenden uren aan Kirgizische inhoud voor kinderen, inclusief shows gemaakt door de overheid en grote internationale groepen zoals UNICEF.
Het probleem was niet een gebrek aan inhoud. Het probleem was het brein van het algoritme. Het leek zo te zijn geprogrammeerd dat het de taal van het "Rijk" (Russisch) prioriteit gaf boven de lokale taal, waardoor oude machtsstructuren werden versterkt waarbij de cultuur van de kolonisator als superieur wordt gezien.
Het Goede Nieuws: Hoe Je Je kunt Verdedigen
De onderzoekers wezen niet alleen op het probleem; ze vroegen de ouders: "Wat kunnen we doen?" en testten enkele ideeën. Ze vonden een paar "hacks" om de bibliothecaris te bedriegen:
- Deel het Apparaat: Als een kind zijn eigen telefoon gebruikt, denkt de bibliotheek dat het een "Russisch kind" is en toont het hen Russische video's. Maar als het kind een familie-tablet deelt met een ouder die Kirgizische inhoud kijkt, raakt de bibliotheek in de war. Hij ziet de geschiedenis van de ouder en begint ook Kirgizische video's aan het kind aan te bevelen.
- Vertaal de Zoekopdracht: Als een kind om een video vraagt in het Russisch, kan de ouder die vraag voordat het wordt getypt, vertalen naar Kirgizisch. Dit dwingt de bibliotheek om Kirgizische resultaten te tonen.
De Belangrijkste Conclusie
Het artikel concludeert dat, terwijl technologiebedrijven vaak zeggen: "Wij zijn hier om iedereen te helpen hun cultuur te delen", in dit geval de technologie eigenlijk een rijk versterkte. Het maakte het moeilijker voor een lokale cultuur om te overleven.
Echter, het verhaal is niet hopeloos. Door te begrijpen hoe de bibliothecaris werkt, kunnen families eenvoudige trucs gebruiken (zoals het delen van apparaten) om de controle terug te nemen en ervoor te zorgen dat hun kinderen hun eigen taal en cultuur zien, in plaats van alleen maar wat het algoritme denkt dat ze zouden moeten zien.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.