Beyond the Feed: How Generative AI is Reshaping Children's Social Media Ecologies in the Global South
Dit artikel stelt een "dubbele bemiddeling"-framework voor om te analyseren hoe generatieve AI en platformdatalogica gezamenlijk de sociale media-ervaringen van kinderen in het Mondiale Zuiden hervormen, waarbij Egypte als casestudy wordt gebruikt om aan te tonen dat huidige beleidsregels voor leeftijdsbeperking falen in het adresseren van de complexe culturele en taalkundige vooroordelen die in deze AI-systemen zijn ingebed.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Decennialang heeft het onderzoek naar hoe kinderen online opgroeien zich gericht op het scherm als een venster. Onderzoekers begrijpen al lang dat sociale mediaplatforms geen neutrale achtergronden zijn; het zijn actieve poortwachters die beslissen wat een kind ziet, wat hen wordt aangemoedigd te doen en hoe zij worden gevolgd. Dit proces, vaak datificatie genoemd, verandert elke klik en scroll in een verslag dat bedrijven gebruiken om aandacht te verkopen en gedrag te vormen. De zorg is altijd geweest dat deze digitale omgevingen zijn ontworpen om kinderen te laten kijken, vaak ten koste van hun privacy of welzijn. Maar het landschap is onder onze voeten verschoven. De hulpmiddelen die kinderen gebruiken om met vrienden te praten en foto's te delen, zijn niet langer alleen bezig met het verzamelen van gegevens; ze genereren nu nieuwe realiteiten. Kunstmatige intelligentie is verschoven van een apart hulpmiddel dat een kind zou kunnen openen om te helpen bij het huiswerk naar een onzichtbare laag die direct in de apps is geweven die zij dagelijks gebruiken. Deze systemen kunnen bijschriften schrijven, gesprekken simuleren en zelfs hele personages creëren die terugpraten. De vraag voor onderzoekers is niet langer hoe het platform de inhoud selecteert, maar hoe de kunstmatige intelligentie erin nieuwe inhoud creëert, en wat er gebeurt wanneer die twee krachten samenwerken op de ontwikkelende geest van een kind.
Nermeen Singer, Fathey El Sharkawy en Amira Ismail stellen een nieuwe manier voor om deze complexe situatie te begrijpen, een concept dat zij "dubbele bemiddeling" noemen. Zij betogen dat we sociale media en kunstmatige intelligentie niet langer als afzonderlijke kwesties kunnen beschouwen. In plaats daarvan wordt de ervaring van een kind nu dubbel gevormd. De eerste laag is de vertrouwde laag: het algoritme van het platform dat content sorteert en selecteert op basis van wat een gebruiker betrokken houdt. De tweede laag is de nieuwe laag: de generatieve kunstmatige intelligentie die bovenop die selectie zit en nieuwe tekst, afbeeldingen en gesprekken creëert op basis van zijn eigen training. De onderzoekers suggereren dat deze twee lagen niet simpelweg optellen; ze compliceren elkaar. Het kunstmatige intelligentiesysteem reageert niet alleen op het kind; het reageert met zijn eigen ingebouwde aannames over cultuur, taal en identiteit, die vervolgens weer worden gevoed aan het platformalgoritme, waardoor de ervaring van het kind verder wordt ingeperkt.
Om dit idee te testen, richten de auteurs zich op Egypte en de bredere Arabische regio, een plek waar de impact van deze dubbele laag specifief en grotendeels genegeerd wordt. Terwijl het meeste onderzoek naar kinderen en technologie uit de Verenigde Staten en Europa komt, wijzen de auteurs erop dat de kunstmatige intelligentiesystemen die deze wereldwijde apps aandrijven, voornamelijk zijn getraind op Engelse data en Westerse culturele normen. In Egypte, waar het internet door bijna 82 procent van de bevolking wordt gebruikt en waar sociale media voor miljoenen jongeren een standaard manier van leven zijn, creëert deze mismatch een specifiek probleem. Wanneer een Egyptische tiener een app gebruikt, duwt de eerste laag van bemiddeling hen naar content die wereldwijd populair is en vaak Westers gecodeerd is. De tweede laag, de kunstmatige intelligentie, genereert vervolgens reacties of suggesties die uitgaan van Westerse culturele referenties, voedsel en sociale normen, waarbij ze vaak de nuances van het Egyptisch-Arabische dialect, lokale religieuze praktijken of familiestructuren niet begrijpen of respecteren.
De onderzoekers benadrukken dat dit geen klein technisch mankement is, maar een systematische bias. Studies tonen aan dat wanneer kunstmatige intelligentiemodellen worden gevraagd om content te genereren in vloeiend, natuurlijk Arabisch, ze vaak terugvallen op Westerse entiteiten en ideeën, zelfs wanneer de gebruiker in hun lokale dialect spreekt. Voor een kind in Egypte betekent dit dat de hulpmiddelen die bedoeld zijn om hen te helpen zichzelf uit te drukken — zoals een chatbot-metgezel of een bijschriftegenerator — hun identiteit subtiel kunnen sturen naar een cultureel register dat niet het hunne is. Dit is bijzonder significant omdat familie- en gemeenschapsbemiddeling in Egypte vaak rust op collectieve verantwoordelijkheid en religieuze kaders die verschillen van de individualistische, therapeutische modellen die in veel van deze AI-metgezellen zijn ingebouwd. Een kind kan zich tot een AI wenden voor een privégesprek, hopend op een luisterend oor zonder oordeel, om vervolgens een systeem te vinden dat hun culturele context niet begrijpt of het belang van hun familienetwerk niet erkent.
De auteurs onderzoeken ook hoe huidige wetten proberen kinderen te beschermen, waarbij zij opmerken dat deze regelgeving vaak de tweede helft van het probleem mist. Zij kijken naar de recente wet in Australië, die kinderen onder zestien jaar verbiedt sociale media te gebruiken, en soortgelijke voorstellen in Groot-Brittannië en Frankrijk. Hoewel deze wetten zich richten op leeftijdsverificatie en toegangscontrole, betogen de onderzoekers dat zij slechts de eerste laag van bemiddeling aanpakken. Zelfs als een wet erin slaagt een kind van een platform weg te houden, doet het niets aan de kunstmatige intelligentiesystemen die de ervaring zullen vormen van de tiener die zestien wordt en toegang krijgt. De wet kan voorkomen dat een kind inlogt, maar het zorgt er niet voor dat de AI-metgezel die op hen wacht cultureel responsief is of dat de gegenereerde inhoud hun lokale identiteit respecteert. De auteurs suggereren dat het eigen opkomende wetgevingsdebat in Egypte een kans biedt om het beter te doen, door voor te stellen dat regelgeving platforms verplicht om openbaar te maken wanneer kinderen met kunstmatige intelligentie interageren en om hun systemen te testen op culturele bias in lokale talen, in plaats van alleen te vertrouwen op Engels of standaard Arabisch.
Uiteindelijk dient het artikel als een oproep tot actie voor onderzoekers en beleidsmakers om te stoppen met het behandelen van sociale media en kunstmatige intelligentie als afzonderlijke velden. De auteurs suggereren dat we nieuwe studies nodig hebben die direct kijken naar hoe kinderen in het Mondiale Zuiden deze dubbele lagen van bemiddeling navigeren. Zij betogen dat we, zonder de culturele vooroordelen van kunstmatige intelligentie te begrijpen die interageren met de datagestuurde logica van platforms, de digitale jeugd van miljoenen jonge mensen niet volledig kunnen begrijpen. Het doel is niet om te zeggen dat kunstmatige intelligentie inherent schadelijk is, maar om te erkennen dat het huidige ontwerp een specifieke, ongelijke ervaring creëert voor kinderen wiens talen en culturen niet de primaire focus zijn van de makers van de technologie. Door deze twee literaturen samen te brengen, hopen de onderzoekers een duidelijker beeld te schetsen van de digitale wereld waarin kinderen opgroeien, een wereld waarin de onzichtbare hand van kunstmatige intelligentie eindelijk wordt gezien voor wat het is: een krachtige, tweede laag van bemiddeling die identiteit, cultuur en verbinding vormt op manieren die we pas net beginnen te begrijpen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.