Shaping the Future of Generative AI for Black Communities: A Frame Analysis of Public Discourse and Empirical Scholarly Research

Stel je een wereld voor waarin computers verhalen kunnen schrijven, afbeeldingen kunnen genereren en vragen kunnen beantwoorden met de gemak van een menselijk gesprek. Deze technologie, bekend als generatieve kunstmatige intelligentie, beweegt zich razendsnel van sciencefiction naar scholen, ziekenhuizen en werkplekken. Maar naarmate deze hulpmiddelen deel uitmaken van het dagelijks leven, rijst een cruciale vraag: wie dienen ze, en wie laten ze achter? Al decennia weten onderzoekers dat computersystemen de vooroordelen van hun makers kunnen aanleren, waarbij ze mensen van kleur vaak onrechtvaardig behandelen. Deze nieuwe studie stelt een diepere vraag over hoe we over deze problemen praten. Het kijkt naar twee verschillende groepen mensen die proberen deze problemen op te lossen: de journalisten en gemeenschapsleiders die in het nieuws schrijven, en de wetenschappers die artikelen publiceren in academische tijdschriften. De onderzoekers wilden zien of deze twee groepen hetzelfde probleem op dezelfde manier bekeken, of dat ze totaal verschillende talen spraken.

De studie, uitgevoerd door een team van wetenschappers en industrieonderzoekers, zette zich af om te vergelijken hoe het publiek de gevaren van kunstmatige intelligentie voor zwarte gemeenschappen begrijpt versus hoe wetenschappers diezelfde gevaren bestuderen. Ze verzamelden twee grote collecties teksten om te analyseren. De eerste collectie bestond uit 28 publieke bronnen, zoals nieuwsartikelen, opiniestukken en rapporten van denktanks, die vertegenwoordigen hoe het algemene publiek en de media deze kwesties bespreken. De tweede collectie was een systematische review van 91 wetenschappelijke artikelen gepubliceerd in belangrijke computerwetenschappelijke conferenties tussen 2010 en 2025. Het team gebruikte een methode genaamd frame-analyse om deze teksten te lezen. Deze benadering telt niet alleen woorden; het kijkt naar hoe een verhaal wordt geconstrueerd. Het stelt vier specifieke vragen: Hoe wordt het probleem gedefinieerd? Wat wordt geïdentificeerd als de oorzaak? Wat is het morele oordeel over de situatie? En welke oplossing wordt voorgesteld? Door deze lens toe te passen op zowel het nieuws als de wetenschap, konden de onderzoekers precies in kaart brengen waar de twee werelden overeenkomen en waar ze uiteenlopen.

De bevindingen onthullen een aanzienlijke kloof tussen hoe het publiek het probleem ziet en hoe onderzoekers proberen het op te lossen. In het publieke discours is het verhaal duidelijk en structureel. Wanneer journalisten en gemeenschapsleiders de schade bespreken die wordt veroorzaakt door kunstmatige intelligentie, wijzen ze bijna altijd naar diepe, historische wortels. Ze beschrijven het probleem als een resultaat van eeuwen van systemisch racisme en onrechtvaardige beleid die de samenleving hebben gevormd. Hun voorgestelde oplossingen zijn even breed en pleiten voor overheidsregulering, veranderingen in wervingspraktijken en nieuwe wetten om gemeenschappen te beschermen. Ze zien de technologie als een spiegel die een gebroken samenleving reflecteert, en ze beargumenteren dat het repareren van de spiegel vereist dat de samenleving zelf wordt gerepareerd.

In contrast hiermee vertelt de wetenschappelijke literatuur een ander, veel nauwer verhaal. De onderzoekers ontdekten dat de overgrote meerderheid van de 91 academische artikelen zich bijna uitsluitend richtte op technische oplossingen. Wanneer wetenschappers een probleem identificeerden, keken ze zelden naar de geschiedenis of de samenleving als oorzaak. In plaats daarvan wezen ze naar de data die gebruikt worden om de computermodellen te trainen. Ze voerden aan dat de bias bestond omdat de trainingsdata gebrekkig was. Bijgevolg waren hun oplossingen bijna volledig technisch: ze stelden het creëren van betere datasets voor, het schrijven van nieuwe code om fouten te detecteren, of het aanpassen van de algoritmen. Terwijl het publieke discours pleitte voor wetgeving en maatschappelijke verandering, riepen de wetenschappelijke artikelen om betere engineering. De studie suggereert dat dit geen toeval is of een simpel verschil van mening. Integendeel, het geeft aan dat de wetenschappelijke gemeenschap grotendeels is nagelaten de diepere structurele omstandigheden aan te pakken die de bias in de eerste plaats mogelijk maken.

Misschien wel de meest opvallende ontdekking was waar beide groepen het over eens waren, en wat ze beiden misten. Zowel de nieuwsartikelen als de wetenschappelijke artikelen waren het erover eens dat de meest zichtbare schade "representatieve schade" was. Dit verwijst naar de manier waarop deze systemen de zwarte identiteit vervormen of uitwissen, zoals het genereren van afbeeldingen van zwarte mensen met een lichtere huidskleur of het gebruik van stereotypen in tekst. Omdat beide groepen zo zwaar focusten op dit specifieke type schade, stelden ze beide oplossingen voor die gericht waren op het nauwkeuriger maken van de beelden en woorden. Echter, door dit te doen, negeerden beide groepen grotendeels een cruciaal perspectief: het idee dat zwarte gemeenschappen degene zouden moeten zijn die de leiding nemen bij het ontwerp en de besluitvorming van deze technologieën. De studie vond dat zwarte mensen in het nieuws vaak werden neergezet als slachtoffers die bescherming nodig hebben, terwijl ze in de wetenschappelijke artikelen werden behandeld als subjecten om te bestuderen of datapunten om te meten. Noch de journalisten, noch de wetenschappers frameerden zwarte gemeenschappen consistent als de experts of de architecten die moeten beslissen hoe deze krachtige instrumenten gebouwd en beheerd moeten worden.

De onderzoekers stellen dat deze gedeelde focus op representatie, hoewel belangrijk, een valstrik is. Door zich alleen te concentreren op het eerlijker of nauwkeuriger maken van de technologie, missen beide groepen het grotere plaatje. Ze proberen de output van de machine te repareren zonder de regels te bevragen die de creatie van de machine beheersen. De studie suggereert dat echte vooruitgang meer vereist dan alleen betere data of nieuwe wetten; het vereist een fundamentele verschuiving in wie de macht bezit. Het roept op tot een toekomst waarin zwarte gemeenschappen niet slechts formeel worden geraadpleegd, maar worden erkend als de primaire autoriteiten over wat deze technologieën moeten doen en hoe ze moeten worden gebruikt. Totdat de wetenschappelijke gemeenschap verder kijkt dan technische aanpassingen om zich te engageren met de structurele realiteiten van de samenleving, en totdat het publieke discours verder kijkt dan het zien van zwarte mensen als passieve ontvangers van technologie, zal de kloof tussen de belofte van kunstmatige intelligentie en de realiteit van de impact ervan groot blijven. De studie concludeert dat het overbruggen van deze kloof een nieuwe manier van denken vereist, één die zwarte kennis en ervaring niet behandelt als een variabele die gecorrigeerd moet worden, maar als het fundament voor het bouwen van een betere toekomst.