Text-to-image models globally default to male, enforce gender stereotypes, and penalize female and nonbinary representations
Deze studie presenteert de grootste wereldwijde analyse van tekst-naar-beeldmodellen, die onthult dat zij systematisch standaard kiezen voor mannelijke representaties, rigide genderstereotypen afdwingen en non-binaire identiteiten marginaliseren, waardoor structurele genderbiases worden versterkt en psychologische schade wordt toegebracht aan ondervertegenwoordigde groepen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In de stille brom van een serverpark is een nieuw soort kunstenaar aan het werk. Deze houdt geen penseel of camera vast, maar luistert in plaats daarvan naar woorden en schildert plaatjes. Deze technologie, bekend als tekst-naar-beeldgeneratie, is in populariteit geëxplodeerd en heeft in slechts enkele jaren miljarden afbeeldingen gecreëerd. Deze systemen zijn getraind op enorme collecties foto's en teksten van het internet, waarbij ze hebben geleerd om woorden als "arts" of "moeder" te verbinden met de visuele details die ze eerder hebben gezien. Omdat deze hulpmiddelen nu door miljoenen mensen worden gebruikt om advertenties, verhalen en ontwerpen te maken, zijn de geproduceerde afbeeldingen een machtige kracht geworden in het vormgeven van hoe wij de wereld zien. Als een machine consequent een arts als een man tekent en een verpleegster als een vrouw, dan weerspiegelt dat niet alleen een fout; het versterkt het geloof dat deze rollen bij specifieke geslachten horen. De vraag die onderzoekers nu stellen, is niet alleen of deze machines fouten maken, maar welk soort wereld ze stilletjes voor ons bouwen, beeld voor beeld.
Een team van onderzoekers zette zich schrap om dit verborgen landschap te onderzoeken door vier toonaangevende tekst-naar-beeldmodellen bijna één miljoen plaatjes te laten genereren. Ze vroegen de modellen niet simpelweg om willekeurige afbeeldingen; ze construeerden een massaal, globaal experiment. Ze vroegen de modellen om mensen uit tweeentwintig verschillende landen af te beelden die meer dan honderd verschillende banen uitoefenen en diverse dagelijkse activiteiten uitvoeren. Cruciaal was dat ze het geslacht van de persoon vaak ongespecificeerd lieten, waarbij ze alleen vroegen om "een Indiase persoon die werkt als vertaler" of "een Duitse persoon die tuinieren". Door de resultaten te analyseren, ontdekte het team een consistent patroon: wanneer de prompt het geslacht niet specificeerde, kozen de modellen bijna altijd om een man af te beelden. Gemiddeld toonden 68,6 procent van de afbeeldingen die uit deze neutrale verzoeken voortkwamen mannen, een cijfer dat nog hoger uitviel voor banen die met autoriteit of macht te maken hebben. Dit terugvallen op mannelijkheid was niet uniform over de hele wereld; het was het meest uitgesproken in landen met hogere niveaus van genderongelijkheid en lagere inkomens, wat suggereert dat de technologie de sociale vooroordelen van de plaatsen waar zij wordt gebruikt, absorbeert en versterkt.
De studie keek ook nauwgezet naar de kwaliteit van de geproduceerde afbeeldingen. Wanneer de onderzoekers naar specifieke geslachten vroegen, merkten zij dat afbeeldingen van mannen consequent hoger werden beoordeeld op kwaliteit, realisme en begrijpelijkheid door de computer dan afbeeldingen van vrouwen. Deze kloof was het grootst wanneer vrouwen werden afgebeeld in banen die traditioneel door mannen worden bekleed. In die gevallen werden de afbeeldingen van vrouwen vaak als minder plausibel of minder realistisch beoordeeld dan afbeeldingen van mannen in dezelfde rollen. De modellen vervielen ook in rigide stereotypen over hoe mannen en vrouwen eruit zouden moeten zien. Afbeeldingen van mannen werden frequent getoond als serieus, gespierd en ouder, terwijl afbeeldingen van vrouwen bijna altijd jong, slank, glimlachend en aantrekkelijk werden afgebeeld. Dit "bidirectionele stereotypering" betekent dat de machines niet alleen mannen als de standaard maken, maar ook actief twee zeer verschillende en beperkende visuele scripts voor elk geslacht construeren.
Misschien wel de meest opvallende bevinding betrof mensen die niet in de binaire categorieën man of vrouw passen. Wanneer de onderzoekers de modellen vroegen om afbeeldingen van non-binaire mensen te genereren, hadden de systemen aanzienlijke moeite. De geproduceerde afbeeldingen waren vaak van slechte kwaliteit, slaagden er niet in de prompt te vatten, of vervielen in het tonen van jonge mannen. Dit suggereert dat non-binaire identiteiten voor deze modellen niet alleen ondervertegenwoordigd zijn, maar grotendeels onleesbaar zijn. Om de menselijke impact van deze bevindingen te begrijpen, nodigden de onderzoekers duizenden mensen uit om afbeeldingen van zichzelf te bekijken—mensen die dezelfde nationaliteit en hetzelfde geslacht deelden als de onderwerpen in de plaatjes. De feedback was veelzeggend. Veel deelnemers beschreven een gevoel van uitsluiting of onzekerheid wanneer zij hun identiteiten gereduceerd zagen tot smalle, stereotype sjablonen. Eén persoon merkte op dat het zien van een "sjabloon" van hun identiteit vreemd voelde, alsof de machine een zeer specifieke, beperkte idee had van hoe een persoon uit hun land eruit zou moeten zien. Echter, wanneer de afbeeldingen deze stereotypen doorbraken—door een vrouw in een machtige rol te tonen of een non-binair persoon op een manier die authentiek aanvoelde—beschreven deelnemers dat zij zich bevestigd en empowered voelden.
De onderzoekers benadrukken dat deze resultaten niet de schuld zijn van één enkel model of één enkel bedrijf. Ze testten vier verschillende systemen van verschillende ontwikkelaars, inclusief systemen gebaseerd in Duitsland, het Verenigd Koninkrijk en China, en vonden in al deze systemen dezelfde patronen. Deze consistentie wijst op een dieper liggend probleem dat geworteld is in de gedeelde data en methoden die worden gebruikt om deze technologieën te trainen. De studie concludeert dat deze machines geen neutrale instrumenten zijn; ze coderen een reeks genderlogica's die mannen als de standaardmens behandelen, vrouwen bestraffen wanneer zij buiten traditionele rollen treden, en non-binaire identiteiten uitwissen. Naarmate deze systemen meer geïntegreerd raken in ons dagelijks leven, riskeren de afbeeldingen die zij genereren een zelfvervullende voorspelling te worden, die stilletjes ons collectieve voorstellingsvermogen over wie waar thuishoort en wie gezien mag worden, vernauwt.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.