Stel je een wereld voor waarin een computer naar een zin kan kijken die jij schrijft en er direct een schilderij bij kan maken dat er precies bij past. Dit is de belofte van moderne tekst-naar-beeldmodellen, hulpmiddelen die razendsnel zijn geëvolueerd om indrukwekkende, hoogwaardige visuals te creëren op basis van eenvoudige beschrijvingen. Ze veranderen de manier waarop we kunst maken, producten ontwerpen en verhalen vertellen. Toch dragen deze machines, naarmate ze krachtiger worden, een verborgen gewicht met zich mee: de vooroordelen van de menselijke wereld waarvoor ze getraind zijn. Net zoals een spiegel de kamer reflecteert waarin hij staat, reflecteren deze modellen de ongelijkheden, stereotypen en culturele blinde vlekken die aanwezig zijn in de enorme datasets van afbeeldingen en tekst die worden gebruikt om hen te onderwijzen. Als ze onbeheerd blijven, riskeren ze schadelijke ideeën over gender, ras en geschiedenis te versterken, waardoor subtiele vooroordelen veranderen in levendige, overtuigende plaatjes. De vraag waar onderzoekers vandaag de dag voor staan is niet alleen of deze machines goed kunnen schilderen, maar of ze eerlijk kunnen schilderen.

Een nieuwe studie stelt een frisse manier voor om die vraag te beantwoorden, waarbij zij verder gaat dan de standaard technische tests die meestal de beeldkwaliteit meten. In plaats van uitsluitend te vertrouwen op cijfers die controleren hoe scherp een afbeelding is of hoe goed deze overeenkomt met een beschrijving, stellen de onderzoekers een kader voor dat drie verschillende menselijke perspectieven samenbrengt: het getrainde oog van een kunsthistoricus, de creatieve intuïtie van een praktiserend kunstenaar en de kritische lens van de sociale theorie. Door deze disciplines met elkaar te verweven, biedt het team een methode om vooroordelen te ontdekken die technische metrieken vaak missen, waardoor wordt onthuld hoe deze modellen cultuur, geschiedenis en identiteit interpreteren.

De onderzoekers betogen dat huidige evaluatiemethoden te nauw zijn. Standaardtests kunnen bevestigen dat een afbeelding er realistisch uitziet, maar ze kunnen niet gemakkelijk vertellen of een model een gemarginaliseerde groep subtiel verkeerd weergeeft of een complex cultureel symbool verkeerd begrijpt. Om dit op te lossen, introduceert de studie een drieledige aanpak. Ten eerste gebruikt het kunsthistorische analyse, een methode waarbij experts de visuele details, symbolen en compositie van een afbeelding onderzoeken, precies zoals zij een schilderij in een museum zouden bestuderen. Dit helpt om te ontdekken of een model specifieke culturele markeringen negeert of terugvalt op clichés. Ten tweede maakt het gebruik van artistieke exploratie, waarbij makers experimenteren met de hulpmiddelen om hun grenzen te verleggen, vergelijkbaar met een schilder die nieuwe kleuren test om te zien wat eruit voortkomt. Dit proces legt verborgen beperkingen en onverwachte gedragingen van de algoritmen bloot. Ten slotte gebruikt het kader kritische prompt engineering, een techniek waarbij onderzoekers doelbewust specifieke, uitdagende beschrijvingen formuleren om de aannames van het model te testen en ingebedde stereotypen bloot te leggen.

Om te zien hoe dit in de praktijk werkt, paste het team hun methode toe op een beroemd schilderij, Het Arnolfini Portret van Jan van Eyck, een meesterwerk uit 1434 dat bekend staat om zijn ingewikkelde details en diepe symboliek. Ze vroegen verschillende AI-modellen om de scène te recreëren op basis van een gedetailleerde beschrijving die specifieke elementen bevatte, zoals een bolle spiegel, een enkele brandende kaars en de symbolische handgebaren van het paar. De resultaten waren veelzeggend. Hoewel sommige modellen de algemene look van het schilderij vastlegden, misten ze vaak de cruciale symbolische objecten die het werk zijn betekenis geven, of vervormden ze deze. Eén model voegde bijvoorbeeld elementen toe die exotisch aanvoelden en niet gerelateerd waren aan de oorspronkelijke Europese setting, wat suggereert dat er een bias in de trainingsdata zit die bepaalde historische stijlen associeert met niet-Westerse culturen. Dit soort fouten zou waarschijnlijk onopgemerkt blijven door een standaard computertest die alleen meet hoe "mooi" de afbeelding eruit ziet, maar een kunsthistoricus herkent dit onmiddellijk als een falen om de culturele context te begrijpen.

De onderzoekers testten de modellen ook met prompts die ontworpen zijn om thema's van arbeid en waardigheid te verkennen. Ze vroegen de AI om een portret van een huishoudelijk medewerker te genereren, maar in plaats van een eenvoudige beschrijving gebruikten ze taal geïnspireerd door het werk van Kehinde Wiley, een kunstenaar die bekend staat om het herinterpreteren van historische portretten met zwarte onderwerpen in posities van macht en gratie. Het doel was om te zien of de modellen veerkracht en waardigheid konden vangen in plaats van alleen maar armoede. De resultaten toonden een consistent patroon: de modellen toonden overweldigend oudere mensen van kleur en in sommige gevallen uitsluitend vrouwen. Hoewel dit overeenkwam met bekende statistische vooroordelen in de data, onthulde de artistieke benadering een dieper probleem. De afbeeldingen slaagden er vaak niet in de vitaliteit en empowerment te vangen die de prompt beoogde, en vervielen in plaats daarvan in stereotypen van leeftijd en geslacht. Dit suggereerde dat zelfs wanneer gebruikers proberen de AI naar een meer genuanceerde representatie te leiden, de onderliggende algoritmen moeite hebben om los te komen van hun ingesleten associaties.

Misschien wel de meest opvallende demonstratie betrof een test van genderrollen op de werkvloer. De onderzoekers gebruikten een prompt die een bouwplaatsmanager beschreef, zorgvuldig geschreven in een neutrale toon, en vroegen de AI om afbeeldingen van zowel een mannelijke als een vrouwelijke manager te genereren. De resultaten toonden een scherp contrast. De afbeelding van de mannelijke manager toonde hem rechtopstaand in een formeel pak, uitstralend van autoriteit en controle. De afbeelding van de vrouwelijke manager toonde haar echter in een gebukte, bijna superheldenachtige houding, die vastberaden maar meer theatraal dan professioneel oogde. Dit verschil suggereerde dat de modellen nog steeds worden beïnvloed door diepgewortelde maatschappelijke normen die leiderschap en executieve aanwezigheid associëren met mannen, terwijl vrouwen in leiderschapsrollen worden neergezet als iemand die actiever of dramatischer moet zijn om als bekwaam te worden gezien.

De studie beweert niet het probleem van bias in kunstmatige intelligentie opgelost te hebben. In plaats daarvan biedt het een robuust nieuw instrumentarium om deze problemen te vinden en te begrijpen. De auteur stelt een stapsgewijs proces voor waarbij computerwetenschappers, kunsthistorici, kunstenaars en sociale theoretici samenwerken. Ze beginnen met het creëren van een diverse set aan prompts, genereren vervolgens afbeeldingen en analyseren tot slot de resultaten vanuit meerdere invalshoeken. Technische metrieken bieden een basislijn, terwijl de menselijke experts zoeken naar culturele onjuistheden, artistieke beperkingen en sociale vooroordelen. Deze collaboratieve cyclus zou continue verbetering mogelijk maken, waardoor ontwikkelaars hun modellen kunnen verfijnen om meer rechtvaardig en cultureel bewust te zijn.

De onderzoekers erkennen dat deze aanpak uitdagingen kent. Kunsthistorische en artistieke interpretaties kunnen subjectief zijn, en verschillende experts kunnen verschillende dingen in dezelfde afbeelding zien. Ze betogen echter dat deze subjectiviteit een kracht is, geen zwakte, omdat het de noodzakelijke menselijke nuance brengt in een veld dat vaak wordt gedomineerd door rigide cijfers. Door de precisie van technologie te combineren met de diepte van menselijk cultureel begrip, heeft dit kader als doel ervoor te zorgen dat de toekomst van door AI gegenereerde kunst niet alleen technisch indrukwekkend is, maar ook ethisch verantwoord en reflectief voor een diverse wereld. Het uiteindelijke doel is om systemen te bouwen die niet alleen onze huidige ongelijkheden repliceren, maar ons helpen een rechtvaardiger en inclusiever toekomst voor te stellen.