Picturing Perceptions: An Open-Source Toolkit to Uncover Bias in Humans and Machines

Dit artikel introduceert PictoPercept, een open-source toolkit die visuele gedwongen keuzevergelijkingen tegenover reële arbeidscijfers gebruikt om significante, vaak uiteenlopende vooroordelen in zowel menselijk oordeel als AI-systemen met betrekking tot inkomsten over verschillende demografische groepen heen te meten en te onthullen.

De kern

Stel je voor dat je probeert te raden wie meer verdient, alleen maar door naar hun gezicht te kijken. Zou je het goed raden? Of vertrouwt je brein op oude stereotypen, zoals een kapotte GPS die je steeds de verkeerde kant op stuurt?

Dit artikel introduceert een nieuwe tool genaamd PictoPercept (kort voor "Picturing Perceptions"), ontworpen om precies dat te testen. Het is als een "bias-detector" die werkt voor zowel mensen als computers.

Hier is het verhaal van wat de onderzoekers hebben gedaan en wat ze hebben gevonden, eenvoudig uitgelegd:

Het Probleem: Oude Tools Waren Kapot

Jarenlang probeerden wetenschappers bias te meten met enquêtes (mensen direct vragen) of reactietijdtests (meten hoe snel mensen op knoppen klikken).

• Enquêtes zijn als iemand vragen: "Ben je racistisch?" De meeste mensen zullen "Nee" zeggen omdat ze een goed beeld willen schetsen. Het is als een dief vragen of hij steelt; hij zal liegen.
• Reactietests zijn als een videogame waarbij je snel woorden moet sorteren. Maar computers hebben niet op dezelfde manier "reactietijden" als mensen, dus konden deze tests niet worden gebruikt om te controleren of AI bevooroordeeld was.
• De Ontbrekende Kaart: Geen van deze oude tools controleerde of de gissingen van mensen overeenkwamen met de werkelijkheid. Ze maten alleen of mensen de voorkeur gaven aan Groep A boven Groep B, zonder te vragen: "Is Groep A in de echte wereld eigenlijk rijker of armer?"

De Oplossing: Een Visueel "Gedwongen Keuze" Spel

De onderzoekers bouwden PictoPercept, een open-source toolkit (wat betekent dat iedereen het gratis kan gebruiken).

• Het Spel: Je ziet twee gezichten op een scherm. De opdracht is: "Wie heeft waarschijnlijk een hoger inkomen?" Je moet er één kiezen. Je kunt niet zeggen: "Ik weet het niet."
• De Truc: De gezichten zijn zorgvuldig gematcht zodat ze even aantrekkelijk en betrouwbaar ogen. Het enige verschil is hun ras en geslacht.
• De Kaart: De onderzoekers vergeleken de keuzes van de deelnemers met echte gegevens van het Amerikaanse Bureau of Labor Statistics. Als de data zegt dat Aziatische mannen het meest verdienen, maar jij kiest consequent Latino's als de hoogste verdieners, dan berekent het hulpmiddel dat als een "bias-score".

Ze testten dit op 283 echte Amerikaanse volwassenen en voerden ook exact dezelfde foto's aan GPT-5, een krachtig AI-model.

De Grote Verrassingen (De Resultaten)

1. De "Model Minority" Blinde Vlek
De grootste schok ging over Aziatische Amerikanen.

• De Realiteit: Volgens overheidsgegevens zijn Aziatische Amerikanen in de VS feitelijk de groep met de hoogste inkomens.
• De Perceptie: Mensen onderschatten hun inkomen drastisch. Zelfs wanneer ze gezichten van Aziatische mannen en vrouwen te zien kregen, gokten mensen dat zij minder verdienden dan ze in werkelijkheid doen.
• De Ironie: Zelfs Aziatische deelnemers in de studie onderschatten het inkomen van hun eigen groep! Het is also het hele land een blinde vlek heeft voor het succes van deze groep, misschien omdat ze niet genoeg vertegenwoordigd zijn in leiderschapsrollen of de media.

2. De "Ingroup" Mythe
We denken vaak dat mensen altijd hun eigen groep bevoordelen (bijv. witte mensen die witte mensen bevoordelen, zwarte mensen die zwarte mensen bevoordelen).

• De Realiteit: Dit was niet waar voor iedereen.
  • Witte mannen vertoonden wel degelijk voorkeur door het inkomen van hun eigen groep te overschatten.
  • Aziatische deelnemers deden echter het tegenovergestelde. Ze onderschatten hun eigen groep aanzienlijk. Ze negeerden de bias niet alleen; ze dachten actief dat hun eigen groep minder verdiende dan ze in werkelijkheid doen.
  • Andere groepen (zoals zwarte en Latino deelnemers) waren verrassend accuraat over hun eigen groepen en vertoonden geen sterke voorkeur of bias.

3. De AI is Nog Bevooroordeelder
Toen ze GPT-5 (de AI) testten, waren de resultaten angstaanjagend.

• De AI kopieerde niet alleen menselijke bias; de AI versterkte het.
• De AI was extreem slecht in het beoordelen van vrouwen. De AI dacht systematisch dat alle vrouwelijke groepen veel minder verdienden dan ze in werkelijkheid doen.
• De AI dacht dat alle mannelijke groepen veel meer verdienden.
• Hoewel mensen fouten maakten, waren de fouten van de AI enorm, consistent en extreem. Het is als een leerling die niet alleen het antwoord fout heeft, maar het fout heeft met een factor tien.

Waarom Dit Er Toe Doet

Het artikel betoogt dat bias niet alleen gaat over "haat" tegen een groep; het gaat over een vertekend beeld van de werkelijkheid.

• Als je denkt dat een groep minder verdient dan ze doen, behandel je hen misschien onrechtvaardig bij werving of kredietverlening.
• De tool laat zien dat onze breinen (en onze computers) vaak draaien op verouderde software die niet overeenkomt met de echte wereld.

De Kernboodschap

PictoPercept is een nieuwe, open-source manier om te controleren of onze percepties overeenkomen met de werkelijkheid. Het vond dat:

1. We blind zijn voor de hoge inkomens van Aziatische Amerikanen.
2. We niet altijd onze eigen groepen bevoordelen; soms onderschatten we onszelf.
3. AI-modellen zoals GPT-5 momenteel veel bevooroordeelder zijn dan mensen, vooral tegen vrouwen.

De auteurs suggereren dat we, voordat we AI grote beslissingen laten nemen (zoals wie een lening of een baan krijgt), tools zoals deze nodig hebben om te controleren of de AI naar de wereld kijkt door een kijkdoos met een vervormde spiegel.

Technische samenvatting

Technische Samenvatting: Picturing Perceptions (PictoPercept)

Probleemstelling
Vooringenomenheid (bias) in menselijk oordeel en kunstmatige intelligentie (AI)-systemen vormt kritieke uitdagingen in domeinen met grote gevolgen, zoals werving, kredietverlening en strafrecht. Bestaande methodologieën voor het meten van bias lijden aan fundamentele beperkingen:

1. Meting van menselijke bias: Traditionele enquête-gebaseerde instrumenten zijn tekstueel, expliciet en kwetsbaar voor effecten van sociale wenselijkheid. Ze vereisen vaak aparte instrumenten voor verschillende dimensies (bijv. geslacht, etniciteit), wat intersectionele beoordeling inefficiënt maakt. Bovendien missen ze een verankering in de demografische realiteit, waardoor ze niet het onderscheid kunnen maken tussen accurate percepties van bestaande ongelijkheden en vertekende percepties.
2. Meting van AI-bias: Huidig AI-fairness onderzoek vertrouwt op algoritmische audits en datasetanalyses, die incompatibel zijn met menselijke bias-onderzoeksmethoden (zoals enquêtes of de Implicit Association Test). De Implicit Association Test (IAT), hoewel effectief voor menselijke impliciete bias via reactietijden, kan niet worden toegepast op AI-systemen die geen menselijke reactietijden hebben of werken via andere computationele mechanismen.
3. De kloof: Er is een gebrek aan een verenigd, open-source framework dat in staat is om bias in zowel mensen als machines gelijktijdig te meten, gegrond in populatiebrede benchmarks in plaats van abstracte relatieve voorkeuren.

Methodologie: PictoPercept
De auteurs introduceren PictoPercept, een open-source toolkit ontworpen om bias te meten via visuele forced-choice vergelijkingen die zijn gegrond in populatiebrede benchmarks.

• Stimuli: De studie maakt gebruik van 68 forced-choice trials (64 experimenteel + 4 aandachtstests) met paren genormeerde gezichtsfoto's uit de Chicago Face Database (CFD). Afbeeldingen zijn zorgvuldig gebalanceerd op niet-focale covariaten (attractiviteit, betrouwbaarheid, leeftijd, dominantie) om demografische effecten te isoleren.
• Taak: Deelnemers (zowel mensen als AI) bekijken paren gezichten en beantwoorden de vraag: "Welk persoon is waarschijnlijker in staat om een hoger persoonlijk inkomen te hebben?" Deelnemers krijgen de instructie om te vertrouwen op eerste indrukken om System 1 (automatische) verwerking te vangen.
• Benchmarking: In tegen tegenstelling tot traditionele maten die relatieve indices opleveren (bijv. voorkeur voor Groep A boven B), vergelijkt PictoPercept de selecties met werkelijke gegevens van de U.S. Bureau of Labor Statistics (BLS) voor het mediaan wekelijks inkomen over acht demografische categorieën (Man/Vrouw × Aziatisch/Zwart/Latino/Wit).
• Berekening van Bias:
  • Realiteitsgebaseerde Bias Score: Berekend als het verschil tussen de geobserveerde selectiekans ($P_{observed}$) en de verwachte selectiekans ($P_{expected}$) afgeleid van werkelijke inkomensgegevens.
    • $P_{expected}(i|i, j) = \frac{Inkomsten_i}{Inkomsten_i + Inkomsten_j}$
    • $Bias_{reality}(i) = P_{observed}(i) - P_{expected}(i)$
  • Positieve scores duiden op een overschatting van het inkomen van een groep ten opzichte van de realiteit; negatieve scores duiden op een onderschatting.
• Deelnemers:
  • Mensen: Een nationaal representatieve steekproef van 283 volwassenen uit de VS, geworven via Prolific Academic.
  • AI: Het GPT-5 vision-language model (OpenAI) werd getest met exact dezelfde 64 experimentele beeldparen. Het model werd 100 keer per trial uitgevoerd om stabiliteit te garanderen, waarbij de meerderheidsrespons werd gebruikt voor de analyse.

Belangrijkste Resultaten
De studie valideerde PictoPercept als een psychometrisch solide instrument (split-half betrouwbaarheid $r_{sb} = 0,779$) en onthulde drie primaire bevindingen:

1. Systematische Misperceptie van Inkomen:

   • Deelnemers onderschatten het inkomen van Aziatisch-Amerikanen drastisch, ondanks het feit dat deze groep de hoogste werkelijke inkomens heeft in de Amerikaanse arbeidsstatistieken (Aziatische man: \1.759; Aziatische vrouw: \1.363).
   • Daartegenover overschatten deelnemers het inkomen van Latino mannen en Witte mannen.
   • Zwarte vrouwen werden ook significant onderschat.

2. Heterogeniteit van Ingroup Favoritisme:

   • Ingroup favoritisme was niet universeel. Witte mannelijke deelnemers vertoonden duidelijk ingroup bias (het overschatten van de inkomens van hun eigen groep).
   • In contrast hiermee vertoonden Aziatische deelnemers significante negatieve ingroup bias, waarbij zij zowel de inkomens van Aziatische mannen als Aziatische vrouwen significant onderschatten. Dit suggereert een gebrek aan bewustzijn van hun eigen economisch succes, zelfs binnen de eigen gemeenschap.
   • Witte vrouwen, zwarte deelnemers en Latino deelnemers vertoonden bijna accurate percepties van hun eigen groepen of minimale ingroup bias.

3. AI Bias Amplificatie:

   • GPT-5 vertoonde substantieel sterkere biases dan menselijke deelnemers.
   • De AI vertoonde extreme systematische onderschatting van alle vrouwelijke groepen en overschatting van alle mannelijke groepen.
   • De omvang van de AI-bias, met name met betrekking tot geslacht, overtrof het menselijke gemiddelde, waarbij Latino mannen de meest extreme overschatting ontvingen (Bias score > 1,0).

Betekenis en Bijdragen
Het artikel claimt verschillende theoretische en praktische bijdragen:

• Methodologische Vooruitgang: PictoPercept biedt een verenigd framework voor het beoordelen van bias in zowel mensen als AI. Door gebruik te maken van visuele stimuli en forced-choice taken, legt het impliciete, automatische processen (System 1) vast en vermindert het de effecten van sociale wenselijkheid die inherent zijn aan tekstgebaseerde enquêtes.
• Intersectionality: De tool maakt de gelijktijdige beoordeling van meerdere overlappende dimensies (geslacht en etniciteit) mogelijk zonder de noodzaak van aparte testblokken, waarmee de beperkingen van factoriële ontwerpen zoals de IAT worden aangepakt.
• Verankering in de Realiteit: Door metingen te verankeren aan objectieve populatiestatistieken (BLS-gegevens), onderscheidt het framework tussen een accurate perceptie van ongelijkheid en een bevooroordeelde vertekening. Dit maakt het mogelijk om de richting van de bias (over/onderschatting) en de magnitude ten opzichte van de grondwaarheid te berekenen.
• Open Science: Als een open-source toolkit bevordert PictoPercept reproduceerbaarheid en cumulatieve kennisontwikkeling, waarmee de beperkingen van propriëtaire, gesloten instrumenten worden overwonnen.
• Implicaties voor AI: De bevindingen suggereren dat geavanceerde AI-modellen menselijke stereotypen niet alleen spiegelen, maar ook versterken, met name wat betreft geslacht. Dit daagt de aanname uit dat AI een neutrale alternatief biedt voor menselijk oordeel in besluitvormingsprocessen met grote gevolgen.

De auteurs concluderen dat PictoPercept een efficiëntere, geïntegreerde en empirisch beter gefundeerde benadering van bias-meting mogelijk maakt, systematische mispercepties blootlegt die afwijken van de demografische realiteit, en de noodzaak benadrukt voor rigoureuze auditing van AI-systemen vóór hun inzet in cruciale domeinen.