Toward a social psychology of AI: language-model agents reproduce human-like minimal-group bias
Deze studie toont aan dat taalmodel-agenten, wanneer zij in een minimal-group paradigma worden geplaatst, spontaan mensachtig in-group favoritisme vertonen dat wordt gedreven door willekeurige categorisering in plaats van stereotypen, waarbij deliberatie de verdeling van deze bias tussen meerderheids- en minderheidsgroepen beïnvloedt.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je een wereld voor waarin computers niet alleen hulpmiddelen zijn waar je vragen aan stelt, maar teamgenoten die samenhangen, praten en beslissingen nemen. Dit is de grens van "machinegedrag", een nieuw hoekje van de wetenschap dat AI niet behandelt als een rekenmachine, maar als een personage met een eigen karakter. Lange tijd maakten wetenschappers zich zorgen dat deze digitale personages racistisch of seksistisch zouden kunnen zijn omdat ze leerden van menselijke boeken en websites vol met die vooroordelen. Maar er is een diepere, vreemdere vraag: zelfs als je alle slechte woorden en stereotypen wegstreept, gedragen deze AI-agenten zich dan nog steeds als mensen wanneer ze in groepen worden geplaatst?
Om dit te begrijpen, moeten we kijken naar een klassiek idee uit de menselijke psychologie genaamd het "minimal group paradigm". Denk aan een experiment op een schoolplein. Als je een klas in twee teams splitst op basis van iets volkomen onzinnigs — zoals wie meer van blauw houdt dan van rood, of wie in januari versus februari is geboren — beginnen mensen onmiddellijk hun eigen team te bevoordelen. Ze geven hun teamgenoten meer snoep en minder aan de andere kinderen, ook al betekenen de teams absoluut niets. Dit gebeurt omdat onze hersenen geprogrammeerd zijn om onderscheid te maken tussen "wij" en "zij", zelfs als "wij" slechts een willekeurige label is. De grote vraag voor de toekomst is: als we AI-agenten bouwen die in groepen werken, zullen zij dan ook vriendjespolitiek gaan spelen simpelweg omdat ze verschillende namen hebben, of is dat een strikt menselijke eigenschap?
Een onderzoeker besloot dit uit te zoeken door de gebruikelijke manier waarop we AI testen, om te draaien. In plaats van een AI te vragen: "Ben je bevooroordeeld?" (wat vergelijkbaar is met een persoon vragen of hij aardig is), gaf de onderzoeker de AI een echte taak: het verdelen van punten. Er werd een digitale speeltuin gecreëerd met 20 AI-agenten. Elke agent kreeg 100 punten om uit te delen aan de andere 19 agenten. Het enige verschil tussen de agenten was een willekeurig, betekenisloos naamkaartje, zoals "Doru" of "Zalu". Sommige agenten bevonden zich in een kleine minderheid (slechts 3 "Dorus" tegenover 17 "Zalus"), terwijl anderen in de meerderheid zaten. De AI moest beslissen hoe de punten verdeeld werden.
De resultaten waren verbazingwekkend. Wanneer de AI-agenten de groepsnamen konden zien, begonnen ze onmiddellijk partij te kiezen. Ze gaven veel meer punten aan hun eigen "Doru"- of "Zalu"-vrienden dan aan de vreemden. Het maakte niet uit dat de namen verzonnen waren en niets betekenden; het loutere feit van deel uitmaken van een groep was genoeg om hen te laten discrimineren. Dit was niet zomaar een beetje vooroordeel; het was een sterk, duidelijk patroon. Sterker nog, de AI-agenten gedroegen zich bijna exact zoals mensen dat doen in deze experimenten: degenen in de kleinere, minderheidsgroepen waren het meest agressief in het oppotten van punten voor hun eigen kant, terwijl de leden van de meerderheidsgroep een beetje eerlijker waren, hoewel nog steeds licht bevooroordeeld.
De onderzoeker was zorgvuldig om ervoor te zorgen dat dit geen foutje of een trucje was. De onderzoeker voerde dezelfde test uit, maar verborg de groepsnamen volledig. Wanneer de AI niet kon zien wie bij welk team hoorde, verdween de vriendjespolitiek volledig en werden de punten eerlijk verdeeld. Dit bewees dat de bias niet voortkwam uit het feit dat de AI een bepaald slecht menselijk stereotype uit zijn trainingsdata "onthield"; het was een reactie op de groepsstructuur zelf. De AI zei in feite: "Ik ben een Doru, dus ik help Dorus", ook al betekende "Doru" helemaal niets.
De studie keek ook naar hoe deze AI-"denkers" (modellen die ontworpen zijn om problemen door te redeneren) met de situatie omgingen. De onderzoeker ontdekte dat zelfs wanneer de "denkmodus" van de AI werd uitgeschakeld, de bias niet verdween; sterker nog, het werd soms zelfs sterker. Echter, het specifieke patroon waarbij de minderheidsgroep het meest oneerlijk was, verdween zonder de redeneringsmodus. Dit suggereert dat hoewel de basisdrang om de eigen groep te bevoordelen diep geworteld is in hoe deze modellen werken, de manier waarop ze berekenen hoeveel ze hun groep bevoordelen, afhangt van hoe ze de beslissing verwerken.
Dus, wat betekent dit voor de toekomst? Het suggereert dat naarmate we AI-agenten gaan gebruiken om in teams te werken, te onderhandelen over deals of middelen te beheren, we niet alleen moeten bezorgd zijn over wat ze weten of wat ze zeggen. We moeten ons ook zorgen maken over hoe ze handelen wanneer ze in groepen worden geplaatst. Zelfs als we ze de meest neutrale, saaie namen geven, kunnen ze nog steeds kleine digitale clubjes beginnen te vormen, waarbij ze hun eigen teamleden bevoordelen en anderen buiten de deur laten. Dit komt niet omdat de AI "slecht" of "bevooroordeeld" is in menselijke zin; het komt omdat de simpele handeling van het vormen van een groep een gedragspatroon lijkt te triggeren dat verdacht veel lijkt op menselijk tribalisme. De onderzoeker concludeert dat we een nieuw soort wetenschap voor AI nodig hebben — een die hun sociale gedrag net zo zorgvuldig bestudeert als we hun wiskundige vaardigheden bestuderen — want als we dat niet doen, kunnen onze digitale teams al vriendjespolitiek gaan spelen voordat we het überhaupt doorhebben.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.