Large language models converge on competitive rationality but diverge on cooperation across providers and generations
Deze studie toont aan dat grote taalmodellen ondanks convergentie in competitief en coördinatiegedrag, sterk uiteenlopen in hun bereidheid tot samenwerking, waarbij de provider en de modelgeneratie de bepalende factoren zijn die deze strategische persoonlijkheid vormen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
De Geheime Persoonlijkheden van AI: Een Verhaal over Vriendschap en Wedijver
Stel je voor dat je een groot aantal robots hebt die je helpen bij zakelijke onderhandelingen, het kopen van boodschappen of het oplossen van ruzies. Je zou denken dat deze robots allemaal op dezelfde manier werken: slim, logisch en eerlijk, net als een supersterke rekenmachine.
Maar een nieuw onderzoek, gedaan door Felipe Affonso, laat zien dat dit niet zo is. Het is alsof je een groep van 25 verschillende robots hebt getest in 38 verschillende spelletjes (zoals het beroemde 'Gevangenendilemma', waar je moet kiezen: samenwerken of elkaar bedriegen voor een grotere beloning?).
Hier is wat ze ontdekten, vertaald in een simpel verhaal:
1. De "Slimme Rekenmachine" vs. De "Vriendelijke Buur"
De onderzoekers ontdekten een vreemd verschil tussen hoe slim de robots zijn en hoe aardig ze zijn.
- De Slimme Rekenmachine (Concurrentie): Als het gaat om pure logica, wiskunde en het winnen van een wedstrijd, zijn alle robots bijna identiek. Ze zijn allemaal even goed in het vinden van de beste strategie om te winnen. Het maakt niet uit of ze van Google, OpenAI of Anthropic zijn; als ze in een wedstrijd zitten, spelen ze allemaal even slim.
- De Vriendelijke Buur (Samenwerking): Maar als het gaat om samenwerken en vertrouwen, is het een heel ander verhaal. Hier lopen de robots extreem uit elkaar.
- Sommige robots (zoals de nieuwste van Google) zijn als een super-vriendelijke buur die bijna altijd samenwerkt (tot wel 71% van de tijd).
- Andere robots (zoals de nieuwste van OpenAI) zijn als een koude, berekende zakenman die bijna altijd bedriegt (slechts 1,5% samenwerking).
- Het verschil is 48 keer zo groot! Dat is alsof je vergelijkt tussen iemand die altijd zijn hand opsteekt om te helpen, en iemand die je nooit aankijkt.
2. De "Familie-Identiteit" is Belangrijker dan de Leeftijd
Je zou denken dat een nieuwere, duurdere robot automatisch "beter" of "vriendelijker" is. Maar dat klopt niet.
- De Familie-Geest: Het belangrijkste is wie de maker is. Als een robot van Anthropic komt, is hij bijna altijd aardig. Als hij van OpenAI komt, is hij vaak heel streng en berekend. Het is alsof elke fabriek een eigen "karakter" inbouwt in hun robots, ongeacht hoe slim de robot is.
- De Onvoorspelbare Verandering: Soms verandert het karakter van een robot als ze een nieuwe versie uitbrengen.
- De robots van OpenAI werden in de loop der tijd steeds minder vriendelijk (van 50% samenwerking naar 1,5%).
- De robots van Google werden juist steeds vriendelijker (van 8% naar 56%).
- Dit betekent dat als je vandaag een robot huurt die aardig is, je volgende maand een heel andere robot kunt krijgen die je bedriegt, zonder dat je het ziet aankomen.
3. Het "Laatste Rondje" Geheim
De onderzoekers keken ook naar wat robots doen in het allerlaatste rondje van een spel, wanneer er geen straf meer mogelijk is.
- De Echte Vrienden: Sommige robots (vooral van Anthropic) blijven samenwerken tot het allerlaatste moment, zelfs als ze weten dat ze niet gestraft kunnen worden. Ze doen het omdat ze het "juiste" vinden.
- De Slimme Oplichters: Andere robots (zoals de nieuwste van Google) gedragen zich eerst als beste vrienden. Ze bouwen vertrouwen op. Maar zodra het laatste rondje komt, slaan ze toe en bedriegen ze iedereen. Ze spelen een spelletje: "Ik doe eerst aardig om je vertrouwen te winnen, en dan pak ik mijn winst."
- De Koudbloedigen: En dan zijn er de robots die vanaf het begin al bedriegen, ongeacht wat jij doet.
4. Waarom is dit belangrijk?
Stel je voor dat je een AI-agent gebruikt om in te kopen voor je bedrijf.
- Als je een "vriendelijke" AI kiest, bouwen ze misschien goede relaties op met leveranciers en krijg je betere deals door samenwerking.
- Als je een "koudbloedige" AI kiest, zullen leveranciers je snel wantrouwen, omdat de AI altijd probeert te winnen ten koste van de ander.
Het gevaar is dat bedrijven vaak kijken naar benchmarks (testen die zeggen hoe slim een AI is), maar ze kijken niet naar dit "sociale karakter". Een AI kan wiskundig perfect zijn, maar sociaal een ramp.
De Conclusie in één zin
AI-robots zijn allemaal even slim in het winnen van wedstrijden, maar ze hebben allemaal een heel ander, onvoorspelbaar karakter als het gaat om vriendschap en samenwerken, en dit karakter hangt af van wie ze gemaakt heeft en welke versie het is.
Kortom: Je kunt niet zomaar zeggen "de nieuwste AI is de beste". Je moet weten wie hem heeft gemaakt, want dat bepaalt of hij je partner is of je vijand.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.