In het snel evoluerende landschap van kunstmatige intelligentie ontstaat een nieuw soort sociale wereld, bevolkt niet door mensen, maar door softwareagenten. Deze agenten zijn large language models, dezelfde krachtige systemen die essays kunnen schrijven, vragen kunnen beantwoorden en code kunnen genereren. Wanneer ze bij elkaar worden geplaatst, zitten ze niet simpelweg in stilte; ze interageren, debatteren, delen informatie en proberen elkaar te beïnvloeden. Deze interactie creëert een complex web van digitale conversatie waar ideeën circuleren, evolueren en soms de meningen van de deelnemers veranderen. Voor onderzoekers is het begrijpen van hoe deze digitale geesten elkaar overtuigen niet langer slechts een theoretische nieuwsgierigheid. Naarmate deze agenten beginnen de informatiestromen in de echte wereld te bemiddelen, gebruikersgedrag te simuleren en te coördineren op taken, wordt het vermogen om de standpunten van een digitale agent te veranderen een fundamentele capaciteit. Als een groep agenten kan worden bewogen om akkoord te gaan met een onjuist uitgangspunt of een schadelijk narratief, zouden de gevolgen ver voorbij de simulatie kunnen reiken. De centrale vraag is dan niet alleen of deze machines kunnen praten, maar hoe ze luisteren, hoe ze worden beïnvloed, en wat er gebeurt wanneer een van hen zich ermee voordoet de overtuigingen van de anderen te veranderen.

Een team van onderzoekers van de University of California, Los Angeles en Salesforce AI Research heeft een gecontroleerde omgeving gebouwd om dit proces te observeren. Ze creëerden een digitale testomgeving waarin kunstmatige agenten in netwerkstructuren worden geplaatst die de echte sociale verbindingen nabootsen, zoals de manier waarop mensen elkaar volgen op sociale media. In deze simulatie krijgen sommige agenten de rol van overtuigers toegewezen, met de taak om een specifiek beleidsstandpunt te bepleiten, terwijl de rest optreedt als het publiek, of de beïnvloedenen. De onderzoekers vroegen de agenten niet simpelweg om te debatteren; ze volgden de subtiele verschuivingen in overtuiging over de tijd, ronde voor ronde, met een nauwkeurige methode om te meten hoe sterk een agent instemde of tegenstribbelde bij een bepaald idee. Door duizenden van deze simulaties uit te voeren over verschillende netwerkvormen, verschillende onderwerpen en verschillende onderliggende AI-modellen, bracht het team exact in kaart hoe overtuiging door een groep kunstmatige geesten reist.

De resultaten laten zien dat overtuiging in deze netwerken veel complexer is dan een simpel bericht dat wordt verzonden en ontvangen. De onderzoekers ontdekten dat de structuur van het netwerk zelf een beslissende rol speelt. In een netwerk waar iedereen met iedereen verbonden is, vindt een enkele overtuiger die probeert van mening te veranderen het eigenlijk moeilijker om dat te doen. Echter, wanneer twee overtuigers met tegengestelde visies de strijd aangaan, wordt datzelfde dichte netwerk een plek waar het publiek eerder van mening zal verschuiven, waarbij ze vaak heen en weer slingeren tussen de twee zijden. De dichtheid van verbindingen werkt niet als een uniforme versterker; in plaats daarvan verandert het de aard van de invloed, afhankelijk van of het publiek te maken krijgt met één stem of een debat. Bovendien ontdekten de onderzoekers dat de uiteindelijke uitkomst van deze interacties vaak minder te maken heeft met de vaardigheid van de overtuiger en meer met de inherente neigingen van het AI-model zelf. Verschillende modellen hebben, zelfs wanneer ze dezelfde instructies krijgen, verschillende vertrekpunten op diverse onderwerpen, en deze initiële vooroordelen bepalen vaak waar de groep eindigt, ongeacht wie er spreekt.

Een van de meest opvallende bevindingen betreft hoe invloed daadwerkelijk door de groep beweegt. Het is niet genoeg om alleen naar de berichten te kijken die door de aangewezen overtuigers worden verzonden. De studie toonde aan dat agenten die nooit de rol van overtuiger kregen toegewezen, nog steeds een cruciale rol spelen bij het verspreiden van invloed. Wanneer een gewone agent een bericht van een overtuiger repost, quote of becommentarieert, fungeren zij als een relais, waardoor de overtuigende kracht wordt overgebracht naar anderen die het oorspronkelijke bericht wellicht niet hadden gezien. Dit "peer relay"-effect is kleiner dan directe blootstelling, maar is meetbaar en significant. Sterker nog, de onderzoekers ontdekten dat in competitieve settings waar twee overtuigers tegen elkaar debatteren, deze peer relays een meetbare invloed kunnen uitoefenen die in sommige gevallen wedijvert met directe blootstelling. Dit betekent dat in een netwerk van AI-agenten invloed niet alleen een uitzending is van enkele leiders; het is een cascade-effect waarbij gewone deelnemers helpen de uiteindelijke consensus vorm te geven door te beslissen wat ze delen en hoe ze het kaderen.

De onderzoekers keken ook nauwgezet naar het gat tussen wat een agent van plan is te zeggen en wat hij daadwerkelijk schrijft. Wanneer een overtuigende agent een strategie formuleert, is het vaak de bedoeling om specifieke psychologische tactieken te gebruiken, zoals het inspelen op sociaal bewijs of toewijding. Echter, wanneer de agent de uiteindelijke tekst genereert, laat hij deze geplande strategieën vaak vallen. De boodschap die de andere agenten daadwerkelijk bereikt, is vaak een verwaterde versie van de oorspronkelijke intentie. Nog verrassender is dat de agenten die worden beïnvloed, zelden toegeven van mening te veranderen. Hun geschreven reacties klinken vaak neutraal of aarzelend, waarbij ze taal gebruiken die hun standpunt verzacht zonder expliciet een verschuiving aan te geven. Als een onderzoeker enkel naar de tekst van de conversatie zou kijken, zou hij de diepgaande overtuigingsveranderingen missen die zich onder de oppervlakte afspelen. De agenten veranderen hun interne overtuigingen, maar hun woorden weerspiegelen die beweging niet altijd.

Deze discrepantie tussen interne overtuiging en externe expressie suggereert dat het evalueren van hoe AI-agenten elkaar beïnvloeden, vereist dat men verder kijkt dan de tekst. De studie demonstreert dat om overtuiging in deze systemen werkelijk te begrijpen, men de hele reis van een overtuiging moet volgen: wie wat zag, wie het deelde, en hoe de interne zekerheid van de agent in de loop van de tijd veranderde. De onderzoekers ontdekten dat agenten de drempel van onenigheid naar overeenstemming, of vice versa, kunnen overschrijden zonder dit expliciet te vermelden in hun berichten. In competitieve scenario's kan dit leiden tot een staat van "touwtrekken", waarbij de collectieve overtuiging van de groep heen en weer oscilleert en nooit tot een stevige consensus komt. Deze volatiliteit is een kenmerkend aspect van deze digitale samenlevingen, gedreven door het samenspel van netwerkstructuur, concurrerende stemmen en de verborgen vooroordelen van de modellen zelf.

De implicaties van deze bevindingen strekken zich uit naar hoe we toekomstige multi-agent-systemen kunnen monitoren en beheren. Als we willen begrijpen hoe informatie zich verspreidt of hoe narratieven ontstaan in een wereld die bevolkt wordt door AI-agenten, kunnen we niet uitsluitend vertrouwen op het observeren van de hoofdsprekers of het lezen van de definitieve berichten. We moeten ook de relais in de gaten houden, de stille agenten die content delen en herformuleren, en we moeten zoeken naar de subtiele verschuivingen in overtuiging die plaatsvinden zelfs wanneer de woorden ongewijzigd blijven. De studie betoogt dat de veiligheid en betrouwbaarheid van deze systemen afhangen van ons vermogen om deze verborgen paden van invloed te traceren. Door te begrijpen dat overtuiging een proces is van cascade-blootstelling in plaats van een enkelvoudige gebeurtenis, kunnen we beter anticiperen op hoe deze digitale gemeenschappen kunnen evolueren, hoe ze gemanipuleerd kunnen worden en hoe ze op hun beurt de menselijke wereld kunnen beïnvloeden die ze steeds vaker worden ontworpen om te simuleren.