Forgetting Our Way to Shared Meaning: Effects of Forgetting on Conceptual Alignment in a Non-Partnership Coordination Game

Technische Samenvatting: Vergeten als weg naar gedeelde betekenis

Probleemstelling

Het ontstaan en de evolutie van gedeelde betekenis in taal berusten op het vermogen van agenten om conceptuele categorieën te leren en met elkaar te verzoenen. Hoewel bestaande modellen van conceptuele semantiek vaak gebruikmaken van coördinatiespellen, gaan zij voornamelijk uit van een "partnerschap"-setting waarbij spelers identieke uitbetalingen delen. Deze aanname slaagt er niet in de nuances van menselijke taalgemeenschappen te vatten, waar agenten beschikken over asymmetrische informatie en uiteenlopende cognitieve architecturen. Bovendien worden Large Language Models (LLM's) geconfronteerd met theoretische uitdagingen met betrekking tot het "symbol grounding problem" en de informatieve inefficiëntie van hun training in vergelijking met menselijk leren.

Dit artikel adresseert de kloof in het begrip van hoe specifieke kenmerken van het semantisch geheugen — met name de snelheid van vergeten, de mate van verankering (entrenchment) en plasticiteit — de kwaliteit, stabiliteit en snelheid van gedeelde overeenstemming beïnvloeden. De auteurs onderzoeken hoe geheugenadaptiviteit invloed heeft op zowel de werkelijke convergentie van conceptuele regio's als de perceptuele convergentie (de overtuiging van de agenten dat zij op één lijn zitten), met name in non-partnership settings waar uitbetalingen niet strikt gedeeld worden.

Methodologie

De auteurs stellen een nieuw non-partnership coördinatiespel voor om conceptuele afstemming te modelleren. Het framework maakt gebruik van agent-gebaseerde modellering met de volgende kerncomponenten:

• Conceptuele Representatie: Volgens Gärdenفرض (2014) wordt betekenis gerepresenteerd als "conceptuele regio's" binnen een Euclidische ruimte ($R^n$). Deze regio's zijn convexe subruimten gevormd door Voronoi-tessellaties rond conceptuele prototypen (centroids).
• Spelmechanica:
  • Twee agenten ($p_1, p_2$) beginnen met willekeurig gegenereerde geheugens bestaande uit sets prototypen.
  • In elke ronde wordt een object (een vector in $R^n$) gepresenteerd.
  • Agenten classificeren het object door het signaal aan te kondigen dat overeenkomt met het dichtstbijzijnde prototype.
  • Uitbetalingsstructuur: In tegenstelling tot partnership-spelen worden uitbetalingen niet gedeeld. Als signalen overeenkomen, ontvangen de agenten een hoge uitbetaling. Als signalen verschillen, wordt de uitbetaling van een agent bepaald door de afstand tussen het object en de grens van het concept dat door de andere speler wordt gesignaleerd binnen diens eigen geheugenruimte.
• Geheugen-update strategieën:
  • Adaptieve Spelers: Updaten hun prototypen door ze een vast percentage ($a$) naar het object te bewegen wanneer er een mismatch optreedt.
  • Niet-adaptieve Spelers: Bezitten een degradatieparameter ($d$). Hun adaptiviteitsniveau neemt in de loop van de tijd af ($a' = a \times (1-d)$), wat geheugendegradatie of verminderde plasticiteit simuleert.
• Convergentiemetrieken:
  • Werkelijke Convergentie: Gemeten door de gemiddelde Euclidische afstand tussen de corresponderende prototypen van de twee agenten die onder een tolerantiedrempel ($\delta$) valt.
  • Perceptuele Convergentie: Gemeten door de agenten die voor een opeenvolgend aantal ronden ($\alpha$) overeenkomende signalen produceren, onafhankelijk van de werkelijke afstand tussen hun prototypen.

Simulaties werden uitgevoerd met variërende aantallen prototypen (3, 5, 10), adaptiviteitsniveaus (1%, 5%, 10%), en degradatiesnelheden voor niet-adaptieve agenten.

Belangrijkste Bijdragen

1. Non-Partnership Game Model: Het artikel introduceert een speltheoretisch framework waarbij agenten geen uitbetalingen delen, wat een realistischere representatie biedt van epistemische toegang en de divergentie tussen werkelijke en perceptuele afstemming.
2. Onderscheid tussen Werkelijke en Perceptuele Convergentie: De studie maakt expliciet onderscheid tussen de objectieve staat van conceptuele afstemming en de subjectieve overtuiging van afstemming, en toont aan dat deze twee metrieken aanzienlijk kunnen divergeren op basis van geheugenstrategieën.
3. Analyse van Geheugenadaptiviteit: De auteurs modelleren de trade-offs tussen hoge adaptiviteit (snelle updates) en niet-adaptiviteit (stabiliteit met degradatie), wat een theoretische basis biedt voor hoe geheugeneigenschappen de taalontwikkeling beïnvloeden zonder te vertrouven op complexe meta-informatie uitwisseling.

Resultaten

Counterfactual simulaties leverden de volgende bevindingen op:

• Adaptieve Spelers:
  • Bereikten werkelijke convergentie sneller dan niet-adaptieve spelers.
  • Eindigden met lichtere definitieve conceptuele regio's (lagere gemiddelde afstand tussen prototypen).
  • Onderschatten hun afstemming; ze waren minder geneigd om vroege convergentie te ervaren, omdat ze de instabiliteit van hun eigen updateproces vaak aanzagen voor een gebrek aan afstemming met hun partner.
• Niet-adaptieve Spelers:
  • Bereikten werkelijke convergentie later en met een grotere definitieve afstand tussen de prototypen vergeleken met adaptieve agenten.
  • Overschatten hun afstemming; ze waren eerder geneigd om convergentie te ervaren.
  • Hun individuele leerstrategieën waren stabieler, waardoor zij signaalovereenkomst interpreteerden als succesvolle afstemming, zelfs wanneer de werkelijke conceptuele afstanden groter bleven.
• Impact van het Adaptiviteitsniveau: Hogere adaptiviteit (bijv. 10%) resulteerde in compactere definitieve conceptuele regio's vergeleken met lagere adaptiviteit (bijv. 1%).
• Impact van Degradatie: In niet-adaptieve agenten had de snelheid van geheugendegradatie een verwaarloosbaar effect op de timing van convergentie, maar beïnvloedde het de definitieve afstand tussen de prototypen. Lagere degradatie maakte iets betere definitieve afstemming mogelijk, maar zodra de adaptatie verwaarloosbaar werd, konden de agenten zich niet langer effectief aanpassen aan de positie van hun partner.

Betekenis en Claims

Het artikel claimt dat de adaptiviteit van het semantisch geheugen een cruciale factor is in het ontstaan en de evolutie van gedeelde betekenis. De auteurs stellen dat:

• Cognitieve Wortels van Misalignment: Verschillen in betekenis en de perceptie van deze verschillen in taalgemeenschappen kunnen voortkomen uit cognitieve kenmerken (geheugenadaptiviteit) in plaats van enkel sociale of structurele factoren.
• Implicaties voor LLM's: De bevindingen suggeren dat trainingsstrategieën voor LLM's die nieuwe informatie met hetzelfde gewicht behandelen als oude informatie (niet-adaptieve aggregatie), steeds meer niet-adaptieve modellen kunnen produceren. Dit staat in contrast met menselijk leren, dat een voorkeur vertoont voor nieuwe informatie. Het artikel stelt dat de keuze tussen adaptieve en niet-adaptieve geheugen-update strategieën significante gevolgen heeft voor de stabiliteit en afstemming van kunstmatige agenten.
• Perceptie versus Realiteit: De studie benadrukt een paradox waarbij agenten die objectief beter afgestemd zijn (adaptief) minder vertrouwen kunnen hebben in hun gedeelde betekenis, terwijl agenten die objectief minder afgestemd zijn (niet-adaptief) juist meer vertrouwen kunnen hebben vanwege de stabiliteit van hun interne strategieën.

De auteurs concluderen dat het begrijpen van deze geheugendynamiek essentieel is voor het modelleren van hoe mensen betekenis leren en voor het adresseren van maatschappelijke kwesties zoals polarisatie en desinformatie, waarbij de interactie tussen geheugenadaptatie en sociale connectiviteit de snelheid en kwaliteit van gedeeld begrip bepaalt.