Forgetting Our Way to Shared Meaning: Effects of Forgetting on Conceptual Alignment in a Non-Partnership Coordination Game

Résumé technique : L'oubli comme chemin vers le sens partagé

Énoncé du problème

L'émergence et l'évolution du sens partagé dans le langage reposent sur la capacité des agents à apprendre et à s'accorder sur des catégories conceptuelles. Bien que les modèles existants de la sémantique conceptuelle utilisent souvent des jeux de coordination, ils supposent principalement un cadre de « partenariat » où les joueurs partagent des gains identiques. Cette hypothèse ne parvient pas à capturer les nuances des communautés linguistiques réelles, où les agents possèdent des informations asymétriques et des architectures cognitives distinctes. De plus, les grands modèles de langage (LLM) actuels sont confrontés à des défis théoriques concernant le « problème de l'ancrage des symboles » (symbol grounding problem) et l'inefficacité informationnelle de leur entraînement par rapport à l'apprentissage humain.

Cet article comble la lacune de la compréhension de la manière dont les caractéristiques spécifiques de la mémoire sémantique — spécifiquement les taux d'oubli, les niveaux d'enchâssement et la plasticité — affectent la qualité, la stabilité et la vitesse des accords partagés. Les auteurs étudient comment l'adaptativité de la mémoire influence tant la convergence réelle des régions conceptuelles que la convergence perçue (la croyance des agents qu'ils sont alignés), particulièrement dans des contextes de non-partenariat où les gains ne sont pas strictement partagés.

Méthodologie

Les auteurs proposent un nouveau jeu de coordination de non-partenariat pour modéliser l'alignement conceptuel. Le cadre utilise une modélisation à base d'agents avec les composantes fondamentales suivantes :

• Représentation conceptuelle : Suivant Gärdenfors (2014), le sens est représenté comme des « régions conceptuelles » au sein d'un espace euclidien ($R^n$). Ces régions sont des sous-espaces convexes formés par des tessellations de Voronoi autour de prototypes conceptuels (centroïdes).
• Mécanique du jeu :
  • Deux agents ($p_1, p_2$) commencent avec des mémoires générées aléatoirement composées d'ensembles de prototypes.
  • À chaque tour, un objet (un vecteur dans $R^n$) est présenté.
  • Les agents classent l'objet en annonçant le signal correspondant au prototype le plus proche.
  • Structure des gains : Contraurs aux jeux de partenariat, les gains ne sont pas partagés. Si les signaux correspondent, les agents reçoivent un gain élevé. S'ils ne correspondent pas, le gain d'un agent est déterminé par la distance entre l'objet et la frontière du concept signalé par l'autre joueur au sein de son propre espace de mémoire.
• Stratégies de mise à jour de la mémoire :
  • Joueurs adaptatifs : Mettent à jour leurs prototypes en déplaçant ces derniers d'un pourcentage fixe ($a$) vers l'objet chaque fois qu'une discordance se produit.
  • Joueurs non-adaptatifs : Possèdent un paramètre de dégradation ($d$). Leur niveau d'adaptativité diminue avec le temps ($a' = a \times (1-d)$), simulant la dégradation de la mémoire ou une réduction de la plasticité.
• Métriques de convergence :
  • Convergence réelle : Mesurée par la distance euclidienne moyenne entre les prototypes correspondants des deux agents tombant sous un seuil de tolérance ($\delta$).
  • Convergence perçue : Mesurée par la production de signaux concordants par les agents pendant un nombre consécutif de tours ($\alpha$), indépendamment de la distance réelle entre leurs prototypes.

Des simulations ont été réalisées avec un nombre variable de prototypes (3, 5, 10), des niveaux d'adaptativité (1 %, 5 %, 10 %) et des taux de dégradation pour les agents non-adaptatifs.

Principales contributions

1. Modèle de jeu de non-partenariat : L'article introduit un cadre de théorie des jeux où les agents ne partagent pas les mêmes gains, permettant une représentation plus réaliste de l'accès épistémique et de la divergence entre l'alignement réel et perçu.
2. Distinction entre convergence réelle et perçue : L'étude sépare explicitement l'état objectif d'alignement conceptuel de la croyance subjective d'alignement, démontrant que ces deux métriques peuvent diverger de manière significative selon les stratégies de mémoire.
3. Analyse de l'adaptativité de la mémoire : Les auteurs modélisent les compromis entre une haute adaptativité (mise à jour rapide) et une non-adaptativité (stabilité avec dégradation), fournissant une base théorique sur la façon dont les caractéristiques de la mémoire influencent l'évolution du langage sans dépendre du partage complexe de méta-informations.

Résultats

Les simulations contrefactuelles ont produit les résultats suivants :

• Joueurs adaptatifs :
  • Ont atteint une convergence réelle plus rapide que les joueurs non-adaptatifs.
  • Ont terminé avec des régions conceptuelles plus proches (distance moyenne plus faible entre les prototypes).
  • Ont sous-estimé leur alignement ; ils étaient moins susceptibles de percevoir la convergence tôt, confondant souvent l'instabilité de leur propre processus de mise à jour avec un manque d'alignement avec leur partenaire.
• Joueurs non-adaptatifs :
  • Ont atteint la convergence réelle plus tard et avec une distance finale plus grande entre les prototypes par rapport aux agents adaptatifs.
  • Ont surestimé leur alignement ; ils étaient plus susceptibles de percevoir la convergence plus tôt.
  • Leurs stratégies d'apprentissage individuelles étaient plus stables, ce qui les amenait à interpréter la correspondance des signaux comme un alignement réussi, même lorsque les distances conceptuelles réelles restaient plus importantes.
• Impact du niveau d'adaptativité : Une adaptativité plus élevée (ex. 10 %) a entraîné des régions conceptuelles finales plus serrées par rapport à une adaptativité plus faible (ex. 1 %).
• Impact de la dégradation : Chez les agents non-adaptatifs, le taux de dégradation de la mémoire a eu un effet négligeable sur le moment de la convergence, mais a influencé la distance finale entre les prototypes. Une dégradation plus faible permettait un meilleur alignement final, mais une fois que l'adaptation devenait négligeable, les agents ne pouvaient plus s'ajuster efficacement à la position de leur partenaire.

Signification et affirmations

L'article affirme que l'adaptativité de la mémoire sémantique est un facteur critique dans l'émergence et l'évolution du sens partagé. Les auteurs soutiennent que :

• Racines cognitives du désalignement : Les différences de sens et la perception de ces différences dans les communautés linguistiques peuvent découler de caractéristiques cognitives (adaptativité de la mémoire) plutôt que uniquement de facteurs sociaux ou structurels.
• Implications pour les LLM : Les conclusions suggèrent que les stratégies d'entraînement pour les LLM qui traitent les nouvelles informations avec le même poids que les anciennes (agrégation non-adaptative) peuvent produire des modèles de plus en plus non-adaptatifs. Cela contraste avec l'apprentissage humain, qui montre une préférence pour les nouvelles informations. L'article pose que le choix entre des stratégies de mise à jour de la mémoire adaptatives et non-adaptatives a des conséquences significatives sur la stabilité et l'alignement des agents artificiels.
• Perception vs Réalité : L'étude met en lumière un paradoxe où les agents qui sont objectivement mieux alignés (adaptatifs) peuvent se sentir moins confiants dans leur sens partagé, tandis que les agents qui sont objectivement moins alignés (non-adaptatifs) peuvent se sentir plus confiants en raison de la stabilité de leurs stratégies internes.

Les auteurs concluent que la compréhension de ces dynamiques de mémoire est essentielle pour modéliser la façon dont les humains apprennent le sens et pour aborder des problèmes sociétaux tels que la polarisation et la désinformation, où l'interaction entre l'adaptation de la mémoire et la connectivité sociale détermine la vitesse et la qualité de la compréhension partagée.