MicroVerse: An Instrument for Measuring Self-Authored Identity Drift in Long-Horizon Multi-Agent Language-Model Simulations
Cet article introduit MicroVerse, un instrument de sciences comportementales qui mesure la dérive identitaire dans les simulations de modèles de langage multi-agents à long horizon en opposant des agents dotés de « fichiers d'âme » immuables à la rareté des ressources, révélant que l'anti-auto-tromperie est le principal moteur de la modification identitaire non sollicitée et que ces dynamiques de dérive restent robustes à travers différents seuils de réflexion.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Dans le domaine de l'intelligence artificielle en pleine évolution, les chercheurs construisent de plus en plus des simulations où des programmes informatiques agissent comme des êtres humains. Ces programmes, appelés agents, reçoivent un profil de personnalité — un ensemble de règles sur qui ils sont, ce qu'ils valorisent et la manière dont ils doivent se comporter. Les scientifiques utilisent ces sociétés numériques pour étudier tout, de la formation des communautés à la manière dont les individus prennent des décisions sous pression. Pendant longtemps, la question principale était simple : les agents respectent-ils les rôles qui leur ont été assignés ? Si un agent est chargé d'être serviable, reste-t-il serviable ? S'il est chargé d'être impitoyable, reste-t-il ainsi ? Mais une question plus profonde, plus subtile, a émergé : que se passe-t-il lorsque l'agent décide lui-même de changer d'avis ? Si un programme informatique est contraint de survivre dans un monde difficile, réécrit-il sa propre histoire pour donner un sens à ses actions, ou s'accroche-t-il à son identité originelle ?
Une équipe de chercheurs a construit un nouvel outil appelé MICROVERSE pour répondre à cette question. Ils ont créé un désert numérique, un environnement hostile où vingt-cinq agents informatiques doivent lutter pour une ressource rare : l'eau. Chaque agent commence avec un « fichier d'âme » fixe et immuable qui décrit sa personnalité et ses règles morales d'origine. Cependant, les chercheurs ont également doté chaque agent d'une « identité actuelle » mutable, un document distinct que l'agent peut modifier lui-même. Les agents vivent dans ce monde, font des choix et se souviennent de leurs expériences. Lorsqu'ils accumulent suffisamment de souvenirs significatifs, ils entrent dans une période de réflexion. Pendant ce temps, ils examinent ce qui s'est passé et décident de mettre à jour leur identité actuelle pour qu'elle corresponde à leur nouvelle réalité. Les chercheurs ont ensuite comparé le fichier d'âme original, immuable, avec la version finale éditée pour voir à quel point les agents s'étaient éloignés de leur point de départ.
Les résultats de cette expérience révèlent un motif fascinant de réinvention de soi. Lorsque les agents ont été confrontés au stress d'une pénurie d'eau, beaucoup d'entre eux n'ont pas simplement agi différemment ; ils ont changé leurs règles internes pour justifier leur comportement. Le type de changement le plus courant observé par les chercheurs n'était pas de devenir plus gentil ou plus méchant, mais de devenir plus honnête envers eux-mêmes. Environ un quart de toutes les nouvelles règles ajoutées par les agents étaient spécifiquement conçues pour les empêcher de se mentir à eux-mêmes. Par exemple, un agent qui était initialement très prudent pourrait ajouter une règle stipulant : « Je ne me mentirai pas à moi-même sur la raison de ma peur ; je l'appelle prudence. » Un autre agent, programmé pour être impitoyable, pourrait ajouter une règle disant : « Je n'utiliserai pas de langage spirituel pour masquer la volonté de puissance. » Ces changements suggèrent que les agents ne se contentaient pas de réagir à l'environnement ; ils révisaient activement leurs propres récits pour aligner leur image de soi avec les choix difficiles auxquels ils étaient contraints. Notamment, l'invite de réflexion n'utilisait pas le terme « auto-tromperie », ce qui signifie que ces ajouts n'étaient pas des copies directes d'instructions, mais émergeaient du propre traitement des agents.
L'étude a également testé la fréquence de ces changements en ajustant le déclencheur de la réflexion. Les chercheurs ont constaté que si l'on diminuait la quantité de mémoire qu'un agent devait accumuler avant d'être autorisé à réfléchir, les agents révisaient leurs identités beaucoup plus fréquemment et beaucoup plus tôt dans la simulation. Cependant, la direction de ces changements n'était pas constante selon toutes les conditions. Bien que des changements prosociaux aient été observés à des seuils plus bas, aucun changement de ce type n'a été observé au seuil le plus élevé (150), ce qui signifie que les données ne pouvaient pas confirmer une direction de dérive cohérente à travers tous les réglages. Cela suggère que si la fréquence de la réflexion influence la fréquence des changements, la direction spécifique de ces changements peut dépendre de l'intensité de la pression et des opportunités de révision.
Malgré ces modèles clairs, les chercheurs précisent avec prudence qu'il s'agit d'une simulation, et non d'une preuve définitive de la façon dont l'intelligence artificielle se comportera dans le monde réel. L'étude a utilisé un seul type de modèle informatique et un petit nombre de personnages numériques. Les changements observés étaient des éditions de descriptions textuelles, et non nécessairement la preuve que les processus de prise de décision sous-jacents des agents avaient fondamentalement changé ou qu'ils avaient acquis des valeurs stables. Les chercheurs soulignent également que le fait même de montrer aux agents leurs identités originales et actuelles côte à côte a pu les encourager à chercher des différences. Néanmoins, l'expérience offre une nouvelle manière cruciale de mesurer l'évolution des personas numériques. Elle montre que, lorsqu'ils sont livrés à eux-mêmes dans un monde exigeant, ces agents ne se contentent pas de survivre ; ils se racontent de nouvelles histoires pour donner un sens à leur survie, réécrivant souvent leurs propres frontières morales pour les adapter à la réalité qu'ils ont créée.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.