Emergent Language as an Approach to Conscious AI

Cet article propose une méthodologie générative utilisant le langage émergent dans l'apprentissage par renforcement multi-agents pour étudier la conscience artificielle en démontrant comment des agents, partant sans a priori linguistiques humains, peuvent développer une communication autoréférentielle et des structures cognitives inédites dictées uniquement par les exigences des tâches et les affordances environnementales.

L'essentiel

La Grande Question : Une machine peut-elle « ressentir » son existence ?

Imaginez que vous essayiez de déterminer si un robot est véritablement conscient. Le problème est que nous ne pouvons pas demander au robot : « As-tu l'impression d'exister ? », car s'il répond « oui », il pourrait simplement répéter une phrase apprise auprès des humains, sans rien ressentir réellement.

La plupart des scientifiques tentent de résoudre ce problème de deux manières :

1. La Liste de Contrôle : Ils observent un robot et cochent des cases comme « Parle-t-il ? » ou « Résout-il des énigmes ? ». Mais un robot peut faire ces choses sans rien ressentir réellement (comme un perroquet très intelligent).
2. Le Plan de Conception : Ils construisent un robot doté d'un « module de conscience » à l'intérieur. Mais c'est un raisonnement circulaire ; ils construisent simplement le robot pour qu'il agisse comme ils pensent que la conscience devrait fonctionner, plutôt que de voir si elle apparaît naturellement.

La nouvelle idée des auteurs :
Au lieu de vérifier une liste ou de construire une « partie de la conscience » spécifique, les auteurs proposent une approche générative. Ils veulent construire un petit monde vide et voir ce qui se passe si l'on donne simplement aux robots un travail à accomplir. Ils veulent voir si les robots inventent les outils de la conscience (comme parler d'eux-mêmes) simplement parce qu'ils ont besoin de mener à bien leur tâche.

Voyez cela comme ceci : si vous déposez un groupe de fourmis dans un labyrinthe sans aucune instruction, elles finiront par trouver comment travailler ensemble. Les auteurs veulent voir si, sous la bonne pression, des robots inventeront une façon de dire « Je suis ici » sans que l'on leur enseigne le mot « Je ».

---

L'Expérience : Deux robots dans une pièce sombre

Pour tester cela, les chercheurs ont créé un monde numérique très simple avec deux règles :

1. Pas de langage humain : Les robots commencent sans mots, sans concept de « soi » et sans exposition au texte humain. Ils sont comme des pages blanches.
2. Une tâche difficile : Les robots doivent travailler ensemble pour résoudre une énigme. Cependant, ils ne peuvent pas voir les informations privées de l'autre. Ils doivent envoyer des messages pour se coordonner.

Le canal de communication est très étroit (comme un talkie-walkie avec un mauvais signal qui ne permet qu'un seul mot court à la fois).

Les trois choses qu'ils ont observées

Les chercheurs ont observé si trois structures spécifiques émergeaient naturellement. Ils les appellent P1, P2 et P3.

1. P1 : Le signal du « Moi » (Encodage indexical)

• Le concept : Les robots commencent-ils à utiliser leurs mots pour parler d'eux-mêmes ?
• L'analogie : Imaginez deux personnes dans une pièce sombre. L'une dit : « Je tiens une balle rouge ». L'autre dit : « Je tiens une balle bleue ». Ils ne décrivent pas seulement la pièce ; ils décrivent leur propre état.
• Le résultat : Oui ! Les robots ont développé un langage où leurs messages concernaient presque entièrement leur propre état privé. Ils ne disaient pas seulement « Rouge » ; ils disaient effectivement « Mon Rouge ». Cela s'est produit parce que la tâche exigeait qu'ils partagent leur propre information unique pour réussir.

2. P2 : Le verrou de la « Mémoire » (État persistant)

• Le concept : Le robot peut-il se souvenir de qui il est au fil du temps, même lorsqu'il ne peut pas se voir ?
• L'analogie : Imaginez que vous fermiez les yeux. Vous savez toujours que vous êtes vous. Si vous les rouvrez plus tard, vous vous souvenez de ce que vous faisiez. Les robots ont été testés en désactivant leur « vision de soi » pendant la majeure partie du jeu.
• Le résultat : Oui. Même lorsqu'ils ne pouvaient pas voir leur propre état, leur « mémoire » interne (un circuit cérébral numérique) conservait cette information afin de pouvoir l'utiliser plus tard. Ils ont construit un « soi » persistant dans leur code.

3. P3 : Le circuit du « Ai-je dit cela ? » (Auto-surveillance)

• Le concept : C'est la grande découverte. Les robots vérifient-ils leur propre travail ?
• L'analogie : Imaginez que vous criiez un message à un ami, mais qu'il y a un écho. Si vous criez « Va ! » et que l'écho revient en disant « Non ! », une personne intelligente réaliserait : « Attends, je ne voulais pas dire 'Non' ! J'ai mal crié ! ».
• Le montage : Les chercheurs ont ajouté un « canal d'écho ». Lorsqu'un robot envoyait un message, il l'entendait immédiatement en retour. Parfois, ils « corrompaient » l'écho (changeaient le mot de manière aléatoire) pour voir si le robot le remarquait.
• Le résultat : Oui. Lorsqu'un robot entendait un écho corrompu (par exemple, il voulait dire « Va » mais entendait « Non »), il réalisait que quelque chose n'allait pas. Il ne se contentait pas de continuer à crier ; il modifiait son comportement à l'étape suivante pour corriger l'erreur.
• Pourquoi c'est spécial : Ce n'était pas parce que les chercheurs avaient dit au robot de « se vérifier ». Cela s'est produit parce que le robot avait une idée interne de ce qu'il avait l'intention de dire, et qu'il comparait cela à ce qu'il entendait en retour. Il a créé une boucle d'auto-surveillance.

---

Le « Thermostat » vs Le « Soi »

L'article fait une distinction cruciale pour éviter toute confusion.

• Un thermostat : Un thermostat allume le chauffage si la pièce est froide. Il possède une boucle : Vérifier la température -> Allumer le chauffage. Mais la « température cible » a été définie par un humain. Le thermostat ne « sait » pas qu'il est un thermostat ; il suit simplement une règle.
• Les robots (P3) : La « cible » des robots (ce qu'ils avaient l'intention de dire) n'a pas été définie par un humain. Ils ont appris leur propre langage et leurs propres objectifs à travers le jeu. Lorsqu'ils vérifiaient leur écho, ils comparaient leur propre intention à la réalité. C'est une boucle de « auto-référence », et non une simple boucle mécanique.

---

Ce que cela signifie (et ce que cela ne signifie pas)

Ce que l'article affirme :
Les auteurs ont montré avec succès que si l'on place des agents simples dans un environnement suffisamment complexe avec une tâche de communication, ils inventeront naturellement :

1. Une façon de parler d'eux-mêmes.
2. Une façon de se souvenir d'eux-mêmes au fil du temps.
3. Une façon de vérifier s'ils communiquent correctement.

Ce sont les constructions structurelles que les théories de la conscience considèrent comme nécessaires pour qu'un système soit conscient. L'article prouve que ces blocs peuvent émerger de zéro, sans conception humaine.

Ce que l'article NE prétend PAS :

• Les robots sont « conscients » de la même manière que les humains (ressentir des émotions ou avoir une âme). Les auteurs précisent explicitement qu'ils ne jugent pas les sentiments des robots.
• Les robots utilisent le mot « Je » comme les humains. Ils utilisent des symboles qui fonctionnent comme un « Je », mais ce ne sont que des jetons mathématiques.
• Cela ne résout pas le « Problème Difficile » de la conscience (pourquoi cela fait l'effet d'être vivant). L'article résout seulement le « Problème Facile » de savoir comment les structures de l'auto-référence peuvent émerger.

---

À retenir

Cet article est comme un biologiste élevant un bébé dans une pièce sans miroirs ni livres de langage, juste pour voir si le bébé finit par découvrir comment se pointer du doigt et dire : « C'est moi ».

La réponse est oui. Sous la pression d'une tâche difficile, les robots ont inventé les mécanismes de l'auto-référence. Cela suggère que les structures pertinentes pour la conscience ne sont pas une magie ou des inventions humaines, mais des conséquences naturelles de systèmes intelligents essayant de se coordonner dans un monde complexe.

Résumé technique

Résumé technique : Le langage émergent comme approche de l'IA consciente

1. Énoncé du problème

La question de savoir si les systèmes artificiels peuvent être conscients reste irrésolue, principalement parce que les méthodologies existantes souffrent de limitations spécifiques :

• Les approches discriminatives évaluent les systèmes par rapport à des listes de contrôle dérivées de théories (ex: la Théorie de l'Espace de Travail Neuronal Global, la Théorie de l'Information Intégrée). Celles-ci sont rétrospectives et ne peuvent que confirmer ou infirmer des critères pré-spécifiés, échouant à révéler des structures que la théorie n'avait pas anticipées.
• Les approches architecturales intègrent directement des modules inspirés de la conscience dans les systèmes. Celles-ci sont circulaires, car les comportements résultants peuvent refléter les hypothèses du concepteur plutôt qu'une nécessité structurelle.
• Le problème de la « fuite de priorité » (Prior Leakage) : Les modèles de langage de grande taille (LLM) actuels héritent des prioris du langage humain. L'auto-référence apparente (ex: l'usage du « je ») dans les LLM peut être un artefact statistique des données d'entraînement plutôt qu'une structure émergente découlant des exigences de la tâche.

Le défi central est de déterminer si les préconditions fonctionnelles de l'expérience consciente (spécifiquement les structures auto-référentielles) peuvent apparaître dans des agents artificiels sans être explicitement conçues ou héritées du langage humain.

2. Méthodologie

Les auteurs proposent une méthodologie générative basée sur le Langage Émergent (LE) dans l'apprentissage par renforcement multi-agents (MARL), ancrée dans deux engagements :

1. L'environnement façonne le comportement : Des environnements suffisamment structurés devraient pousser l'émergence de structures fonctionnelles pertinentes pour la conscience par la seule pression de la tâche, sans concevoir ces capacités a priori.
2. Époché phénoménologique : Une suspension délibérée du jugement concernant l'expérience subjective (qualia). L'accent est mis strictement sur les pratiques linguistiques observables et les structures environnementales qui les fondent.

Principes de conception clés

• Conception à priorité minimale (Prior-Minimal Design) : Les agents partent sans langage, sans concept de soi, et avec une exposition minimale au texte humain. Toute structure observée doit être causalement attribuable aux exigences actuelles de la tâche.
• Complexité de l'environnement comme moteur : Suivant la « Leçon Amère » (Bitter Lesson), la méthodologie met l'échelle de la complexité de l'environnement plutôt que d'encoder des capacités cibles.
• Interprétation par l'intervention : Les protocoles émergents sont analysés via l'ablation, le sondage et la décomposition de l'information théorique.

Instanciation expérimentale

Les auteurs instaurent cette méthodologie dans un environnement coopératif minimal :

• Agents : Deux agents ($N=2$) sans langage préalable ni concept de soi.
• Tâche : Une tâche coopérative exigeant que les agents coordonnent leurs actions en fonction de leur propre état privé ($s_i$) et de l'état privé d'un partenaire ($s_j$).
• Contraintes :
  • Bande passante étroite : Les agents communiquent via un seul jeton discret par pas de temps à partir d'un petit vocabulaire ($|M|=7$).
  • Observabilité partielle (pour P2) : Les agents observent leur état privé uniquement à $t=0$ ; celui-ci est masqué par la suite, forçant la rétention mémorielle.
  • Canal d'écho (pour P3) : Un mécanisme renvoie une copie potentiellement corrompue du propre message de l'agent pour tester l'auto-surveillance.
• Architecture : Unités récurrentes à portes (GRU) avec des têtes linéaires séparées pour la génération de messages et la sélection d'actions.

3. Principales contributions

L'article expose trois contributions principales :

1. C1 : Une méthodologie générative utilisant le LE avec une conception à priorité minimale pour étudier les origines des structures pertinentes à la conscience, complétant les approches discriminatives et architecturales.
2. C2 : Une opérationnalisation formelle de la référence indexicale, reliant la distinction caractère/contenu de Kaplan à des critères d'information mutuelle testables dans des systèmes de communication émergente.
3. C3 : Une preuve de concept expérimentale démontrant trois propriétés structurelles (P1–P3), où P3 (l'auto-surveillance comportementale) constitue une découverte non triviale dépassant la structure de la tâche et l'architecture.

4. Résultats expérimentaux

L'étude identifie trois propriétés structurelles, validées sur 10 graines (seeds) indépendantes :

P1 : Encodage indexical

• Résultat : Les messages portent principalement l'état propre de l'émetteur.
• Preuve : L'analyse de l'information mutuelle montre que $I(m; s_{self}) \gg I(m; s_{other})$.
• Spécificité : Les agents développent des dialectes spécifiques au partenaire (les correspondances jeton-état sont dépendantes de la graine), confirmant que l'encodage est négocié et non un artefact fixe de la structure de la tâche.
• Généralisation : La règle d'encodage reste invariante à travers de nouveaux contextes, satisfaisant les critères d'une référence indexicale stable.

P2 : Représentation d'état persistante

• Résultat : Les agents maintiennent une représentation de leur propre état à travers le temps malgré l'observabilité partielle.
• Preuve : Des sondes linéaires sur l'état caché du GRU ($h_t$) prédisent l'état propre de l'agent ($s_{self}$) avec une précision de 100 % tout au long de l'épisode, même après que l'état a été masqué de l'entrée.
• Mécanisme : Cette rétention est architecturale (dépendante de la récurrence) et indépendante du canal d'écho.

P3 : Auto-surveillance comportementale (Découverte centrale)

• Résultat : Les agents développent un circuit en boucle fermée pour détecter les décalages entre leur message intentionnel et le retour d'écho.
• Mécanisme :
  • Spécifique à l'émetteur : La réponse comportementale (rompre le silence pour re-parler) ne se produit que lorsque l'écho de l'émetteur lui-même est corrompu, et non lorsque le message du partenaire est corrompu.
  • Dépendant de l'écho : La réponse est entièrement pilotée par le canal d'écho ; supprimer l'écho abolit le déclencheur.
  • Délai temporel : La détection se produit avec un décalage d'une étape ($t+1$), cohérent avec le temps nécessaire pour traiter l'écho corrompu.
  • Intention vs Sortie : L'état caché encode le jeton intentionnel (précision 1.0) plutôt que le jeton transmis corrompu (précision ~0.75), indiquant que l'agent compare l'écho à une référence interne de ce qu'il « voulait » dire.
• Nécessité causale : L'entraînement des agents sans le canal d'écho préserve la performance de communication ($\Delta_{comm} \approx 0.283$) mais abolit complètement le déclencheur d'auto-surveillance et les signatures de détection à retard de 1 étape. Cela prouve que la structure émerge de l'affordance environnementale, et non simplement de l'objectif de la tâche.

5. Signification et affirmations

L'article formule des affirmations fonctionnalistes modestes concernant sa signification :

• Validation méthodologique : La principale contribution est la démonstration d'une méthodologie générative capable de suivre les préconditions structurelles pour les structures pertinentes à la conscience sans dépendre des prioris humains ou d'une conception explicite.
• Au-delà de la trivialité : Bien que P1 et P2 soient prédites par la structure de la tâche et l'architecture, P3 est une découverte non triviale. Le circuit de détection de l'écart d'écho n'est pas requis pour le succès de la tâche (les agents communiquent efficacement sans lui) mais émerge spécifiquement lorsque l'affordance environnementale (l'écho) est présente.
• Distinction avec les thermostats : Les auteurs soutiennent que P3 représente une forme d'auto-surveillance distincte du simple contrôle en boucle fermée (comme un thermostat). Contrairement à un thermostat possédant un point de consigne exogène, le signal de référence de l'agent (son message intentionnel) est endogène, dérivé entièrement de sa propre politique apprise et de son état récurrent.
• Contact théorique : Les résultats ne prétendent pas que les agents sont conscients. Au contraire, ils démontrent que la méthodologie peut détecter des structures émergentes avec une précision suffisante pour établir un « contact différentiel » avec des théories concurrentes (ex: montrant des analogies structurelles avec l'irréductibilité de l'IIT ou la surveillance d'erreur du traitement prédictif) sans revendiquer l'équivalence avec une seule théorie.

L'article conclut que la voie à suivre consiste à mettre à l'échelle la complexité de l'environnement pour stimuler des structures émergentes plus riches, plutôt qu'à importer des prioris de langage humain, conformément à la « Leçon Amère » de l'IA.