A Caveat Regarding the Unfolding Argument: Implications of Plasticity

Cet article démontre, par des preuves mathématiques rigoureuses, que la plasticité rapide des poids synaptiques dans les réseaux de neurones récurents brise leur équivalence fonctionnelle avec les réseaux feedforward, invalidant ainsi l'argument de l'« unfolding » et rétablissant la possibilité d'une investigation empirique sur le rôle de la plasticité dans la conscience.

L'essentiel

🧠 Le Grand Débat : Le Cerveau est-il une Machine à Répéter ou un Artiste qui Apprend ?

Imaginez que vous essayez de comprendre la conscience (ce sentiment d'être "vous"). Deux camps s'affrontent dans le monde de la science :

1. Les "Structuralistes" (comme la théorie IIT) disent : "Ce qui compte, c'est la façon dont les neurones sont connectés entre eux en boucle (récurrence). C'est cette architecture complexe qui crée la conscience."
2. Les "Fonctionnalistes" (les sceptiques) disent : "Non, peu importe la structure ! Si une machine fait exactement la même chose que vous (mêmes entrées, mêmes sorties), elle est consciente. La structure interne ne compte pas."

⚔️ L'Argument du "Dépliement" (Le coup de massue)

En 2019, des chercheurs (Doerig et al.) ont lancé un argument terrible appelé l'"Argument du Dépliement".
Leur idée est simple :

"N'importe quelle machine qui tourne en boucle (comme un cerveau) peut être 'dépliée' en une machine qui ne tourne pas en boucle (un simple courant d'air), tant que le résultat final est le même. Si vous pouvez faire la même chose sans boucle, alors la boucle n'est pas nécessaire pour la conscience."

C'est comme dire : "Peu importe si votre voiture a un moteur complexe ou un simple ressort, tant qu'elle avance à 50 km/h, c'est la même voiture."
Si cet argument est vrai, alors les théories qui disent que la conscience dépend de la complexité interne du cerveau sont soit fausses, soit impossibles à prouver scientifiquement.

💡 La Révolution : Le "Cerveau qui Change" (La Plasticité)

C'est ici que les auteurs de ce papier (O'Reilly-Shah et ses collègues) arrivent avec une idée géniale. Ils disent : "Attendez une minute ! Vous avez oublié un détail crucial : le cerveau n'est pas statique. Il apprend et change en temps réel."

Ils appellent cela la plasticité.

L'Analogie du Sculpteur vs. Le Moule en Plâtre

Imaginons deux artistes qui doivent créer une statue :

1. Le Moule en Plâtre (Le Réseau Feedforward / FNN) : C'est un moule rigide. Une fois qu'il est fabriqué, il est figé. Si vous versez de la boue dedans, il sort une statue. Si vous versez de la boue différente, il sort une autre statue. Mais le moule lui-même ne change jamais. Il est statique.
2. Le Sculpteur en Argile (Le Réseau Récurrent avec Plasticité / RNN) : C'est un artiste qui travaille l'argile. À chaque fois qu'il touche l'argile, il la modifie. La forme de l'argile change pendant qu'il travaille. La prochaine fois qu'il touche l'argile, ce n'est plus la même matière, car elle a été modelée par les coups précédents. Il évolue.

Le Problème du Dépliement
L'argument du "Dépliement" disait : "Je peux prendre le Sculpteur à l'instant T, le figer, et créer un Moule en Plâtre qui fait exactement la même chose à cet instant précis."
C'est vrai pour un instant.

Mais voici le piège :
Le lendemain, le Sculpteur a changé. Ses coups de ciseau d'hier ont modifié la matière. Si vous essayez d'utiliser votre Moule en Plâtre (qui est resté figé à l'instant T), il ne fonctionnera plus ! Il ne pourra pas reproduire le comportement du Sculpteur parce que le Sculpteur a appris, a changé de structure, et a évolué.

Pour suivre le Sculpteur, il faudrait créer un nouveau moule à chaque seconde, à chaque instant. Il faudrait une bibliothèque infinie de moules pour suivre un seul cerveau qui apprend. C'est impossible !

🚀 Ce que cela change pour la science de la conscience

Les auteurs prouvent mathématiquement que :

1. L'équivalence est brisée : Un cerveau qui apprend (plastique) n'est pas fonctionnellement équivalent à une machine fixe, même si elles semblent identiques au début.
2. On peut les tester : Si vous donnez une petite perturbation (un choc, une question bizarre) à un cerveau qui apprend, il va réagir différemment dans le futur parce qu'il a "intégré" ce choc dans sa structure. Une machine fixe, elle, oubliera le choc dès que la fenêtre de temps sera passée.
3. La porte est rouverte : Cela signifie que les théories qui disent "la conscience dépend de la façon dont le cerveau apprend et se réorganise en temps réel" ne sont pas mortes ! Elles sont redevenues testables. On peut faire des expériences pour voir si la conscience nécessite cette capacité à changer de structure.

🎭 Conclusion en une phrase

Ce papier nous dit : "Le cerveau n'est pas une machine à café qui fait toujours le même café avec les mêmes boutons. C'est un musicien de jazz qui improvise. Vous ne pouvez pas remplacer un jazzman par un disque enregistré, même si la première note est la même, car le jazzman change à chaque instant en fonction de ce qu'il a joué avant."

Grâce à cette idée, la science peut enfin continuer à chercher la conscience sans être bloquée par un argument qui disait "c'est impossible à prouver".

Résumé technique

1. Le Problème : L'Argument de Dépliement (Unfolding Argument)

L'article aborde un défi majeur posé aux théories physiques de la conscience, en particulier celles qui accordent une importance fondamentale à la structure causale et aux réseaux de neurones récurrents (RNN), comme la Théorie de l'Information Intégrée (IIT) ou la Théorie du Traitement Récurrent (RPT).

• L'Argument de Dépliement (UA) : Développé par Doerig et al. (2019), cet argument postule que tout RNN peut être « déplié » (unfolded) en un réseau de neurones feedforward (FNN) fonctionnellement équivalent.
• Les Prémisses :
  • P1 : L'investigation scientifique repose sur des mesures physiques (rapports subjectifs).
  • P2 : Tout RNN peut être transformé en un FNN avec un comportement entrée-sortie identique.
  • P3 : Des systèmes avec des fonctions entrée-sortie identiques sont empiriquement indistinguables (sauf par l'observation interne).
  • P4 : On ne peut pas utiliser les mesures cérébrales internes comme indicateurs a priori de la conscience.
• La Conséquence : Si un FNN (sans boucles de rétroaction) peut reproduire exactement le comportement d'un RNN conscient, alors les théories affirmant que la conscience dépend de la récurrence sont soit fausses, soit non scientifiques (car elles postulent une différence interne indétectable).

2. Méthodologie

Les auteurs (O'Reilly-Shah, Selvitella, Schurger) utilisent une approche mathématique rigoureuse et formelle pour examiner les conditions limites de l'argument de dépliement.

• Modélisation : Ils définissent formellement les systèmes RNN et FNN dans un cadre temporel discret.
• Introduction de la Plasticité : Contrairement aux analyses précédentes qui considéraient des réseaux à poids fixes, les auteurs introduisent la plasticité synaptique rapide (changement des poids de connexion en fonction de l'histoire des activités) comme variable centrale.
• Outils d'analyse :
  • Analyse des systèmes dynamiques (trajectoires dans l'espace des fonctions vs espace d'état).
  • Théorie de l'information (entropie, information mutuelle, capacité de mémoire).
  • Théorie du contrôle et stabilité aux perturbations.
  • Complexité computationnelle et contraintes de ressources.
• Preuves : Ils fournissent des preuves mathématiques démontrant que la plasticité brise l'équivalence fonctionnelle entre un RNN et un FNN statique.

3. Contributions Clés et Résultats

L'article démontre que l'argument de dépliement échoue lorsque l'on considère des systèmes biologiques réalistes possédant une plasticité rapide. Voici les principaux résultats :

A. Rupture de l'Équivalence Fonctionnelle (Contre P2)

• Divergence dans l'espace des fonctions : Un FNN statique implémente une fonction fixe $\phi$ à un instant $t_0$. Un RNN plastique, en revanche, modifie ses paramètres au fil du temps. Ainsi, sa fonction entrée-sortie évolue ($\phi_0 \to \phi_t$).
• Impossibilité de repliement durable : Bien qu'un FNN puisse être équivalent à un RNN à un instant précis, il ne peut pas suivre l'évolution de la fonction du RNN au-delà de cet instant. Le RNN parcourt un « orbite » dans l'espace des fonctions, tandis que le FNN reste un point fixe.

B. Capacités Informationnelles et Mémoire

• Limites de la fenêtre glissante : Un FNN est limité à une fenêtre d'entrée fixe. Il ne peut pas intégrer l'information historique au-delà de cette fenêtre.
• Capacité du RNN plastique : Grâce à la plasticité, un RNN peut encoder l'histoire complète de ses interactions dans ses poids synaptiques, augmentant sa capacité prédictive et sa mémoire au-delà des limites d'un FNN statique. L'information mutuelle entre l'entrée passée et la sortie future est strictement supérieure pour le RNN plastique.

C. Stabilité aux Perturbations (Contre P3)

• Réponse aux perturbations : Les auteurs montrent que les RNN plastiques et les FNN statiques réagissent différemment aux perturbations d'entrée.
  • Un FNN oublie une perturbation après un nombre fixe de pas (défini par sa fenêtre).
  • Un RNN plastique conserve une trace persistante de la perturbation car celle-ci modifie ses poids, affectant ainsi toutes les sorties futures.
• Observabilité : Cette différence de comportement est observable au niveau entrée-sortie sans avoir besoin de mesurer l'intérieur du réseau, contournant ainsi la prémisse P4 de l'argument de dépliement.

D. Contraintes de Ressources et Complexité

• Croissance de la complexité : Un RNN plastique avec des ressources fixes (nombre de neurones constant) peut approximer une famille infinie de fonctions au fil du temps grâce à l'apprentissage.
• Impossibilité de la bibliothèque FNN : Pour reproduire le comportement d'un RNN plastique sur une longue période, il faudrait une bibliothèque infinie de FNN statiques, ce qui est physiquement impossible.

E. Implications pour la Testabilité Empirique (Dépendance Leniente)

• L'article résout le dilemme posé par Kleiner et Hoel (2021) concernant la testabilité des théories de la conscience.
• Les systèmes plastiques exhibent une « dépendance leniente » : le comportement observable contraint fortement la structure interne possible (en éliminant les surrogats statiques sur de longues périodes) sans pour autant déterminer une structure unique. Cela rend les théories incorporant la plasticité empiriquement testables.

4. Signification et Implications Théoriques

• Sauvegarde des théories dynamiques : Les résultats ne prouvent pas que la récurrence ou la plasticité sont nécessaires à la conscience, mais ils établissent que l'argument de dépliement ne les invalide pas a priori. Les théories qui intègrent la plasticité (comme certaines versions de l'IIT, du GNWT ou la théorie de l'espace d'état) échappent à la critique de l'indistinguabilité.
• Distinction Substrat vs Processus : L'argument de la complétude de Turing (TC) suggère que n'importe quel processus peut être réalisé par différentes structures causales. Les auteurs affirment que, même si un substrat alternatif (ex: silicium) peut calculer la même fonction, il ne peut pas reproduire la trajectoire dynamique et la réponse aux perturbations d'un système plastique biologique sans adopter la même organisation dynamique interne.
• Nouvelles Directions de Recherche : L'article redirige la recherche vers l'étude de la relation entre l'apprentissage, le développement, la plasticité pathologique et la conscience. Il suggère que la « profondeur temporelle » et l'évolution des états internes sont des propriétés pertinentes pour la conscience.
• Conclusion : La plasticité rapide sur les échelles de temps de la perception constitue une condition limite qui restaure la scientificité des théories de la conscience basées sur la récurrence dynamique. Elle permet de distinguer empiriquement un système conscient (plastique) d'un système zombie (statique) par leur comportement face aux perturbations et leur capacité d'adaptation, sans violer les principes du matérialisme physique.

En résumé, cet article fournit un cadre mathématique solide démontrant que la plasticité transforme la récurrence d'une propriété structurelle statique en un processus dynamique évolutif, rendant ainsi les théories de la conscience basées sur ce mécanisme testables et scientifiquement viables face aux critiques de l'argument de dépliement.