Résumé Technique : Représentations Non Ambiguës dans les Réseaux de Neurones

Énoncé du Problème

Les représentations conventionnelles (par exemple, les chaînes de bits, les lettres) sont intrinsèquement ambiguës ; leur signification dépend entièrement d'un décodeur ou d'une convention externe. Une seule chaîne de bits peut encoder un JPEG ou un MP3 selon le schéma de décodage utilisé. En revanche, l'expérience consciente est postulée comme étant fondamentalement différente : un état neural correspondant à la perception d'un carré rouge ne peut pas simultanément encoder la perception d'un triangle vert. Cette nature intrinsèque de la conscience suggère que les représentations conscientes doivent être non ambiguës, où le contenu est déterminé uniquement par l'état neural lui-même, et non par une interprétation externe.

L'article examine si les réseaux de neurones peuvent encoder un contenu représentationnel de manière non ambiguë grâce à leur structure relationnelle interne. Plus précisément, il cherche à savoir si le contenu d'un neurone (par exemple, la classe de chiffre qu'il représente ou la position spatiale d'une entrée qu'il encode) peut être déterminé de manière unique par ses motifs de connectivité par rapport aux autres neurones, sans connaissance de la procédure d'entraînement ou de l'étiquetage externe.

Méthodologie

Cadre Théorique

Les auteurs formalisent l'ambiguïté représentationnelle à l'aide de la théorie de l'information. L'ambiguïté est définie comme l'entropie conditionnelle $H(I|R)$, où $I$ représente les interprétations possibles et $R$ est la représentation.

• Ambiguïté Élevée : Distribution uniforme sur les interprétations (information minimale sur le contenu).
• Ambiguïté Faible : Probabilité concentrée (haute confiance dans le contenu).
  L'hypothèse est que la structure relationnelle (le réseau des relations internes) au sein d'un réseau peut contraindre les interprétations possibles, réduisant ainsi $H(I|R)$.

Dispositif Expérimental

Deux expériences principales ont été menées en utilisant des réseaux de neurones entièrement connectés entraînés sur la tâche de classification de chiffres MNIST (architecture 784-50-50-10). Trois paradigmes d'entraînement ont été comparés :

1. Non entraîné : Initialisation aléatoire (contrôle).
2. Rétropropagation Standard : Entraînement standard.
3. Entraînement avec Dropout : Rétropropagation avec un dropout de 20 % sur les couches cachées.

Expérience 1 : Décodage de l'Identité de Classe du Neurone de Sortie

• Tâche : Déterminer quelle classe de chiffre (0–9) un neurone de sortie représente en se basant uniquement sur sa connectivité.
• Procédure : Les neurones de la couche de sortie ont été permutés aléatoirement pour supprimer l'information de position. La structure relationnelle a été extraite via la matrice de Gram des similitudes de cosinus entre les vecteurs de poids des neurones.
• Méthodes de Décodage :
  1. Correspondance Géométrique : Une matrice de Gram de référence (moyennée à partir de réseaux ayant un ordre connu) a été comparée aux réseaux de test. La permutation minimisant la distance de Frobenius a été sélectionnée.
  2. Décodeur Appris : Un décodeur basé sur un Transformer (sans encodage de position pour garantir l'invariance par permutation) a été entraîné pour prédire l'identité de la classe à partir de la structure relationnelle.
• Ablation : Test de savoir si les voisinages locaux (similitude d'un neurone cible avec tous les autres) suffisent ou si la géométrie globale complète est requise.
• Mise à l'échelle : Variation du nombre de neurones de sortie (2 à 10) pour tester si l'augmentation de la complexité relationnelle réduit l'ambiguïté.
• Trans-Architecture : Test de la transférabilité à travers différentes architectures de couches cachées (50-50, 25-25, 100).

Expérience 2 : Décodage de la Position Spatiale du Neurone d'Entrée

• Tâche : Décoder la distance euclidienne d'un pixel correspondant d'un neurone d'entrée par rapport au centre de l'image.
• Procédure : Similaire à l'expérience 1, mais appliquée aux poids de la couche d'entrée ($784 \times 50$). En raison du grand nombre de permutations ($784!$), seul le décodeur appris (tâche de régression) a été utilisé.
• Métrique : Score $R^2$ pour la prédiction de la distance spatiale.

Quantification de l'Ambiguïté

Les auteurs ont calculé des Scores de Réduction d'Ambiguïté (ARS) pour quantifier la réduction de l'entropie conditionnelle par rapport à l'entropie maximale.

• Pour la classification : Dérivé de la précision en utilisant l'inégalité de Fano.
• Pour la régression : Dérivé de $R^2$ en supposant des résidus gaussiens.
  Un ARS de 1,0 indique une désambiguïsation complète ($H(I|R, C) = 0$).

Résultats Clés

1. Décodage de l'Identité de Classe du Neurone de Sortie

• Réseaux Non Entraînés : La précision du décodage était au niveau du hasard (10 %), validant que les poids aléatoires ne contiennent aucune structure récupérable.
• Rétropropagation Standard : A atteint 25 % de précision avec le décodeur appris et 38 % avec la correspondance géométrique. Bien qu'au-dessus du hasard, la géométrie relationnelle présentait une ambiguïté significative (plusieurs permutations produisaient des distances similaires à la référence).
• Entraînement avec Dropout : A atteint 100 % de précision avec la correspondance géométrique (variance nulle) et 75 % avec le décodeur appris. La véritable permutation était clairement séparée de toutes les alternatives incorrectes dans l'espace géométrique.
• Orthogonalité à la Performance : Malgré ces différences drastiques d'ambiguïté représentationnelle, la précision de classification MNIST sous-jacente était presque identique entre tous les paradigmes d'entraînement.

2. Nécessité et Complexité Structurelles

• Global vs Local : La suppression du contexte géométrique global (en ne fournissant que les vecteurs de similitude locale) a provoqué une chute substantielle de la précision du décodage, indiquant que le contenu d'un neurone est déterminé par sa position au sein de l'ensemble de la géométrie relationnelle, et non seulement par ses voisins locaux.
• Complexité Relationnelle : La précision a augmenté de manière monotone avec le nombre de neurones utilisés pour calculer la structure relationnelle. Avec 2 neurones, la performance était au niveau du hasard (50 %) ; avec 10 neurones, elle atteignait 100 %. Cela démontre que des géométries relationnelles plus riches fournissent davantage de contraintes sur les interprétations.

3. Invariance et Généralisation

• Invariance d'Architecture : La correspondance géométrique a obtenu une forte précision de décodage à travers différentes architectures de couches cachées (par exemple, décoder un réseau 25-25 en utilisant une référence 50-50), suggérant que l'encodage relationnel du contenu est largement invariant à l'architecture.
• Discrimination de Jeu de Données : Un classificateur binaire pouvait distinguer entre des réseaux entraînés sur MNIST vs Fashion-MNIST avec une précision quasi parfaite (99,8 % pour le dropout) en se basant uniquement sur la structure relationnelle.

4. Position Spatiale du Neurone d'Entrée

• Contrairement aux résultats de la couche de sortie, la rétropropagation standard a produit une précision de décodage spatial plus élevée ($R^2 = 0,844$) que l'entraînement avec dropout ($R^2 = 0,695$).
• Cependant, dans les deux cas, la structure relationnelle complète a nettement surpassé l'information de voisinage local.
• Les Scores de Réduction d'Ambiguïté (ARS) pour les positions d'entrée variaient de 0,419 à 0,654, indiquant une désambiguïsation substantielle mais non parfaite.

Signification et Revendications

L'article affirme fournir une méthode quantitative pour mesurer l'ambiguïté représentationnelle dans les systèmes neuraux. Ses principales contributions sont :

1. Opérationnalisation de la Non-Ambiguïté : Il démontre que les réseaux de neurones peuvent encoder l'information d'une manière qui est non ambiguë par rapport à la structure relationnelle. Pour les réseaux entraînés avec dropout, la géométrie relationnelle spécifie complètement le contenu représentationnel (identité de la classe), atteignant un ARS de 1,0.
2. Orthogonalité de l'Ambiguïté et de la Performance : L'étude montre que l'ambiguïté de la représentation est une dimension de la représentation neurale qui peut varier indépendamment de la performance comportementale de la tâche. Un réseau peut accomplir une tâche parfaitement tout en encodant l'information de manière ambiguë (rétropropagation standard) ou non ambiguë (dropout).
3. Alignement Théorique : Les résultats soutiennent les comptes théoriques de la conscience (tels que le Représentationalisme Étroit et la Théorie de l'Information Intégrée) qui postulent que les états conscients doivent être non ambigus. L'article soutient que si la conscience survient sur les états cérébraux, ceux-ci doivent déterminer leur contenu de manière non ambiguë. Le résultat expérimental montrant que la structure relationnelle peut fixer le contenu sans décodage externe s'aligne sur la nature "intrinsèque" de l'expérience phénoménale.
4. Déterminisme Structurel : Le travail suggère que le contenu n'est pas simplement assigné par convention, mais peut être déterminé structurellement par les relations internes du système. Le décodeur utilisé dans les expériences n'impose pas de sens, mais découvre des motifs relationnels cohérents inhérents aux instances du réseau.

Les auteurs restent modestes dans leurs affirmations, précisant explicitement qu'ils n'affirment pas que les réseaux MNIST sont conscients. Ils proposent plutôt que leur cadre offre une condition nécessaire (bien que non suffisante) pour l'expérience phénoménale : la capacité d'un substrat neural à encoder le contenu de manière non ambiguë à travers sa structure interne.