Résumé technique : Apprendre à théoriser le monde à partir de l'observation

1. Énoncé du problème

Les modèles du monde de l'IA contemporaine opérationnalisent principalement la « compréhension » comme la capacité à prédire avec précision les états futurs dans des espaces latents ou d'observation. Cependant, la science cognitive développementale suggère que la compréhension humaine émerge non seulement de la prédiction, mais de la construction de théories internes et réutilisables sur le fonctionnement du monde, souvent avant l'acquisition du langage. Cette « théorie de la théorie » postule que la cognition implique la découverte d'explications structurées et compositionnelles pour les phénomènes observés.

Un écart critique existe dans les systèmes d'IA actuels : ils sont optimisés pour la prédiction ou la reconstruction, apprenant souvent des transformations composites entremêlées qui capturent des corrélations mais manquent de la structure compositionnelle nécessaire à la généralisation systématique. Ces modèles échouent à découvrir des mécanismes explicites et réutilisables expliquant comment et pourquoi les observations sont générées, ce qui les rend fragiles face aux décalages de distribution ou lorsqu'ils sont confrontés à de nouvelles compositions de facteurs connus.

Le problème central abordé est le suivant : Un système artificiel peut-il apprendre à construire des théories explicatives explicites du monde uniquement en observant des entrées sensorières brutes et non textuelles, sans recourir au langage, aux étiquettes de tâches ou à une supervision par programme de vérité terrain ?

2. Méthodologie : Apprendre à théoriser (L2T) et NEO

Les auteurs proposent Apprendre à théoriser (L2T), un paradigme d'apprentissage où les modèles infèrent des programmes exécutables et compositionnels (théories) à partir de paires d'observations brutes $(x, y)$. Une théorie est définie comme une séquence d'opérations primitives réutilisables transformant une observation source $x$ en une cible $y$.

Pour concrétiser L2T, l'article introduit le Théoricien neuronal (NEO), un modèle neuronal probabiliste doté des composants principaux suivants :

2.1. Cadre probabiliste

NEO modélise la vraisemblance conditionnelle $p_\theta(y | x)$ en introduisant des variables latentes : un programme discret $\tau$ (une séquence de primitives) et une trace d'exécution $s$. Le modèle suppose un processus génératif où un encodeur mappe $x$ vers un état latent initial, un « Programmeur de théorie » sélectionne des primitives séquentiellement, et un modèle de transition partagé exécute ces primitives pour générer un état final, qui est décodé pour reconstruire $y$.

2.2. Langage de l'esprit appris

Au lieu d'utiliser un langage symbolique prédéfini, NEO apprend un Langage de l'esprit directement à partir des données.

• Primitives : Le modèle induit un vocabulaire discret d'opérations via un livre de codes VQ-VAE vectoriel quantifié. Ces primitives n'ont pas de sémantique prédéfinie ; leur sens est dérivé de la manière dont elles transforment les états latents.
• Composition : Le programmeur de théorie $q_\phi(z_{ik} | s_k, y)$ agit comme une politique conditionnée par l'objectif, sélectionnant la prochaine primitive pour orienter l'état latent vers la cible $y$. Cela permet au modèle de composer des primitives en programmes structurés sans supervision explicite.

2.3. Principe de la longueur de description minimale (MDL)

Pour éviter la sur-décomposition (création de programmes inutilement longs) et encourager la découverte de l'ensemble de primitives le plus réutilisable, NEO emploie le principe MDL. Le modèle sélectionne une longueur de programme optimale $k^*$ qui équilibre la précision de la reconstruction avec la brièveté du programme :
$$k^* = \arg \min_{k} \lambda_{MDL}^k \cdot \ell(y, \hat{y}_k)$$
Ce mécanisme incite le modèle à trouver l'explication la plus courte et précise, favorisant naturellement la découverte de primitives fondamentales plutôt que la mémorisation de séquences entremêlées.

2.4. Ancrage des états

Une innovation clé est l'Ancrage des états. Pour garantir que les états latents intermédiaires correspondent à des observations valides (empêchant le modèle d'apprendre des transitions « raccourcis » qui s'écartent de la variété des données), NEO impose une perte de cohérence décodage-encodage sur les états intermédiaires. Cela garantit que chaque étape du programme inféré est une transformation significative au sein de l'espace latent appris.

2.5. Inférence et mise à l'échelle au moment du test

Au moment du test, NEO infère une théorie en sélectionnant itérativement des primitives jusqu'à ce que l'erreur de reconstruction tombe en dessous d'un seuil. Parce que le modèle apprend une structure compositionnelle, il supporte la généralisation de longueur (gestion de programmes plus longs que ceux vus durant l'entraînement). De plus, la nature probabiliste du programmeur de théorie permet la recherche au moment du test (NEO-S), où plusieurs théories candidates sont échantillonnées et sélectionnées par vote majoritaire pour améliorer la précision sur des compositions complexes et inédites.

3. Évaluation : Benchmark d'induction Observation-vers-Théorie (OTIB)

Les auteurs introduisent OTIB, un benchmark conçu pour évaluer si les modèles peuvent inférer des théories réutilisables à partir d'observations brutes sans supervision par programme.

• Configuration : Les données d'entraînement consistent en des paires d'observations générées par des programmes latents. L'ensemble d'entraînement inclut une fraction $\alpha$ des compositions de programmes possibles, tandis que le reste est retenu comme hors distribution compositionnelle (OOD).
• Métriques : La performance est mesurée par l'Auto-explicabilité (reconstruction de la cible à partir de la paire de support) et la Transférabilité (application de la théorie inférée à une nouvelle entrée de requête $x'$ pour prédire $y'$). La transférabilité est la métrique critique pour déterminer si une théorie réutilisable a été apprise par opposition à une mise en correspondance spécifique à l'instance.
• Domaines : Le benchmark est mis en œuvre dans trois domaines :
  1. GridWorld : Grille 10x10 avec des primitives de mouvement.
  2. Factorisation arithmétique : Transformations d'entiers par multiplication par des nombres premiers.
  3. Édition d'images : Images CIFAR-10 transformées par des opérations telles que la rotation, la luminosité et le masquage.

4. Résultats clés

Les expériences démontrent que NEO surpasse significativement les bases monolithiques (VQ-VAE discrets/continus et $\beta$-VAE) dans tous les contextes :

• Généralisation compositionnelle : Alors que les bases atteignent de hautes performances en distribution, elles s'effondrent vers une transférabilité proche de zéro sur les tâches OOD compositionnelles. NEO maintient une haute transférabilité (par exemple, ~0,93 sur GridWorld OOD), prouvant qu'il apprend des primitives réutilisables plutôt que de mémoriser des mises en correspondance entrée-sortie.
• Généralisation de longueur : NEO généralise avec succès à des programmes plus longs que ceux observés durant l'entraînement (par exemple, longueur 8 dans GridWorld, longueur 6 en arithmétique), une capacité où les bases échouent complètement.
• Découverte de primitives : L'analyse montre que NEO récupère l'ensemble de primitives de vérité terrain même lorsque les primitives ne sont jamais observées isolément durant l'entraînement (faible $\alpha$). Le modèle décompose avec succès des exemples d'entraînement entremêlés en unités atomiques et réutilisables.
• Mise à l'échelle au moment du test : La variante NEO-S, qui utilise une recherche basée sur l'échantillonnage lors de l'inférence, booste encore les performances, en particulier sur les tâches à long horizon, confirmant que la structure compositionnelle permet une exploration efficace de l'espace des programmes.

5. Signification et revendications

L'article se positionne comme une preuve de concept pour un changement dans les objectifs d'apprentissage de l'IA : passer des modèles du monde centrés sur la prédiction à une compréhension compositionnelle et axée sur l'explication.

• Contribution théorique : Il valide l'hypothèse selon laquelle des théories structurées et compositionnelles peuvent être induites à partir d'observations brutes et non textuelles sans supervision symbolique, alignant les objectifs d'apprentissage de l'IA avec la perspective du « bébé comme scientifique » issue de la science cognitive développementale.
• Contribution méthodologique : Il démontre que représenter des théories comme des programmes exécutables avec des primitives apprises et ancrer les états intermédiaires permet une généralisation systématique que les représentations latentes monolithiques ne peuvent atteindre.
• Portée modeste : Les auteurs reconnaissent explicitement les limites. La formulation actuelle suppose de petits ensembles de primitives discrètes et de courtes longueurs de programmes, limitant l'évolutivité à des dynamiques réelles hautement complexes, continues ou stochastiques. Les expériences sont restreintes à des benchmarks synthétiques contrôlés. Le travail est présenté comme une étude fondamentale des mécanismes d'apprentissage plutôt que comme un système prêt au déploiement.

En conclusion, l'article soutient qu'en cadrant l'apprentissage comme « Apprendre à théoriser », les systèmes d'IA peuvent acquérir des structures explicatives internes qui sont réutilisables, compositionnelles et capables de généraliser à des phénomènes nouveaux, s'approchant ainsi d'une notion plus riche de la compréhension machine.