Compositional Neuro-Symbolic Reasoning

Cet article propose une architecture neuro-symbolique qui combine des représentations d'objets, des propositions de transformations guidées par des réseaux de neurones et un filtrage symbolique pour améliorer la généralisation et les performances des grands modèles de langage sur le corpus ARC-AGI-2 sans nécessiter de fine-tuning spécifique.

L'essentiel

Imaginez que vous essayez de résoudre un casse-tête visuel très complexe, comme un jeu où vous devez deviner la règle secrète qui transforme une image en une autre. C'est exactement ce que fait l'ARC (Abstraction and Reasoning Corpus), un test conçu pour mesurer l'intelligence humaine.

Les chercheurs de CoreThink AI et de Stanford ont créé une nouvelle méthode pour aider les intelligences artificielles (IA) à résoudre ces énigmes. Voici comment leur système fonctionne, expliqué simplement avec des analogies du quotidien.

1. Le Problème : Les IA sont souvent trop "bêtes" ou trop "rigides"

Pour résoudre ces puzzles, les IA actuelles ont deux gros défauts :

• Les IA purement neuronales (comme les grands modèles de langage) sont comme un artiste très créatif mais un peu étourdi. Elles peuvent deviner la règle, mais elles ont tendance à faire des erreurs de logique quand le puzzle change un peu. Elles mélangent tout : elles voient les couleurs et les formes, mais elles ne comprennent pas toujours comment les objets bougent ensemble.
• Les IA purement symboliques (les calculateurs rigides) sont comme des comptables très stricts. Elles sont excellentes pour suivre des règles précises, mais elles ont du mal à "voir" l'image. Si vous leur montrez un dessin flou, elles ne savent pas par où commencer.

2. La Solution : Une équipe de trois experts (L'approche Neuro-Symbolique)

Les auteurs ont créé une équipe de trois experts qui travaillent ensemble, comme dans une entreprise bien organisée. Au lieu de laisser une seule IA tout faire, ils séparent les tâches :

Étape 1 : L'Architecte (La Perception)

Imaginez que vous regardez une photo de votre salon. Au lieu de voir juste une masse de pixels, votre cerveau identifie immédiatement : "Ah, c'est un canapé rouge, c'est une table basse, et il y a un trou sous la table".

• Ce que fait le système : Il transforme la grille de pixels bruts en une liste d'objets clairs (formes, couleurs, positions). Il ne regarde plus des points, mais des "blocs" intelligibles. C'est comme passer d'une vue satellite floue à un plan d'architecte précis.

Étape 2 : L'Inventeur (La Proposition de Règles)

Maintenant que l'on connaît les objets, il faut deviner la règle.

• Ce que fait le système : Au lieu d'essayer de deviner n'importe quoi (ce qui serait comme chercher une aiguille dans une botte de foin), l'IA utilise une "boîte à outils" limitée. Cette boîte contient 22 types de mouvements de base (comme "remplir un trou", "déplacer un objet vers la droite", "relier deux formes").
• L'analogie : C'est comme si vous deviez réparer une voiture, mais vous n'aviez le droit d'utiliser que 22 outils spécifiques. Cela force l'IA à être créative, mais dans un cadre logique, évitant les idées folles et inutiles.

Étape 3 : Le Juge (La Vérification de Cohérence)

C'est l'étape la plus importante. L'IA a proposé plusieurs règles possibles. Maintenant, elle doit vérifier si ces règles fonctionnent pour tous les exemples du puzzle, pas juste un seul.

• Ce que fait le système : Si une règle fonctionne pour l'exemple A mais échoue pour l'exemple B, le Juge la rejette. Il ne garde que les règles qui sont cohérentes partout.
• L'analogie : Imaginez un détective qui a plusieurs suspects. Il ne garde que celui qui a un alibi solide pour tous les moments du crime, pas juste pour un seul. Cela élimine les fausses pistes.

3. Le Résultat : Pourquoi ça marche mieux ?

En séparant ces étapes, le système devient beaucoup plus intelligent :

1. Il comprend la structure : Il ne se perd pas dans les détails inutiles.
2. Il généralise mieux : Comme il utilise des règles logiques (comme un humain), il peut appliquer la même logique à un nouveau puzzle qu'il n'a jamais vu, au lieu de simplement "deviner" ou de "mémoriser".
3. Il est plus efficace : Il n'a pas besoin de faire des millions d'essais au hasard (ce qui coûte cher en temps et en énergie). Il cherche intelligemment dans sa "boîte à outils".

En résumé

Cette recherche montre que pour créer une vraie intelligence artificielle capable de raisonner, il ne suffit pas de rendre les modèles plus gros ou plus rapides. Il faut leur donner une structure.

C'est comme si on apprenait à un enfant à cuisiner :

• Ne pas lui donner juste une recette à mémoriser (mémorisation).
• Ne pas lui laisser faire n'importe quoi avec n'importe quel ingrédient (créativité sans limite).
• Mais lui apprendre à identifier les ingrédients (perception), à utiliser les techniques de base comme couper ou mélanger (règles structurées), et à vérifier que son plat a bon goût à chaque étape (vérification).

Grâce à cette méthode, leur système a réussi à résoudre 30,8 % des puzzles du test ARC-AGI-2, ce qui est un progrès énorme par rapport aux IA précédentes, et ce sans avoir besoin de s'entraîner des années sur des millions d'exemples. C'est une victoire de la logique structurée sur la simple force brute.

Résumé technique

Résumé Technique : Raisonnement Neuro-Symbolique Compositionnel pour ARC-AGI-2

1. Problématique

L'article se concentre sur le Corpus d'Abstraction et de Raisonnement (ARC), et plus spécifiquement sur sa version étendue ARC-AGI-2. Ce benchmark évalue l'intelligence fluide : la capacité à déduire des règles de transformation abstraites à partir d'un très petit nombre d'exemples (quelques paires entrée-sortie) et à les appliquer à de nouvelles entrées.

Les défis principaux identifiés sont :

• Limites des architectures purement neuronales : Les grands modèles de langage (LLM) et les réseaux de neurones end-to-end manquent de généralisation combinatoire fiable. Ils ont tendance à "entremêler" la perception et l'induction de règles, ce qui conduit à des extrapolations fragiles face à de nouvelles compositions.
• Limites des systèmes purement symboliques : Bien qu'interprétables, les méthodes de synthèse de programmes symboliques souffrent d'une explosion combinatoire lorsqu'elles tentent de parcourir des grilles haute résolution et des transformations multi-étapes.
• Coût du test-temps (Test-time scaling) : Les approches actuelles basées sur les LLM reposent sur un échantillonnage massif et une auto-cohérence probabiliste, ce qui est coûteux en calcul et ne garantit pas une cohérence stricte entre les exemples.

L'objectif est de concevoir un système capable de séparer la perception de l'induction de règles, en contraindre le raisonnement à un ensemble restreint et réutilisable de transformations atomiques.

2. Méthodologie : Une Architecture Neuro-Symbolique Compositionnelle

Les auteurs proposent un pipeline en quatre étapes qui découple la perception, la proposition d'hypothèses et la vérification de cohérence.

Étape 1 : Abstraction Symbolique Structurée de la Scène
Le système transforme la grille brute (pixels) en un graphe de scène symbolique.

• Décomposition : Identification des objets via des composantes connexes (8-connexité) et estimation de l'arrière-plan (couleur la plus fréquente).
• Paramétrisation : Pour chaque objet, le système calcule des attributs structuraux : boîte englobante, centroïde, histogramme de couleurs, et détection de cavités (trous).
• Rôle de l'IA : Si nécessaire, un LLM enrichit lescripteurs de haut niveau (ex: étiquettes de forme, indices de cavité) pour simplifier le raisonnement ultérieur.

Étape 2 : Génération d'Hypothèses Guidée par le Réseaux de Neurones
Au lieu d'énumérer exhaustivement tous les programmes possibles, le système utilise un langage spécifique au domaine (DSL) composé de 22 "Unit Patterns" (motifs atomiques) inspirés de l'abstraction visuelle humaine (ex: remplissage horizontal/vertical, ponts entre objets, symétrie, gravité).

• Un modèle neuronal (ou un LLM structuré) propose des candidats de transformations à partir de ce DSL restreint, basés sur les différences entre les graphes de scène d'entrée et de sortie.
• Cela réduit drastiquement l'espace de recherche tout en conservant la flexibilité nécessaire aux raisonnements multi-étapes.

Étape 3 : Filtrage par Cohérence Trans-Exemple
C'est l'étape cruciale de validation.

• Les programmes candidats générés pour chaque exemple d'entraînement sont exécutés symboliquement.
• Le système ne retient que les hypothèses qui sont cohérentes sur tous les exemples (intersection des ensembles de programmes valides).
• Cela élimine les explications qui fonctionnent sur un seul exemple mais échouent à généraliser. Le programme final est sélectionné selon le principe de parcimonie (le plus court).

Étape 4 : Génération Guidée de la Solution
Pour l'entrée de test, le système utilise les "indices" (hints) issus de la cohérence trans-exemple pour guider la génération de la solution.

• Si un programme symbolique explicite est trouvé, il est exécuté directement.
• Sinon, un LLM est utilisé avec ces indices structurés pour générer la grille de sortie.
• Une voting par majorité cellulaire (self-consistency) ou un classifieur méta (combinant ce raisonneur avec un autre solveur, le "ARC Lang Solver") est utilisé pour affiner la prédiction finale.

3. Contributions Clés

1. Séparation stricte Perception/Règle : L'architecture sépare explicitement l'extraction d'objets (perception) de la proposition de règles (induction), évitant ainsi les erreurs d'extrapolation des modèles end-to-end.
2. DSL Restreint et Guidé : L'utilisation d'un ensemble fixe de 22 motifs atomiques (Unit Patterns) agit comme un biais inductif fort, limitant l'espace de recherche sans sacrifier la capacité à résoudre des tâches complexes.
3. Filtrage de Cohérence : L'application d'une contrainte de cohérence stricte à travers tous les exemples d'entraînement garantit que la règle trouvée est véritablement générale, contrairement aux approches purement probabilistes.
4. Performance sans Finetuning : Le système atteint des résultats de pointe sans finetuning spécifique aux tâches ni apprentissage par renforcement, reposant uniquement sur l'inférence et l'architecture.

4. Résultats

Les performances sont évaluées sur l'ensemble public d'évaluation d'ARC-AGI-2 selon la métrique pass@2 (au moins une des deux soumissions est correcte).

• Raisonneur Compositionnel (Seul) : Atteint 24,4 %, surpassant significativement les meilleurs LLMs purs (ex: GPT-5-Pro à 18,3 %, Grok-4 à 16,0 %).
• Ensemble avec Classifieur Méta : En combinant le raisonneur compositionnel avec le "ARC Lang Solver" via un classifieur méta, le score monte à 30,8 %.
• Analyse d'ablation :
  • La suppression des "indices symboliques" fait chuter le score de 24,4 % à 17,5 %, prouvant que l'abstraction structurée est le principal moteur de performance.
  • La cohérence auto (self-consistency) apporte un gain supplémentaire de ~4 points, mais est secondaire par rapport au biais structurel.
• Efficacité : Bien que l'inférence LLM soit coûteuse, la partie symbolique ajoute un coût négligeable. Le gain de performance provient principalement de la réduction de l'entropie des hypothèses grâce à la structure, et non d'une augmentation brute de la puissance de calcul.

5. Signification et Conclusion

Cet article démontre que la mise à l'échelle (scaling) seule ne suffit pas pour atteindre une intelligence fluide sur des tâches de raisonnement abstrait.

• Insight Structurel : La séparation explicite entre la perception (extraction d'objets), la génération d'hypothèses (guidée par un DSL) et la vérification de cohérence (symbolique) est supérieure à l'apprentissage de motifs de bout en bout.
• Vers l'Intelligence Fluide : Les résultats suggèrent que pour progresser vers une intelligence humaine, les systèmes d'IA doivent intégrer des priors architecturaux qui codifient explicitement la structure compositionnelle, plutôt que de simplement augmenter la taille des modèles ou la longueur du contexte.
• Impact : Cette approche réduit la dépendance aux recherches par force brute et au test-temps massif, offrant une voie plus efficace et interprétable pour le raisonnement visuel.

Le code source est open-source, permettant la reproductibilité et l'extension du DSL pour couvrir des transformations plus complexes.