🤖 machine learning

EM-NeSy: Expectation Maximization for Neurosymbolic Learning

Cet article introduit EM-NeSy, un nouveau cadre d'apprentissage neurosymbolique qui exploite l'algorithme d'espérance-maximisation pour permettre un entraînement évolutif et efficace sans exiger que la composante symbolique soit différentiable, supportant ainsi le raisonnement exact et approximatif.

Auteurs originaux : Annegret Seibt, Luc De Raedt, Giuseppe Marra

Publié 2026-06-15

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Annegret Seibt, Luc De Raedt, Giuseppe Marra

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

La vue d'ensemble : Enseigner à un robot comment penser et raisonner

Imaginez que vous essayiez d'enseigner deux choses à la fois à un robot :

La perception : Comment regarder une photo floue et deviner quels sont les objets (comme reconnaître un chiffre écrit à la main). Cela est réalisé par un Réseau de Neurones (la partie « Neuronale »).
Le raisonnement : Comment vérifier si ces objets sont cohérents entre eux selon un ensemble de règles (comme vérifier si une grille de Sudoku est valide). Cela est réalisé par la Logique Symbolique (la partie « Symbolique »).

Les méthodes actuelles tentent d'enseigner ces deux parties simultanément en les connectant par un « fil » qui permet au robot d'apprendre de ses erreurs. Cependant, ce fil présente un problème : si la partie logique est trop complexe ou utilise une méthode qui ne s'accorde pas bien avec les mathématiques (comme l'échantillonnage aléatoire), le « fil » se casse. Le robot ne peut pas apprendre car il ne peut pas calculer la direction exacte pour corriger ses erreurs.

EM-NESY est une nouvelle façon d'enseigner au robot qui supprime entièrement ce « fil ». Au lieu de forcer les deux parties à communiquer constamment pendant le processus d'apprentissage, elle leur permet de jouer à tour de rôle.

L'analogie : Le critique d'art et l'apprenti

Pour comprendre comment fonctionne EM-NESY, imaginez un Apprenti Artiste (le Réseau de Neurones) et un Critique d'Art Exigeant (la Logique Symbolique).

L'ancienne méthode (Apprentissage de bout en bout / End-to-End)

Dans l'ancienne méthode, l'Apprenti peint un tableau, et le Critique crie immédiatement : « C'est faux ! ». Le Critique essaie ensuite d'expliquer exactement quel coup de pinceau était mauvais et comment le corriger.

Le problème : Si les règles du Critique sont trop compliquées (comme un Sudoku complexe) ou si le Critique utilise une méthode difficile à expliquer étape par étape (comme deviner de manière aléatoire), le Critique se retrouve bloqué. Il ne peut pas donner d'instructions spécifiques sur la façon de corriger les coups de pinceau. L'Apprenti est laissé dans la confusion et ne peut pas progresser.

La nouvelle méthode (EM-NESY)

EM-NESY transforme le flux de travail en deux étapes distinctes, comme un processus de répétition :

Étape 1 : La revue du Critique (L'étape d'« Espérance »)
L'Apprenti peint un tableau basé sur sa compétence actuelle. Le Critique regarde le tableau et la bonne réponse (l'étiquette).
Au lieu d'essayer d'expliquer comment corriger les coups de pinceau, le Critique rédige simplement une liste de corrections.

Exemple : « Tu pensais que ce chiffre était un 3, mais compte tenu des règles du Sudoku, il y a 70 % de chances que ce soit un 5 et 30 % de chances que ce soit un 6. »
Point clé : Le Critique fait cela en utilisant n'importe quelle méthode qu'il souhaite. Il peut utiliser des mathématiques complexes, des devinettes aléatoires ou une logique stricte. Peu importe s'il peut expliquer son raisonnement étape par étape ; il doit simplement produire la liste finale de probabilités (la « postérieure »).

Étape 2 : La pratique de l'Apprenti (L'étape de « Maximisation »)
Le Critique remet la liste des corrections à l'Apprenti. L'Apprenti regarde sa prédiction originale et les corrections du Critique.

L'Apprenti réfléchit : « J'ai prédit 3. Le Critique dit que je devrais avoir prédit 5 ou 6. Je dois ajuster mon cerveau pour que 5 ou 6 soit plus probable la prochaine fois. »
L'Apprenti met à jour ses propres paramètres internes (les paramètres neuronaux) pour correspondre à la liste du Critique.
Point clé : Le Critique n'est pas impliqué dans cette étape. La liste du Critique est traitée comme un fait établi. L'Apprenti doit seulement apprendre comment changer son propre style de peinture.

Pourquoi est-ce une avancée majeure ?

1. Cela débloque la logique « inapprenable »
Certains problèmes de logique sont si difficiles qu'on ne peut pas calculer la réponse exacte, ou la méthode pour trouver la réponse est « non-différentiable » (mathématiquement désordonnée).

Analogie : Imaginez que le Critique utilise une méthode où il lance des dés pour trouver la réponse. Dans l'ancienne méthode, vous ne pouviez pas enseigner à l'Apprenti car vous ne pouviez pas remonter le lancer de dés jusqu'aux coups de pinceau.
Avec EM-NESY : Le Critique lance les dés, obtient un résultat et le note. L'Apprenti apprend simplement du résultat. La partie désordonnée du lancer de dés est complètement cachée du processus d'apprentissage.

2. C'est plus rapide et utilise moins de mémoire
L'article montre que lorsque la logique est suffisamment simple pour être calculée exactement, cette nouvelle méthode est tout aussi précise que l'ancienne méthode, mais beaucoup plus rapide.

Analogie : C'est comme réaliser que vous n'avez pas besoin de recalculer toute l'histoire de l'univers à chaque fois que vous faites une erreur. Vous avez juste besoin du verdict final. Cela économise une quantité massive de mémoire informatique et de temps, permettant au robot de résoudre des puzzles beaucoup plus grands (comme des grilles de Sudoku de 100 chiffres) qui feraient planter les anciens systèmes.

3. Cela fonctionne avec n'importe quel « Critique »
Parce que le Critique n'a pas besoin d'être mathématiquement « lisse » ou différentiable, vous pouvez intégrer n'importe quel moteur logique existant, même ceux qui étaient auparavant trop difficiles à utiliser avec des réseaux de neurones.

Ce que les expériences ont montré

Les auteurs ont testé cela sur trois types de puzzles :

Addition de chiffres manuscrits : Ils ont montré qu'EM-NESY pouvait gérer de très grands calculs (100 chiffres) que les autres méthodes ne pouvaient même pas terminer, tout en utilisant moins de mémoire.
Sudoku visuel : Ils ont montré qu'il pouvait apprendre de puzzles où les règles étaient strictes, même en utilisant des méthodes approximatives (comme l'échantillonnage aléatoire) pour résoudre la partie logique.
Recherche de chemin sur une carte : Ils ont montré qu'il pouvait apprendre à trouver le chemin le plus court sur une grille, une tâche où les autres méthodes avaient des difficultés car la logique était trop complexe pour être différenciée.

L'essentiel à retenir

L'article propose EM-NESY, un cadre qui traite l'apprentissage neuro-symbolique comme un jeu de « Chaud et Froid » joué à tour de rôle.

Tour 1 : Le moteur logique (le Critique) détermine quelles auraient dû être les bonnes réponses, en utilisant les outils à sa disposition.
Tour 2 : Le moteur neuronal (l'Apprenti) ajuste son cerveau pour correspondre à ces réponses.

Ce simple changement de mode permet à l'IA d'apprendre à partir d'une logique complexe, désordonnée ou approximative, sans avoir besoin de forcer la logique à être mathématiquement parfaite ou différentiable. Cela rend la création d'une IA capable de la fois « voir » et « penser » beaucoup plus flexible et évolutive.

Résumé technique : EM-NESY : Maximisation de l'espérance pour l'apprentissage neurosymbolique

Énoncé du problème

Les modèles neurosymboliques (NeSy) visent à intégrer les forces perceptuelles des réseaux de neurones avec les capacités de raisonnement de la logique symbolique. Bien que les modèles NeSy de pointe atteignent généralement un apprentissage de bout en bout en rétropropageant les gradients à travers les composants tant neuraux que symboliques, cette approche se heurte à des défis importants lorsque le composant symbolique repose sur une inférence approximative.

L'inférence probabiliste exacte est souvent #P-difficile et calculatoirement intractables pour des tâches complexes. Par conséquent, de nombreux systèmes ont recours à des méthodes d'inférence approximative (par exemple, l'échantillonnage, la propagation de croyances ou les relaxations par programmation linéaire). Cependant, ces méthodes introduisent des problèmes de différentiabilité :

Non-différentiabilité : Les techniques comme l'échantillonnage sont intrinsèquement non différentiables, nécessissant des estimateurs de gradient spécialisés (par exemple, REINFORCE) ou des astuces de reparamétrage.
Surcharge de calcul : Même les méthodes itératives théoriquement différentiables (par exemple, la propagation de croyances) deviennent impraticables à différencier en pratique en raison du graphe de calcul massif requis pour rétropropager à travers toutes les itérations.

Les solutions actuelles nécessitent souvent des modifications spécifiques à l'inférence pour assurer la différentiabilité, ce qui limite la flexibilité et l'évolutivité des systèmes NeSy.

Méthodologie : EM-NeSy

Les auteurs proposent EM-NeSy, un cadre d'apprentissage qui traite l'apprentissage NeSy comme une instance de l'algorithme de Maximisation de l'Espérance (EM). Cette formulation découple le processus d'inférence symbolique du calcul du gradient, permettant l'utilisation de n'importe quel moteur d'inférence (exact ou approximatif, différentiable ou non).

Le cadre

Le modèle NeSy est traité comme un modèle à variables latentes où :

$X$ : Entrée subsymbolique (ex. : images).
$Z$ : Variables symboliques latentes (prédites par le réseau).
$Y$ : Sortie symbolique cible (ex. : validité d'une grille de Sudoku).
$\theta$ : Paramètres du réseau de neurones.

Le processus d'apprentissage alterne entre deux étapes :

Étape E (Espérance) :
Le composant symbolique calcule la distribution postérieure des variables latentes $Z$ conditionnée par l'étiquette observée $Y$ et l'entrée $X$ :
$p(z|y, x, \theta) = \frac{p_{Ne}(z|x, \theta)p_{Sy}(y|z)}{p(y|x, \theta)}$
Ici, $p_{Ne}$ est le prior neural et $p_{Sy}$ est la vraisemblance symbolique. Crucialement, cette étape agit comme un « correcteur probabiliste », abduisant des étiquettes douces ou dures pour $Z$ basées sur la connaissance métier. Cette étape peut être effectuée par n'importe quel moteur d'inférence symbolique (exact, approximatif, basé sur l'échantillonnage, etc.) sans nécessiter de différentiabilité.
Étape M (Maximisation) :
Les paramètres neuraux $\theta$ sont mis à jour en minimisant l'entropie croisée entre le prior neural $p_{Ne}(z|x, \theta)$ et la distribution postérieure $\ell(z)$ calculée lors de l'étape E :
$L_{EM-NeSy}(\theta) = -\sum_{z \in R(Z)} \ell(z) \log p_{Ne}(z|x, \theta)$
Les gradients sont rétropropagés uniquement à travers le composant neural, traitant la distribution postérieure $\ell(z)$ comme une constante. Cela élimine la nécessité de différencier à travers le processus d'inférence symbolique.

Équivalence théorique

Les auteurs prouvent que sous inférence exacte, les gradients calculés par EM-NeSy sont mathématiquement équivalents à ceux d'un apprentissage NeSy standard différentiable de bout en bout (Théorème 3.1). Ainsi, EM-NeSy retrouve le cadre standard lorsque l'inférence exacte est réalisable, mais offre un avantage distinct lorsqu'elle ne l'est pas.

Variantes et extensions

Hard EM : Utilise des assignations MAP (Maximum A Posteriori) au lieu de distributions postérieures douces.
Multi-M EM : Effectue plusieurs étapes M (mises à jour de gradient) pour une seule étape E afin d'accélérer la convergence sans re-calculer la distribution postérieure coûteuse.
Inférence Approximative : Le cadre supporte naturellement les méthodes basées sur l'échantillonnage (ex. : échantillonnage par rejet, échantillonnage ABC) et les algorithmes itératifs (ex. : propagation de croyances) sans modification.

Principales contributions

Reformulation de l'apprentissage NeSy : Les auteurs ont recadré l'apprentissage NeSy au sein du cadre EM, permettant l'utilisation de variantes avancées de l'EM (EM généralisé, EM stochastique, Hard EM) pour une meilleure flexibilité.
Intégration sans différentiabilité : Un cadre général est proposé qui intègre n'importe quel moteur d'inférence probabiliste dans un modèle NeSy sans exiger que le processus d'inférence symbolique soit différentiable.
Évolutivité et efficacité : L'approche démontre que l'apprentissage NeSy peut passer à l'échelle pour des tâches où l'inférence exacte est intractale ou là où la différenciation à travers des solveurs itératifs est trop coûteuse en termes de calcul.

Résultats expérimentaux

Les auteurs ont évalué EM-NeSy sur trois benchmarks : MNISTAdd (addition de chiffres manuscrits), Visual Sudoku, et Warcraft path-planning.

Inférence Exacte (MNISTAdd) : EM-NeSy a atteint une précision comparable à celle d'un NeSy standard différentiable de bout en bout (BP-std) et de DeepStochLog. Cependant, il les a nettement surpassés en termes d'évolutivité et d'efficacité. Alors que DeepStochLog n'a pas pu passer à l'échelle pour 15 chiffres à cause des limites de compilation de connaissances, EM-NeSy a pu monter jusqu'à 100 chiffres. Il a également réduit l'utilisation de la mémoire de pointe de ~90 Go à ~35 Go et réduit le temps d'entraînement.
Inférence Approximative/Non-Différentiable :
- Visual Sudoku : Les méthodes différentiables standards (Scallop, SL) ont expiré sur des grilles 9x9. EM-NeSy, utilisant l'échantillonnage par calcul bayésien approximatif (ABC), a obtenu une précision compétitive (53,3 %) avec un temps d'entraînement minimal (8,24 min), alors que les autres méthodes étaient inapplicables.
- Warcraft Path-Planning : EM-NeSy avec l'échantillonnage ABC a atteint l'état de l'art en précision (98,80 % sur 12x12, 69,60 % sur 30x30) avec des temps d'entraînement nettement plus rapides que I-MLE et EXAL.
Limitations observées : La performance d'EM-NeSy dépend de la qualité de la distribution postérieure approximative. Le Hard EM (MAP) a montré un biais sur MNISTAdd, et la propagation de croyances de type "loopy" a échoué sur le Sudoku 9x9 en raison de la structure du graphe de facteurs. L'échantillonnage ABC a montré une variance élevée sur les instances plus grandes mais est resté efficace dans les contextes plus restreints.

Signification et affirmations

L'article affirme qu'EM-NeSy fournit un cadre d'apprentissage unifié qui simplifie considérablement la conception de modèles en éliminant le besoin de modifications de différentiabilité spécifiques à l'inférence. En traitant l'apprentissage NeSy comme un problème d'EM, l'approche :

Permet l'utilisation de n'importe quel moteur d'inférence symbolique, y compris des solveurs spécialisés, optimisés ou non différentiables.
Recouvre l'apprentissage standard de bout en bout sous inférence exacte tout en offrant une efficacité de calcul et une évolutivité de la mémoire supérieures.
Permet aux systèmes NeSy de s'attaquer à des tâches impliquant des contraintes combinatoires complexes (comme la planification de trajectoire ou le Sudoku) où l'inférence exacte est irréalisable et les approximations différentiables difficiles à construire.

Les auteurs concluent que bien qu'EM-NeSy ne résolve pas le problème de la sélection d'approximations efficaces (qui reste dépendant de la tâche), il lève la barrière de la différentiabilité, permettant ainsi des systèmes neurosymboliques plus évolutifs et flexibles.