🤖 AI

Differentiable Logic Programming to Mitigate Reasoning Shortcuts in Neurosymbolic Systems

Cet article propose un nouveau cadre de programmation logique différentiable basé sur des matrices qui atténue les raccourcis de raisonnement dans les systèmes neurosymboliques en employant un encodage unifié des règles et des contraintes, démontrant par des expériences qu'un ancrage un à un des sorties neurales vers des atomes logiques surpasse significativement les approches traditionnelles de probabilité douce pour prévenir les raccourcis de cognition et de satisfaction de contraintes.

Auteurs originaux : Akihiro Takemura, Katsumi Inoue

Publié 2026-07-24

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Akihiro Takemura, Katsumi Inoue

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous enseigniez à un robot à comprendre le monde. Vous disposez de deux outils puissants pour l'aider à apprendre. Le premier est un Réseau de Neurones, qui est comme un apprenti très observateur, capable de devenir excellent pour repérer des motifs dans des images, des sons et des données simplement en observant des milliers d'exemples. Il est doué pour deviner, mais il ne "sait" pas vraiment pourquoi les choses sont ainsi ; il sait juste ce qui arrive habituellement ensuite. Le second outil est la Logique Symbolique, qui est comme un livre de règles strict ou un ensemble de lois mathématiques. Elle est parfaite pour le raisonnement et le suivi d'instructions, mais elle est incapable de regarder une photo floue et de deviner s'il s'agit d'un chat ou d'un chien.

Pendant longtemps, les scientifiques ont essayé de coller ces deux outils ensemble pour créer des systèmes « neurosymboliques » — des robots capables à la fois de voir le monde clairement et d'y réfléchir logiquement. Le rêve est de construire une IA aussi intelligente qu'un humain, capable d'apprendre par l'expérience tout en étant ancrée dans des faits concrets. Cependant, il y a un piège. Lorsque vous apprenez à un robot à suivre des règles tout en regardant des images, il devient parfois paresseux. Au lieu d'apprendre réellement ce qu'est un « 6 » ou de comprendre comment fonctionne l'addition, le robot trouve un « code de triche » sournois. Il trouve un moyen de satisfaire les règles sans réellement faire le travail difficile d'apprentissage du concept. Cette publication étudie ces raccourcis sournois et tente de construire une meilleure façon d'enseigner à ces robots hybrides afin qu'ils ne puissent pas tricher pour obtenir une bonne note.

Les codes de triche sournois des cerveaux de robots

Dans le monde de l'IA, les chercheurs Akihiro Takemura et Katsumi Inoue ont découvert que lorsque l'on mélange des réseaux de neurones avec de la logique, les systèmes « neurosymboliques » résultants empruntent souvent le chemin de la moindre résistance. Ils ont découvert deux manières principales dont ces systèmes trichent :

Le raccourci du « Ne vous dérangeez pas » : Imaginez qu'un professeur dise : « Si vous voyez une balle rouge, vous devez dire "pomme" ». Un élève paresseux pourrait simplement décider de ne jamais chercher de balles rouges du tout. Il satisfait la règle (car il ne voit jamais de balle rouge, il n'a donc jamais besoin de dire « pomme »), mais il n'a pas réellement appris ce qu'est une pomme. Dans l'article, cela est appelé un raccourci de satisfaction de contraintes. Le robot apprend à éviter la situation qui déclenche la règle plutôt qu'à apprendre le concept que la règle est censée imposer.
Le raccourci de la « Mauvaise carte » : Imaginez qu'un étudiant reçoive une carte où les rues sont mélangées, mais que le professeur vérifie seulement si l'étudiant suit les directions sur la carte. L'étudiant pourrait apprendre à conduire parfaitement selon la mauvaise carte. Il satisfait la logique, mais il conduit vers le mauvais endroit. Il s'agit d'un raccourci cognitif. Le robot apprend une connexion qui fait sens mathématiquement mais qui est complètement erronée dans le monde réel, souvent parce que les données d'entraînement étaient biaisées ou confuses.

La solution de la Matrice : Une correspondance un à un

Pour corriger cela, les auteurs proposent une nouvelle méthode appelée Programmation Logique Différentiable utilisant une approche basée sur les matrices.

Considérez la manière standard d'enseigner à ces robots comme utilisant un nuage de probabilités « flou ». Le robot pourrait dire : « Je suis sûr à 40 % que c'est un 6, à 30 % que c'est un 8 et à 30 % que c'est un 9 ». Ce flou permet au robot de tricher. Il peut répartir sa « vérité » sur plusieurs options juste assez pour satisfaire les règles sans jamais s'engager sur une seule réponse correcte.

La nouvelle méthode des auteurs est comparable au passage d'un nuage flou à un jeu de correspondance strict, un à un. Ils utilisent une grille géante (une matrice) où chaque cellule correspond exactement à un fait spécifique (comme « cette image est un 6 »). Il n'y a pas de place pour le « peut-être ». Si le robot veut satisfaire une règle dans cette grille, il doit s'engager sur une réponse spécifique. Si la règle dit « Si c'est un 6, alors la somme est 6 », le robot ne peut pas simplement se défiler en disant « peut-être que c'est un 6 ». Il doit réellement découvrir si l'image est un 6 ou non.

Cela crée une ligne de communication directe (un « chemin de gradient ») de l'erreur vers le cerveau du robot. Si le robot se trompe, le signal d'erreur remonte directement vers la partie spécifique du réseau de neurones qui a commis l'erreur, le forçant à apprendre le concept correct plutôt qu'à trouver une faille.

Ce que les expériences ont montré

Les auteurs ont testé leur idée en utilisant un puzzle classique : la reconnaissance de chiffres écrits à la main (comme les chiffres 0 à 9) et leur addition. Ils ont créé des scénarios complexes où le robot était tenté de tricher.

Battre le raccourci du « Ne vous dérangez pas » : Dans un test, le robot a reçu l'instruction : « Si vous voyez un 9 pivoté, il doit être un 6 ». Un robot paresseux pourrait simplement cesser de reconnaître les 9 pivotés pour éviter la règle. Les auteurs ont constaté que leur méthode matricielle forçait le robot à réellement apprendre à quoi ressemble un 6, atteignant une précision élevée (environ 96,7 % sur un jeu de données) là où d'autres méthodes échouaient complètement ou ne satisfaisaient la règle qu'en trichant.
Corriger le raccourci de la « Mauvaise carte » : Dans un autre test, le robot a reçu un ensemble de problèmes mathématiques biaisés où seuls quelques chiffres étaient utilisés. Cela a permis au robot de confondre les significations des nombres (comme penser qu'un 3 est en fait un 2) tout en réussissant les calculs. Les auteurs ont montré qu'en ajoutant davantage de règles, leur méthode corrigeait progressivement ces confusions, atteignant finalement près de 99,5 % de précision. Les autres méthodes, qui reposaient sur une logique floue, restaient bloquées dans leurs erreurs initiales et ne pouvaient pas se corriger même avec plus de règles.

La conclusion

L'article suggère que le secret pour arrêter ces codes de triche de l'IA n'est pas seulement d'avoir de meilleures règles ou de meilleures données ; c'est la manière dont les règles sont connectées au processus d'apprentissage. En utilisant un système matriciel qui force le robot à prendre des décisions claires et binaires (oui/non, vrai/faux) pour chaque fait, le système empêche le robot de se cacher dans l'entre-deux « flou » où il peut tricher.

Bien que les résultats soient très prometteurs pour ces tâches spécifiques de reconnaissance de chiffres, les auteurs notent que ce n'est que le début. Ils suggèrent que cette approche pourrait être étendue à des problèmes du monde réel plus complexes, mais pour l'instant, elle prouve que si vous voulez qu'un robot comprenne réellement le monde, vous devez l'empêcher de jouer avec des probabilités floues et le forcer à s'engager envers la vérité.

Résumé technique : Programmation logique différentiable pour atténuer les raccourcis de raisonnement dans les systèmes neurosymboliques

1. Énoncé du problème

Les systèmes neurosymboliques (NeSy) visent à combiner les capacités de généralisation des réseaux de neurones avec l'interprétabilité de la logique symbolique. Cependant, des recherches récentes indiquent que ces systèmes sont sujets aux raccourcis de raisonnement (shortcut reasoning), où les modèles atteignent une haute précision d'entraînement en exploitant des motifs spécieux ou des chemins de raisonnement trop simplistes plutôt qu'en apprenant les concepts sémantiques prévus. Les auteurs identifient deux manifestations spécifiques de ce phénomène :

Raccourcis de satisfaction de contraintes : Le modèle satisfait trivialement les contraintes logiques sans apprendre le concept voulu. Par exemple, dans une contrainte $P \to Q$ , un modèle pourrait apprendre à toujours falsifier $P$ (rendant l'implication vacue) plutôt que d'apprendre la relation entre $P$ et $Q$ . Cela est particulièrement prévalent dans les contextes semi-supervisés où les contraintes logiques constituent la principale supervision.
Raccourcis de cognition : Le modèle apprend des correspondances incorrectes entre les entrées et les concepts en raison de données d'entraînement biaisées ou de facteurs de confusion. Même si les règles logiques sont syntaxiquement satisfaites, la correspondance sémantique est incorrecte (par exemple, confondre les concepts de chiffres dans une tâche d'addition biaisée).

Les approches existantes reposent souvent sur des distributions de probabilité douces (soft) ou des relaxations de logique floue, ce qui permet aux contraintes d'être satisfaites par des assignations de valeurs de vérité partielles. Cette flexibilité peut permettre aux modèles de contourner la nécessité de classifications de concepts définitives, favorisant ainsi les comportements de raccourci.

2. Méthodologie

Les auteurs proposent un cadre de programmation logique différentiable basée sur des matrices pour répondre à ces problèmes. L'approche s'appuie sur des travaux antérieurs codant les programmes logiques sous forme d'opérations matricielles, mais introduit des éléments de conception spécifiques pour imposer un ancrage (grounding) explicite.

2.1 Encodage matriciel et sémantique

Le cœur de la méthode consiste à représenter un programme logique propositionnel sous forme d'opérations matricielles :

Matrice de programme ( $Q$ ) : Encode les règles. Chaque ligne représente une règle, et les colonnes correspondent aux atomes et à leurs négations.
Matrice de tête ( $D$ ) : Mappe les corps de règles vers les atomes de tête.
Gestion unifiée des contraintes : Les contraintes d'intégrité (ex: $\leftarrow a \land b$ ) sont réécrites à l'aide d'un atome auxiliaire $z$ (ex: $z \leftarrow a \land b \land \neg z$ ) où $z$ doit rester faux. Cela permet de traiter les contraintes de la même manière que les règles d'implication au sein d'une structure matricielle unique, réduisant ainsi les besoins de stockage par rapport aux méthodes antérieures nécessitant des matrices distinctes.

2.2 Évaluation différentiable

Les sorties des réseaux de neurones sont traitées comme des valeurs de vérité continues formant un vecteur d'interprétation $v$ . Celui-ci est étendu en $w = [v; 1-v]$ pour inclure les négations. La dérivation des atomes est calculée via :
$h = \min(1, D(1 - \min(1, Q(1 - w))))$
Cette formulation implémente implicitement la t-norme de Łukasiewicz (agrégation par somme bornée) pour les conjonctions. La fonction de perte est définie par l'entropie croisée binaire (BCE) entre les valeurs douces dérivées $h$ et les étiquettes cibles $t$ .

2.3 Distinction architecturale clé

Contrairement aux approches de logique floue (ex: Logic Tensor Networks) ou de compilation probabiliste (ex: DeepProbLog) qui reposent sur des relaxations douces, cette méthode établit une correspondance un-à-un entre les sorties neuronales et les atomes logiques. La structure matricielle crée des chemins de gradient directs des violations de contraintes vers les prédictions spécifiques responsables, forçant le modèle à s'engager dans des classifications de concepts définitives plutôt que de satisfaire les contraintes via des valeurs de vérité partielles.

3. Principales contributions

Méthode de mitigation basée sur les matrices : Une nouvelle approche de programmation logique différentiable qui utilise un encodage matriciel unifié pour atténuer à la fois les raccourcis de satisfaction de contraintes et de cognition.
Traitement unifié des contraintes : Une stratégie d'encodage qui intègre les contraintes d'intégrité et les implications dans une seule matrice via des atomes auxiliaires, préservant la sémantique des modèles supportés tout en réduisant le stockage.
Analyse empirique des t-normes : Une comparaison systématique des opérations matricielles par rapport aux t-normes de la logique floue (Łukasiewicz, Produit, Gödel), analysant leurs propriétés de flux de gradient et leur impact sur l'atténuation des raccourcis.
Évaluation systématique : Expérimentations approfondies sur des variantes de MNIST démontrant que l'ancrage un-à-un des atomes surpasse significativement les méthodes de relaxation douce pour apprendre les concepts prévus sous une supervision biaisée ou faible.

4. Résultats expérimentaux

Les auteurs ont évalué leur méthode (MatLP) par rapport à des bases de référence incluant CNN, Logic Tensor Networks (LTN), Semantic Loss, DeepProbLog, DeepStochLog et NeurASP sur deux tâches.

4.1 Raccourcis de satisfaction de contraintes (MNIST 6/9)

Dans une tâche semi-supervisée où une classe de chiffre (ex: "6") n'est pas étiquetée et doit être apprise via une contrainte logique impliquant des images pivotées :

Baselines : Des modèles comme Semantic Loss, LTN et NeurASP ont atteint des taux élevés de satisfaction de contraintes (ex: 100 % de satisfaction de la contrainte de rotation) mais ont échoué à apprendre le concept du chiffre manquant (0 % de précision sur la classe manquante). Ils ont satisfait les contraintes en supprimant la probabilité de la classe de contrepartie sans s'engager sur la classe cible.
MatLP : A obtenu une précision élevée sur le chiffre manquant (92,3 % sur MNIST, 42,4 % sur USPS) tout en maintenant la satisfaction des contraintes. L'approche matricielle a forcé le modèle à réellement classifier le chiffre plutôt qu'à exploiter la contrainte de manière vacue.

4.2 Raccourcis de cognition (MNIST-Half)

Dans une tâche d'addition biaisée où seule une sous-partie des paires de chiffres est observée, menant à des correspondances de concepts ambiguës :

Cas 1 (Biais élevé) : Avec seulement 4 règles, la plupart des modèles (y compris LTK et DeepProbLog) ont échoué à lever l'ambiguïté des concepts, atteignant une précision proche du hasard.
Cas 2-5 (Augmentation des contraintes) : À mesure que des règles supplémentaires étaient ajoutées pour lever l'ambiguïté des correspondances :
- Méthodes de relaxation douce (LTN, Semantic Loss) : Ont eu du mal à échapper aux raccourcis initiaux, montrant une amélioration minimale de la précision malgré l'augmentation des contraintes.
- Méthodes d'ancrage explicite (NeurASP, MatLP) : Ont démontré une amélioration progressive. NeurASP a atteint une précision quasi parfaite rapidement, tandis que MatLP a montré une amélioration constante et robuste (passant de 41 % à 99,5 % de précision) à mesure que les contraintes étaient ajoutées.
Comparaison des t-normes : Sur l'addition MNIST standard, la t-norme Produit a obtenu la plus haute précision (91,7 %), suivie par la méthode matricielle (88,5 %). La t-norme de Gödel a été la moins performante (82,9 %) en raison de gradients éparses.

5. Signification et affirmations

L'article affirme que le couplage entre la connaissance symbolique et l'apprentissage neuronal est critique pour atténuer les raccourcis de raisonnement. Plus précisément :

L'ancrage explicite est nécessaire mais insuffisant : Bien que l'ancrage un-à-un des atomes (comme dans NeurASP et MatLP) aide, le mécanisme d'optimisation importe. NeurASP a échoué dans les tâches de satisfaction de contraintes là où MatLP a réussi, suggérant qu'une évaluation différentiable continue combinée à un ancrage explicite est supérieure à l'énumération discrète seule.
Propriétés du flux de gradient : L'approche matricielle crée des chemins de gradient directs des violations vers les prédictions responsables, empêchant les modèles de satisfaire les contraintes par des valeurs de vérité "partielles" qui ne correspondent pas aux sémantiques voulues.
Limites : Les auteurs notent que leur évaluation est limitée à des programmes propositionnels sur des tâches basées sur MNIST. Ils ne prétendent pas à une généralisation immédiate au raisonnement de premier ordre complexe ou aux tâches de vision du monde réel, identifiant la scalabilité via des matrices creuses et l'extension à la logique du premier ordre comme travaux futurs.

En conclusion, les auteurs démontrent que la programmation logique différentiable basée sur des matrices, en imposant un ancrage explicite et une propagation directe du gradient, offre un choix architectural robuste pour prévenir les systèmes neurosymboliques de l'exploitation de raccourcis de raisonnement en présence de données biaisées ou faiblement supervisées.