💬 NLP

Exploring the Reversal Curse and Other Deductive Logical Reasoning in BERT and GPT-Based Large Language Models

Cette étude révèle que si les modèles BERT bidirectionnels sont immunisés contre la « malédiction de l'inversion » qui entrave les modèles GPT autorégressifs dans la déduction logique symétrique, les deux architectures peinent face au raisonnement déductif complexe sur multi-ensembles, suggérant que la sélection du modèle doit être adaptée aux exigences logiques spécifiques de tâches telles que la construction de graphes de connaissances biomédicales.

Auteurs originaux : Da Wu, Jingye Yang, Kai Wang

Publié 2026-07-15

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Da Wu, Jingye Yang, Kai Wang

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Les Robots Intelligents et le Labyrinthe des Miroirs

Imaginez que vous enseigniez à un robot à comprendre le monde. Vous lui montrez la photo d'un chat et dites : « Ceci est un chat. » Plus tard, vous lui montrez le mot « chat » et lui demandez : « Quelle image correspond à ceci ? » Un cerveau humain gère ce basculement sans effort ; nous savons que si « Chat » égale « Image », alors « Image » égale « Chat ». Mais pendant longtemps, les cerveaux informatiques les plus avancés, connus sous le nom de Grands Modèles de Langage (LLM), ont lutté avec ce simple renversement. Ils étaient comme des étudiants qui mémorisent une liste de réponses mais ne parviennent pas à comprendre la question si elle est posée à l'envers. Ce bug spécifique est appelé la « Malédiction de l'Inversion » (Reversal Curse).

Pour comprendre pourquoi cela importe, imaginez ces modèles d'IA comme deux types de lecteurs différents. L'un est le Décodeur (comme la célèbre série GPT), qui lit une histoire de gauche à droite, prédisant le mot suivant en se basant uniquement sur ce qui précède. Il est excellent pour écrire des histoires ou terminer des phrases, mais il ne peut pas regarder devant lui pour voir l'image globale. L'autre type est l'Encodeur (comme BERT), qui lit une phrase d'un seul coup, en examinant chaque mot en relation avec tous les autres simultanément. C'est comme lire une phrase avec une loupe qui vous montre le contexte de chaque mot en même temps. Les scientifiques se sont demandé : si nous apprenons à ces robots à faire des mathématiques de base avec des groupes de choses — comme combiner des listes d'amis ou trouver les amis qu'ils ont en commun — peuvent-ils réellement penser à travers la logique, ou ne font-ils que deviner en se basant sur les motifs qu'ils ont déjà vus ? Cette question est cruciale car si nous voulons utiliser ces robots pour construire des cartes de connaissances complexes (comme pour la médecine ou la science), ils doivent être capables de raisonner, et non pas seulement de répéter.

L'histoire de l'article : Qui peut renverser la vapeur ?

Dans cette étude, les chercheurs Da Wu, Jingye Yang et Kai Wang ont décidé de mettre ces différents cerveaux de robots à l'épreuve. Ils voulaient voir si la « Malédiction de l'Inversion » était un bug permanent ou simplement une particularité de la construction de certains modèles, et si ces modèles pouvaient réellement gérer des énigmes logiques plus compliquées impliquant des ensembles d'éléments.

Le test du miroir : La Malédiction de l'Inversion
D'abord, ils se sont attaqués à la « Malédiction de l'Inversion ». Imaginez que vous appreniez à un robot que « Jimmy Carter est le 39e président ». Si vous demandez au robot : « Qui est le 39e président ? », un robot standard (comme GPT-3) se fige souvent. Il connaît le fait dans un sens, mais ne peut pas le renverser pour répondre à la question inverse. Les chercheurs ont découvert que les modèles Décodeurs (comme GPT et Llama) souffrent réellement de cette malédiction ; ils ont du mal à déduire « B est A » à partir de « A est B ».

Cependant, le modèle Encodeur (BERT) racontait une histoire différente. Parce que BERT lit dans les deux sens à la fois, il ne s'est pas confondu. Lorsque les chercheurs ont posé la question inverse à BERT, il a répondu correctement environ 99 % du temps. Il s'avère que si vous voulez qu'un robot comprenne qu'une relation fonctionne dans les deux sens, vous avez besoin d'un cerveau capable de regarder l'image globale, et non pas seulement le passé.

L'énigme logique : Mélanger et assortir des groupes
Ensuite, l'équipe est passée à un défi plus difficile : les opérations sur les ensembles. Ils ont appris aux robots à effectuer une « Union » (combiner deux listes d'amis en une seule grande liste) et une « Intersection » (trouver les amis qui apparaissent sur les deux listes).

Le niveau facile (Deux ensembles) : Lorsqu'on demandait aux robots de combiner ou de comparer seulement deux groupes de noms (comme « Super-héros » et « Dinosaures »), les modèles Décodeurs (Llama 2 et 3) ainsi que le modèle Encodeur (BERT) ont fait un travail fantastique. Ils ont donné les bonnes réponses presque à chaque fois. On aurait dit qu'ils avaient maîtrisé la logique.
Le niveau difficile (Trois ensembles) : Ensuite, les chercheurs ont rendu l'énigme plus dure. Ils ont demandé aux robots de mélanger trois groupes à la fois, ou de faire un mélange d'opérations, comme : « Trouve les amis communs au Groupe A et au Groupe B, puis ajoute le Groupe C. »

C'est ici que le tour de magie a échoué. Bien que les robots aient été excellents pour les tâches simples à deux groupes, ils ont trébuché lors de l'implication de trois groupes.

Le problème de BERT : Le modèle BERT semblait tricher. Il ne faisait pas réellement les mathématiques ; il cherchait simplement des mots qu'il reconnaissait. Si une phrase contenait un nouveau nom qu'il n'avait jamais vu, il disait immédiatement « Non, c'est faux ». Mais si la mauvaise réponse utilisait des noms qu'il connaissait, il se confondait et disait « Oui, c'est vrai ». Il mémorisait le vocabulaire, pas la logique.
Le problème de Llama : Les modèles Llama (les modèles Décodeurs) ont également eu des difficultés. Lorsqu'on leur demandait de trouver les amis communs dans trois groupes, ils se contentaient souvent de lister tout le monde qu'ils connaissaient, ignorant les règles spécifiques de l'énigme. Ils semblaient rappeler une liste de noms vus durant leur entraînement plutôt que de calculer l'intersection correcte.

L'imprévisible GPT-4
Les chercheurs ont également testé le tout dernier modèle à code source fermé, GPT-4. Ce robot était bien meilleur que les autres. Il pouvait gérer la plupart des énigmes logiques à trois ensembles correctement, en décomposant souvent le problème en étapes plus petites pour le résoudre. Cependant, même GPT-4 a commencé à commettre des erreurs lorsque le nombre de groupes devenait trop élevé (comme sept ou huit ensembles), suggérant que même les modèles les plus intelligents actuels ont des limites lorsqu'il s'agit de déduction complexe à plusieurs étapes.

La conclusion principale

La leçon principale de cet article est que tous les cerveaux d'IA ne sont pas construits de la même manière, et qu'aucun robot n'est parfait pour chaque tâche. Si vous avez besoin d'un modèle pour comprendre une relation en sens inverse (comme inverser un fait), un modèle bidirectionnel comme BERT est le grand gagnant. Mais si vous avez besoin d'un modèle pour écrire une histoire ou prédire le mot suivant dans une phrase, les modèles unidirectionnels comme GPT restent les rois.

Plus important encore, l'étude suggère que, bien que ces modèles soient incroyables pour repérer des motifs et imiter le langage humain, ils ne « pensent » pas nécessairement comme les humains le font. Lorsque la logique devient trop complexe, ils ont tendance à revenir à la mémorisation de mots plutôt qu'à la compréhension des règles. Ainsi, si vous construisez un système pour créer un graphe de connaissances médicales ou résoudre une preuve mathématique difficile, vous ne pouvez pas simplement faire confiance au robot pour qu'il le comprenne par lui-même ; vous devez être très prudent quant à la manière dont vous posez les questions et au type de robot que vous choisissez pour faire le travail. Les robots deviennent plus intelligents, mais ils ont encore beaucoup à apprendre sur la véritable raisonnement logique.

Résumé technique : Exploration de la malédiction de l'inversion et du raisonnement logique déductif dans les modèles LLM basés sur BERT et GPT

Énoncé du problème

L'étude traite de la « malédiction de l'inversion » (Reversal Curse), un phénomène observé dans les modèles de langage à grande échelle (LLM) à base de décodeurs autorégressifs, où le modèle échoue à déduire la relation inverse « B est A » bien qu'il ait été entraîné sur la relation directe « A est B ». Cette limitation entrave la fiabilité de modèles tels que GPT-3 et Llama-1 pour les tâches nécessitant une inférence logique bidirectionnelle, comme la construction de graphes de connaissances. De plus, l'article examine si ces modèles, ainsi que les modèles encodeurs bidirectionnels comme BERT, possèdent la capacité d'effectuer un raisonnement déductif plus complexe, spécifiquement la capacité d'opérer des intersections ( $\cap$ ) et des unions ( $\cup$ ) d'ensembles multiples sans entraînement explicite sur ces combinaisons spécifiques.

Méthodologie

Les auteurs ont mené une analyse comparative entre les modèles encodeurs bidirectionnels (BERT) et les modèles décodeurs autorégressifs (GPT-4, Llama 2 et Llama 3) à travers deux domaines expérimentaux principaux :

Évaluation de la malédiction de l'inversion :
- Jeu de données : L'étude a utilisé le jeu de données de l'article original sur la malédiction de l'inversion, adapté pour la classification de texte. Il comprenait des paires synthétiques de noms et de descriptions (par exemple, « Jimmy Carter » et « 39e président »).
- Modèles : BERT (ajusté pour la classification binaire) a été comparé à GPT-3 (175B) et Llama 3.
- Tâche : Les modèles ont été testés sur leur capacité à inférer la direction inverse (Description $\to$ Nom) après un entraînement sur la direction directe (Nom $\to$ Description).
Raisonnement sur les opérations d'ensembles (Intersection et Union) :
- Génération de données : Des jeux de données synthétiques ont été créés en utilisant quatre catégories d'entités (Super-héros, Dinosaures, Mammifères, Oiseaux).
- Entraînement : Les modèles ont été ajustés (fine-tuned) sur des tâches « simples » impliquant l'intersection et l'union de deux ensembles ( $A \cap B$ $A \cap B$ et $A \cup B$ $A \cup B$ ).
  - BERT : Entraîné sur des exemples positifs et négatifs pour la classification binaire.
  - Llama 2/3 : Entraînés exclusivement sur des exemples positifs pour la prédiction du prochain jeton (génération autorégressive).
- Tests : Les modèles ont été évalués sur :
  - Cas simples : Paires inédites de deux ensembles.
  - Cas complexes : Opérations impliquant trois ensembles, incluant les triples intersections ( $A \cap B \cap C$ ), les triples unions ( $A \cup B \cup C$ ) et les opérations mixtes ( $(A \cap B) \cup C$ et $(A \cup B) \cap C$ ).
- Métriques : BERT a été évalué via le Rappel, la Précision et le score F1. Les modèles Llama ont été évalués via le taux de correspondance exacte (Exact Match) et le taux de correspondance à 80 %. GPT-4 a été évalué de manière heuristique en tant que modèle propriétaire.

Résultats clés

1. Immunité à la malédiction de l'inversion

BERT : A démontré une haute compétence (environ 99 % de précision) pour inférer « B est A » à partir de « A est B », confirmant que les modèles encodeurs bidirectionnels ne souffrent pas de la malédiction de l'inversion.
Modèles décodeurs (GPT-3, Llama 3) : Conformément à la littérature antérieure, ces modèles ont montré une précision proche de zéro dans la direction inverse lorsqu'ils reposaient uniquement sur le pré-entraînement ou l'ajustement sur des données de direction directe.

2. Performance sur les opérations à deux ensembles

Tant BERT que les modèles Llama ont performé de manière robuste sur les tâches simples d'intersection et d'union impliquant deux ensembles, atteignant des taux de précision élevés (BERT ~99 %, Llama légèrement inférieur mais toujours élevé).
Les auteurs notent que, bien que la performance soit élevée, il reste incertain si les modèles comprennent réellement la logique ou s'ils reconnaissent simplement des motifs dans les mots-clés des requêtes.

3. Échec sur les opérations complexes à trois ensembles

Difficultés générales : Lors de tests sur des opérations impliquant trois ensembles sans entraînement spécifique préalable sur ces combinaisons, les deux types de modèles ont montré des limitations significatives.
Biais de BERT : Bien que BERT maintienne une précision élevée sur les cas positifs, il a affiché un fort biais vers le vocabulaire. Il identifiait correctement les échantillons négatifs contenant de nouveaux noms (hors des ensembles d'entraînement) mais peinait face à des échantillons négatifs contenant des noms connus disposés incorrectement (par exemple, des sous-ensembles ou des sur-ensembles). Cela suggère que BERT repose sur la récurrence des termes plutôt que sur une structure logique sémantique.
Reconnaissance de formes de Llama : Llama 2 et 3 ont bien performé uniquement sur la tâche d'union triple ( $A \cup B \cup C$ ), atteignant jusqu'à 92 % de précision pour prédire au moins 80 % de l'ensemble cible. Cependant, ils ont échoué de manière significative sur les intersections et les opérations mixtes, hallucinant souvent ou rappelant toutes les entités précédemment vues plutôt que d'appliquer l'opérateur logique.
GPT-4 : A montré une meilleure capacité que Llama 2/3 pour gérer les opérations à trois ensembles, en décomposant souvent le problème en étapes. Cependant, le taux d'erreur augmentait avec le nombre d'ensembles (par exemple, sept ou huit ensembles), et la performance n'était pas parfaite.

Contributions clés

Validation empirique de la malédiction de l'inversion : A confirmé que la malédiction de l'inversion est une limitation architecturale des décodeurs autorégressifs, tandis que les encodeurs bidirectionnels (BERT) y sont immunisés.
Référentiel de raisonnement logique : A démontré que l'ajustement des LLM sur des opérations d'ensembles simples (deux ensembles) ne se généralise pas aux compositions logiques complexes (trois ensembles).
Comparaison architecturale : A fourni une comparaison directe montrant que, si les décodeurs excellent dans la prédiction de séquences, les encodeurs peuvent être supérieurs pour les tâches exigeant un contexte bidirectionnel et la classification de relations logiques, à condition que la tâche puisse être formulée ainsi.
Analyse des biais : A identifié que les LLM reposent souvent sur la reconnaissance de motifs de surface (rappel de jetons vus) plutôt que sur une déduction logique abstraite face à de nouvelles combinaisons d'entités connues.

Signification et affirmations

L'article conclut que le choix de l'architecture d'un LLM (Encodeur vs Décodeur) doit être dicté par les exigences logiques spécifiques de la tâche.

Pour les graphes de connaissances : Les auteurs mettent en garde contre l'utilisation exclusive de modèles décodeurs autorégressifs pour la construction de graphes de connaissances médicaux ou pour effectuer des déductions logiques rigoureuses (par exemple, les intersections/unions d'ensembles de termes d'ontologie). L'incapacité de ces modèles à inférer de manière fiable les relations inverses ou à généraliser des opérations d'ensembles complexes suggère qu'ils agissent davantage comme des « assistants d'écriture » reproduisant des motifs appris que comme des « machines logiques ».
Pour les tâches logiques : Les tâches nécessitant une déduction inverse ou la classification de relations bidirectionnelles sont mieux adaptées aux encodeurs bidirectionnels comme BERT.
Limites : L'étude souligne que les LLM actuels, même après ajustement, manquent de la capacité autonome de déduire des séquences logiques complexes (comme $A \cap (B \cup C)$ ) sans exposition explicite à des structures similaires. Les auteurs suggèrent que l'atteinte d'un raisonnement logique fiable dans des environnements à enjeux élevés (ex: diagnostic médical, preuves mathématiques) pourrait nécessiter plus que la simple augmentation des données ; cela pourrait nécessiter des algorithmes avancés conçus pour améliorer la compréhension de la structure logique.