Theory-Grounded Evaluation of Human-Like Fallacy Patterns in LLM Reasoning

1. Problématique et Contexte

Les modèles de langage (LLM) démontrent des capacités croissantes dans la résolution de tâches complexes, mais leur fiabilité dans le raisonnement logique reste une préoccupation majeure. La question centrale de cet article est la suivante : lorsque les LLM commettent des erreurs de raisonnement contrôlé, ces erreurs suivent-elles les mêmes schémas systématiques que les biais cognitifs humains ?

Contrairement à une vision où les erreurs des LLM seraient aléatoires ou purement liées à des lacunes de données d'entraînement, les auteurs postulent que ces erreurs pourraient être structurellement similaires aux « illusions inférentielles » humaines. Pour tester cela, ils s'appuient sur la Théorie Érotétique du Raisonnement (ETR), un cadre cognitif formel qui prédit précisément comment et pourquoi les humains commettent des erreurs de déduction (en filtrant prématurément des alternatives disjonctives).

2. Méthodologie

L'étude repose sur une approche rigoureuse combinant génération de données synthétiques et évaluation à grande échelle.

A. Fondement Théorique : PyETR

Les auteurs utilisent PyETR, une implémentation open-source de la Théorie Érotétique du Raisonnement (ETR).

• Principe ETR : Le raisonnement humain est modélisé comme la gestion d'alternatives disjonctives (réponses candidates) qui sont filtrées à l'arrivée de nouvelles informations. Ce processus de filtrage peut entraîner l'élimination prématurée d'alternatives pertinentes, générant des erreurs systématiques (fallacies).
• Génération de problèmes : PyETR permet de générer algorithmiquement des problèmes de raisonnement formels dont la conclusion « par défaut » selon l'ETR est une erreur logique spécifique.

B. Pipeline de Génération de Données

1. Base de problèmes : 400 problèmes initiaux ont été générés à partir de modèles logiques (modus ponens, modus tollens, fallace de la disjonction, etc.).
2. Filtrage et Mutations : Un pipeline de mutations modifie les vues logiques (ajout de prédicats, substitution de variables, négation, etc.). Seuls les problèmes où l'ETR prédit une conclusion fallacieuse (mais logiquement incorrecte) sont conservés.
3. Élimination des contaminants : Après vérification d'intégrité, 383 problèmes ont été retenus.
4. Traduction en Langage Naturel : Pour éviter les biais de contenu et la contamination des données d'entraînement, les problèmes formels sont mappés sur 12 thèmes narratifs variés (ex: alchimie, astronomie, biotechnologie, cartes à jouer). Cela garantit que les modèles ne peuvent pas mémoriser les réponses mais doivent raisonner sur la structure logique.

C. Évaluation des Modèles

• Corpus : 38 modèles de langage de différentes tailles et architectures (de Mistral 7B à GPT-4.5, Claude 3.7, etc.).
• Métriques de capacité : La capacité des modèles est mesurée principalement par leur score Elo sur Chatbot Arena, complété par des scores HELM et des estimations de calcul d'entraînement.
• Analyse des réponses :
  • Correction logique : Vérifiée via PySMT (satisfaisabilité modulo théories).
  • Alignement avec l'ETR : Une réponse est classée « fallacieuse au sens de l'ETR » si elle correspond à la conclusion erronée prédite par le protocole par défaut de PyETR.
  • Taux de fallace : Défini comme la proportion d'erreurs logiques qui sont spécifiquement des fallaces prédites par l'ETR.

D. Étude d'Intervention

Les auteurs ont testé l'effet de l'ordre des prémisses. En logique classique, l'ordre n'a pas d'importance, mais en psychologie cognitive, il influence les erreurs humaines. Ils ont réévalué les modèles avec les prémisses inversées pour voir si cela bloquait la production de fallaces.

3. Résultats Clés

A. Corrélation entre Capacité et Type d'Erreur

Le résultat le plus surprenant est une corrélation statistiquement significative entre la capacité du modèle (proxy Elo) et la nature de ses erreurs :

• $\rho = 0.360$ ($p = 0.0265$) : À mesure que le score Elo d'un modèle augmente, la proportion de ses réponses incorrectes qui correspondent à des fallaces prédites par l'ETR augmente.
• Absence de corrélation avec la précision globale : La capacité du modèle (Elo) n'est pas corrélée avec le taux global de réponses correctes sur ce jeu de données spécifique ($r \approx 0$, $p = 0.981$). Les modèles plus puissants ne sont pas nécessairement plus précis, mais leurs erreurs deviennent plus « humaines » (plus structurées selon les biais cognitifs).

B. Validation avec d'autres Métriques

La corrélation se maintient avec d'autres indicateurs de capacité :

• Calcul d'entraînement (Epoch AI) : $\rho = 0.489$ ($p = 0.0334$).
• Score HELM : Ajustement exponentiel significatif ($r = 0.796$, $p = 0.0103$).

C. Effet de l'Ordre des Prémisses

L'étude d'intervention confirme que les LLM sont sensibles à l'ordre des prémisses, tout comme les humains :

• L'inversion de l'ordre des prémisses réduit significativement la production de fallaces pour la majorité des modèles.
• Cela suggère que les LLM ne traitent pas le raisonnement de manière purement logique (commutative), mais qu'ils sont sujets à des effets de contexte et de focalisation similaires aux processus cognitifs humains.

4. Contributions Principales

1. Preuve de Corrélation : Première démonstration statistique que les erreurs de raisonnement des LLM évoluent vers des schémas de fallaces humaines prédits par une théorie cognitive formelle (ETR) à mesure que leur capacité augmente.
2. Pipeline PyETR : Application substantielle et open-source de PyETR pour générer des tâches de raisonnement synthétiques, illimitées et résistantes à la contamination des données, liées directement à une théorie cognitive.
3. Nouvelle Métrique d'Évaluation : Proposition d'analyser la composition des erreurs (type d'erreur) plutôt que le simple taux d'erreur (accuracy), offrant une perspective plus nuancée sur les capacités de raisonnement.
4. Validation de l'Effet d'Ordre : Confirmation que les LLM partagent la non-commutativité du raisonnement humain, un indicateur de similarité dans les mécanismes de traitement de l'information.

5. Signification et Implications

• Défi pour le Scaling : Ces résultats remettent en question l'hypothèse selon laquelle l'augmentation de l'échelle (scaling) conduit inévitablement à un raisonnement normativement plus correct. Au contraire, les modèles plus avancés peuvent internaliser des biais de raisonnement humains.
• Alignement et Sécurité : Pour les applications à haut risque (médical, juridique), il ne suffit pas d'améliorer la précision globale ; il faut comprendre et atténuer les schémas d'erreurs systématiques qui ressemblent à des biais cognitifs humains.
• Développement de Benchmarks : La méthodologie offre un cadre pour créer des benchmarks de raisonnement qui testent la robustesse contre des erreurs spécifiques prédites par la théorie, plutôt que de simples tests de connaissances.
• Compréhension Cognitive : L'étude suggère une convergence entre les erreurs des LLM et les erreurs humaines, indiquant que les mécanismes d'apprentissage des modèles pourraient reproduire des heuristiques de raisonnement humaines, même sans posséder de conscience ou de mécanismes cognitifs biologiques.

En conclusion, l'article établit que les LLM ne font pas seulement des erreurs aléatoires, mais qu'ils développent des biais de raisonnement structurés qui imitent ceux des humains, et que cette tendance s'accentue avec la puissance du modèle.