A criterion for Artificial General Intelligence: hypothetic-deductive reasoning, tested on ChatGPT

Résumé technique : Un critère pour l'Intelligence Artificielle Générale : Le raisonnement hypothético-déductif, testé sur ChatGPT

Énoncé du problème
L'article traite de la question fondamentale de savoir si les grands modèles de langage (LLM), spécifiquement ChatGPT (basé sur GPT-3.5 et GPT-4), possèdent les capacités cognitives requises pour être qualifiés d'« Intelligence Artificielle Générale » (AGI) ou de véritables « machines pensantes ». Bien que les LLM aient démontré des capacités impressionnantes en matière de récupération de connaissances, de codage et de tâches spécifiques à certains domaines, les auteurs soutiennent qu'un fossé critique subsiste dans leur capacité à effectuer un raisonnement « véritable ». Le problème central est d'identifier un schéma de raisonnement englobant qui caractérise l'intelligence humaine et de déterminer si les systèmes d'IA actuels peuvent le maîtriser. Les auteurs postulent que si les LLM excellent dans la complétion statistique de texte, ils pourraient manquer de la capacité de raisonnement hypothético-déductif (l'application de théories pour déduire des solutions) et de raisonnement causal (identifier les relations de cause à effet), qui sont essentiels pour une IA explicable et digne de confiance.

Méthodologie
Les auteurs proposent deux cadres de test spécifiques pour évaluer ces capacités de raisonnement, en les appliquant à ChatGPT(3) et ChatGPT(4) :

1. Test de raisonnement causal :

   • Stimuli : L'étude utilise un compendium de 26 « diagrammes de neurones » abstraits (adaptés de Paul et Hall, 2013) représentant des situations causales complexes, incluant la redondance, les omissions et la transitivité.
   • Procédure : Les diagrammes sont transcrits en descriptions textuelles. On demande à ChatGPT de déterminer si un neurone final s'active et, surtout, d'identifier les causes spécifiques (racines et immédiates) de ce résultat.
   • Évaluation : Les réponses sont comparées au consensus humain intuitif et aux définitions formelles de la causalité contrefactuelle.

2. Test de raisonnement hypothético-déductif :

   • Stimuli : Une série de questions nécessitant un raisonnement élémentaire en physique, en biologie et en psychologie sociale. Ces questions sont conçues pour être solubles par des humains peu entraînés, mais sont peu susceptibles d'apparaître textuellement dans les données d'entraînement, forçant le modèle à synthétiser les connaissances plutôt qu'à les récupérer.
   • Procédure : Les auteurs emploient une méthode de « liste d'hypothèses » (une variante du prompting par Chaîne de Pensée ou Chain-of-Thought). Après qu'un modèle a fourni une réponse, il est explicitement invité à « raisonner étape par étape et à lister toutes les hypothèses et lois de la nature » utilisées pour dériver cette réponse.
   • Évaluation : La performance du modèle est jugée non seulement sur l'exactitude de la réponse finale, mais aussi sur la validité et la pertinence des hypothèses énumérées. Une réponse correcte dérivée d'hypothèses non pertinentes ou erronées est considérée comme un échec du raisonnement véritable.

Principales contributions

• Définition d'un critère d'AGI : L'article propose que la capacité à émuler un raisonnement hypothético-déductif explicite au niveau expert dans un large éventail de contextes est une condition nécessaire pour l'AGI. Cela distingue la « véritable compréhension » de l'« improvisation à la volée » ou de la corrélation statistique.
• Le test de la liste d'hypothèses : Les auteurs introduisent un outil de diagnostic pratique pour sonder la logique interne des LLM. En forçant le modèle à énoncer explicitement les lois et les régularités sur lesquelles il s'appuie, le test révèle si le modèle simule le raisonnement ou s'il se contente de récupérer des motifs.
• Le raisonnement causal comme proxy : L'article soutient que le raisonnement causal est un dérivé simplifié du raisonnement hypothético-déductif et sert de proxy valide, bien qu'élémentaire, pour tester la pensée basée sur des théories en IA.
• Distinction entre raisonnement implicite et explicite : L'étude souligne la différence entre une IA produisant une sortie correcte (qui peut être statistiquement probable) et une IA capable de justifier cette sortie par un ensemble cohérent d'hypothèses explicites, une exigence pour l'« IA explicable ».

Résultats

• Raisonnement causal :

  • ChatGPT(3) : A mal performé, n'identifiant les causes correctes que dans 1 diagramme sur 21.
  • ChatGPT(4) : A montré une amélioration significative, identifiant correctement l'état d'activation du neurone final dans la plupart des cas. Cependant, dans la tâche cruciale d'identification des causes, il a réussi dans seulement 13 diagrammes sur 26 (avec 2 partiellement corrects).
  • Modes de défaillance : Le modèle a fréquemment échoué à identifier les causes racines dans les diagrammes complexes et a présenté des erreurs dans le raisonnement logique séquentiel, où les déductions intermédiaires n'étaient pas correctement reportées aux étapes suivantes. La performance a considérablement chuté sur les diagrammes absents de la littérature d'entraînement (Paul et Hall, 2013).

• Raisonnement hypothético-déductif :

  • ChatGPT(4) a fourni des réponses correctes ou quasi correctes à plusieurs questions de physique et de logique (ex. : Q1, Q4, Q5, Q7).
  • Cependant, lorsqu'il était soumis au test de la liste d'hypothèses, le modèle associait fréquemment des réponses correctes à des hypothèses non pertinentes, erronées ou incomplètes.
  • Dans les cas où la réponse était incorrecte (ex. : Q2, Q6, Q8, Q9, Q10), le modèle générait tout de même une chaîne de raisonnement logiquement cohérente mais factuellement erronée, basée sur des hypothèses fausses.
  • L'étude conclut que si ChatGPT(4) peut simuler la forme du raisonnement, il manque de la capacité robuste et experte de lier systématiquement des problèmes complexes aux lois et régularités sous-jacentes correctes.

Signification et revendications
Les auteurs revendiquent modestement que leur travail fournit un critère pragmatique pour évaluer l'AGI, plutôt qu'un benchmark exhaustif. Ils soutiennent que :

1. Limites actuelles : À la date de la période de test (mi-2023), ChatGPT ne possède pas encore les qualifications pour l'AGI car il manque de la capacité fiable pour le raisonnement hypothético-déductif et causal explicite dans des contextes sophistiqués.
2. Confiance et explicabilité : Pour qu'une IA soit « digne de confiance » et capable de répondre à des questions de type « pourquoi » cherchant une explication, elle doit être capable de lister les hypothèses qui génèrent ses conclusions. Les LLM actuels, qui reposent souvent sur des corrélations statistiques implicites, échouent à ce test de transparence.
3. Trajectoire future : Les auteurs reconnaissent que les capacités des LLM évoluent rapidement (notant le saut de GPT-3.5 à GPT-4). Ils suggèrent que de futurs modèles plus puissants pourraient éventuellement maîtriser ces schémas de raisonnement, mais tant qu'une IA ne peut pas passer ces tests de manière constante au niveau expert dans divers domaines, elle ne peut être considérée comme une véritable « machine pensante ».
4. Engagement philosophique : L'article vise à inciter les philosophes à s'engager avec les réalités techniques du raisonnement de l'IA, comblant ainsi le fossé entre les benchmarks d'informatique et les définitions épistémologiques de la compréhension.