Résumé Technique : Génération d'Hypothèses et Inférence Inductive chez les Enfants et les Modèles de Langage

Énoncé du Problème

La prise de décision dans le monde réel nécessite la construction de modèles mentaux dans un contexte d'incertitude concernant les preuves, les règles causales sous-jacentes et l'état du monde lui-même. Un défi central en sciences cognitives et en robotique consiste à identifier les principes computationnels permettant aux agents de découvrir des théories cohérentes dans ces conditions. Plus précisément, il existe une pénurie de cadres expérimentaux qui font varier systématiquement les sources d'incertitude en interaction à travers différents systèmes (humains vs artificiels) afin de comparer les mécanismes d'inférence.

Cet article aborde cette question en modélisant l'inférence inductive dans la Tâche de la Boîte, un domaine de résolution d'énigmes physiques initialement conçu pour étudier comment les enfants de 7 à 10 ans réagissent à des instructions trompeuses dans l'incertitude. La tâche consiste à ouvrir cinq boîtes verrouillées en utilisant treize clés dans un délai limité. La vraie règle (faire correspondre le nombre de formes sur une boîte au numéro d'une clé) est latente, tandis que les enfants sont induits en erreur par une vidéo d'un enseignant suggérant une règle de correspondance des couleurs. L'environnement est partiellement observable (les comptes de formes sont cachés jusqu'à ce que les boîtes soient prises en main) et présente des preuves peu fiables (des défaillances mécaniques peuvent empêcher les combinaisons correctes clé-boîte de s'ouvrir).

Méthodologie

Les auteurs formalisent la Tâche de la Boîte comme un Processus de Décision Markovien Partiellement Observable (POMDP) où un agent doit découvrir une règle latente $h$ à partir de transitions d'état stochastiques et d'observations incomplètes. Ils implémentent deux cadres complémentaires pour approximer la solution en utilisant des Échantillonneurs de Monte Carlo Séquentiels (SMC-S) pour une mise à jour bayésienne en ligne :

1. Ensembles de Contraintes (SoC) – Modélisation Cognitive

Cette implémentation traite les hypothèses comme des collections structurées de contraintes dérivées des preuves. Elle sert de modèle cognitif ajusté au comportement des enfants humains ($N=100$).

• Représentation des Hypothèses : Les hypothèses sont des mappings de boîtes vers des clés.
• Distribution de Proposition : Un mélange de :
  • Règles pré-spécifiées : Règles candidates saillantes (couleur, forme, ordre) avec des priors assignés.
  • Générateur en ligne : Un mécanisme pour proposer de nouvelles contraintes basées sur les preuves accumulées, augmentant le poids des affectations cohérentes et diminuant le poids de celles falsifiées.
• Fiabilité Subjective : Introduit un paramètre $\rho \in (0, 1]$ représentant l'estimation subjective de l'agent de la fiabilité des preuves. Cela permet au modèle d'attribuer les échecs à des causes externes (par exemple, un verrou rigide) plutôt que de falsifier immédiatement l'hypothèse.
• Variantes : Les auteurs ont testé quatre variantes, incluant des modèles lésionnés (supprimant le générateur ou la fiabilité subjective) et un modèle complet (SoC-Full).

2. Synthèse de Programmes basée sur les LLM (LLM-PS) – Organisme Modèle

Cette implémentation traite les Modèles de Langage (LLM) comme des « organismes modèles » contrôlables pour sonder comment le comportement change sous une variation systématique des conditions environnementales.

• Représentation des Hypothèses : Les hypothèses sont des fonctions Python exécutables (predict(key, box) -> bool) générées et révisées par le LLM.
• Moteur d'Inférence : Le système maintient une population de particules d'hypothèses. Lorsqu'une particule est sélectionnée pour une « rajeunissement », le LLM est sollicité pour synthétiser un programme révisé cohérent avec l'historique des actions et des résultats.
• Sélection d'Actions : Les agents sélectionnent des actions pour maximiser le gain d'information attendu (EIG) sur la distribution des particules.
• Variantes : Les auteurs ont implémenté des conditions correspondant à la tâche humaine :
  • LLM-PS-S : Observabilité complète, clés peu fiables.
  • LLM-PS-P : Observabilité partielle (nécessite des actions OBSERVE pour révéler les comptes de formes), clés peu fiables.
  • Référence ReAct : Un agent ReAct standard qui génère des actions directement sans maintenir de représentations explicites d'hypothèses.

Contributions Clés

1. Formalisation de l'Inférence Inductive : L'article étend l'Hypothèse de l'Échantillonnage à des contextes avec des preuves peu fiables et des espaces d'hypothèses illimités, fournissant deux implémentations complémentaires : basée sur les contraintes (SoC) et synthèse de programmes (LLM-PS).
2. Analyse Computationnelle des Enfants : L'étude démontre que le comportement des enfants est mieux expliqué par l'opération conjointe de la fiabilité subjective des preuves (considérant les échecs comme des erreurs mécaniques) et de la génération d'hypothèses en ligne (création de solutions approximatives). Cela rend compte de la dissociation entre l'achèvement de la tâche et la généralisation de la vraie règle.
3. Comparaison Contrôlée : En traitant les LLM comme des organismes modèles, les auteurs font varier systématiquement la fiabilité des preuves et l'observabilité. Ils montrent que les agents basés sur les LLM reproduisent les schémas de performance des enfants dans des conditions incertaines (par exemple, dévalorisant les preuves peu fiables, cherchant à résoudre l'information partielle) mais exhibent des biais inductifs distincts, spécifiquement une tendance à sur-observer et à sur-conformer aux instructions par rapport aux enfants.

Résultats

Résultats SoC

• Adéquation du Modèle : Le modèle SoC-Full (intégrant à la fois la fiabilité subjective et un générateur en ligne) a fourni un ajustement significativement meilleur aux trajectoires des enfants et aux taux de généralisation que toute variante lésionnée ($p < .001$).
• Généralisation : Alors que 66 % des enfants ont ouvert toutes les boîtes, seulement 22 % ont généralisé la vraie règle. Le modèle SoC-Full a reproduit cela, convergeant vers la règle correcte dans environ 20 % des simulations.
• Mécanisme : Les résultats indiquent que ni la fiabilité subjective ni la génération en ligne seule ne sont suffisantes ; leur combinaison est requise pour reproduire la distribution des tentatives et le faible taux de généralisation correcte.

Résultats LLM-PS

• Reproduction des Schémas : Les agents basés sur les LLM ont reproduit les réponses des enfants aux changements de fiabilité des preuves et d'observabilité. Ils ont réussi à dévaloriser les preuves peu fiables et à chercher à résoudre l'information partielle.
• Achèvement de la Tâche vs Généralisation : Comme les enfants, les agents LLM ont souvent achevé la tâche sans découvrir la vraie règle. Lorsque cela se produisait, ils s'appuyaient sur des hypothèses « approximatives » combinant des causes disparates (par exemple, utilisant la couleur pour certaines boîtes et les nombres pour d'autres) plutôt qu'une règle unifiée.
• Divergence Comportementale :
  • Conformité aux Instructions : Les LLM se sont strictement conformés à l'instruction trompeuse de correspondance des couleurs lors du premier essai, alors que 21 % des enfants ont immédiatement testé des combinaisons non correspondant aux couleurs.
  • Coûts d'Observation : Les agents LLM-PS-P ont systématiquement observé toutes les boîtes avant de reprendre les tentatives, tandis que les enfants variaient considérablement dans la fréquence d'observation, beaucoup n'observant que quelques boîtes ou aucune. Cela suggère que les enfants négocient implicitement la valeur de l'information contre des coûts cognitifs ou sociaux absents dans le cadre LLM.
• Capacité Backend : La généralisation à la vraie règle nécessitait une capacité backend suffisante (par exemple, GPT-5.2 a réussi avec une seule particule, tandis que des modèles plus faibles comme DEEPSEEK V3.2 ont échoué à découvrir la vraie règle même sous observabilité complète).

Signification et Revendications

L'article revendique fournir un cadre contrôlé pour évaluer l'inférence inductive dans l'incertitude à travers les agents humains et artificiels. Sa signification principale réside dans :

1. Pont entre Sciences Cognitives et IA : Il démontre que les LLM peuvent servir d'« organismes modèles » valides pour les sciences cognitives, permettant une manipulation systématique des variables environnementales difficile à réaliser avec des sujets humains.
2. Compréhension de l'Inférence Approximative : L'étude souligne qu'un achèvement réussi de la tâche n'implique pas nécessairement la découverte de la vraie règle sous-jacente. Les enfants et les LLM peuvent utiliser des hypothèses « approximatives » intégrant des causes disparates pour résoudre des problèmes immédiats, ce qui peut servir d'étape préliminaire pour une unification ultérieure.
3. Biais Inductifs : Les résultats suggèrent que si les enfants et les LLM s'adaptent de manière similaire à la structure environnementale, leurs comportements de recherche d'information sont façonnés par des coûts et des priors sous-jacents différents. Les enfants semblent opérer avec un prior plus large et des coûts implicites pour l'observation, tandis que les LLM exhibent un biais vers des espaces d'hypothèses structurés et restreints et un suivi strict des instructions.

Les auteurs notent modestement que leur interprétation du comportement des LLM reste indirecte, car ils ne prouvent pas définitivement que les LLM maintiennent des représentations explicites d'hypothèses ou effectuent des mises à jour basées sur la vraisemblance par opposition à la récupération. Ils suggèrent que des travaux futurs pourraient utiliser l'interprétabilité mécaniste pour distinguer ces possibilités et investiguer davantage la « fiabilité subjective » et les priors de règles des LLM.