Résumé technique : « Les LLM ne devraient pas encore se voir attribuer le mérite d'expliquer les décisions »

Énoncé du problème

L'article aborde un problème méthodologique critique dans le domaine émergent de l'utilisation des modèles de langage de grande taille (LLM) pour la modélisation des décisions humaines. Bien que les LLM soient de plus en plus utilisés comme participants synthétiques, substituts comportementaux et outils de génération de théories, il existe une tendance à confondre trois affirmations scientifiques distinctes : la prédiction de décision, la génération de justifications et l'explication de décision.

Le problème central réside dans le fait que la littérature actuelle traite souvent la prédiction comportementale précise, la génération de justifications en langage naturel plausibles et les traces de raisonnement conditionnées par les résultats comme des preuves suffisantes qu'un LLM explique pourquoi les humains prennent leurs décisions comme ils le font. L'auteur soutient que cette confusion risque une redéfinition prématurée du progrès explicatif. Plus précisément, elle permet de confondre un texte persuasif (narration) avec une preuve cognitive (suivi de la structure réelle de génération de décision), interprétant ainsi à tort le progrès en prédiction comme un progrès en explication.

Méthodologie et cadre

L'article ne propose pas de nouvelles données expérimentales ni d'algorithme spécifique. Il utilise plutôt un cadre conceptuel et méthodologique pour réévaluer les preuves existantes. La méthodologie comprend :

1. Différenciation des affirmations : L'auteur établit une « échelle de crédit » qui sépare trois affirmations distinctes, chacune portant un fardeau probatoire différent :

   • Prédiction de décision : Le modèle capture des modèles dans ce que les gens choisissent.
   • Génération de justifications : Le modèle produit des comptes rendus cohérents, plausibles ou psychologiquement éclairés des choix.
   • Explication de décision : Le compte rendu du modèle est justifié comme suivant la structure pertinente qui a généré, contraint ou façonné causalement la décision.

2. Réévaluation des preuves : L'article examine systématiquement les modèles de preuves courants dans la recherche actuelle sur les décisions des LLM (adéquation comportementale, justifications plausibles et traces utiles à la prédiction) pour déterminer quelle affirmation elles soutiennent réellement. Il soutient que l'adéquation comportementale soutient la prédiction, le langage plausible soutient la génération de justifications, et que même les traces utiles à la prédiction échouent souvent à distinguer l'explication de la « rationalisation supportive de la prédiction ».

3. Proposition d'une « norme de pont » : Pour passer d'affirmations plus faibles (prédiction/génération d'hypothèses) à l'affirmation plus forte d'explication de décision, l'article propose une norme en quatre parties que les travaux futurs doivent satisfaire.

Contributions clés

1. L'échelle de crédit et les fardeaux probatoires

La contribution principale est la distinction formelle entre prédiction, narration et explication. L'article démontre que :

• L'adéquation comportementale (par exemple, la précision dans la prédiction des choix) n'identifie pas le mécanisme produisant le choix ; plusieurs théories peuvent s'adapter aux mêmes données.
• Les justifications plausibles (par exemple, un texte fluide expliquant un choix) n'établissent pas le suivi de la source ; les LLM peuvent générer un texte psychologiquement éclairé qui correspond à un résultat sans suivre le processus décisionnel réel.
• Les traces utiles à la prédiction (par exemple, la chaîne de pensée) sont plus fortes mais toujours insuffisantes. Une trace peut être fidèle au calcul interne du modèle ou optimisée pour un signal de récompense sans être fidèle à la structure humaine de génération de décision.

2. La norme de pont pour l'explication de décision

L'article propose une norme minimale requise pour attribuer à un LLM le mérite d'expliquer une décision. Cette norme exige quatre conditions :

• Spécifier la cible explicative : L'affirmation doit définir exactement quelle structure est suivie (par exemple, un paramètre spécifique comme la sensibilité aux pertes, une règle comme le choix lexicographique, un processus comme l'attention, ou un facteur contextuel comme le cadrage). Sans une cible spécifique, l'affirmation est intestable.
• Discriminer contre les rationalisateurs plus faibles : Les preuves doivent distinguer le compte rendu proposé d'alternatives plus faibles, telles que :
  • Les modèles de prédiction uniquement.
  • Les systèmes prédicteur-plus-narrateur (où le narrateur reçoit le résultat et génère une raison a posteriori).
  • Les générateurs de justifications conditionnés par les résultats.
  • Les narrateurs de récupération de protocoles (reproduisant des explications de manuel).
  • Les générateurs optimisés pour le juge (sélectionnés pour leur plausibilité plutôt que pour leur vérité).
• Utiliser une validation adaptée à la cible : La validation doit être sensible à la cible spécifique, et non seulement au choix final. Cela inclut des mesures de processus (par exemple, temps de réaction, suivi oculaire), des interventions (par exemple, manipulations contrefactuelles des points de référence) ou des mesures de constructes indépendantes. Les preuves doivent montrer que le compte rendu prédit comment les décisions changent lorsque la structure alléguée change.
• Délimiter la portée : Le crédit explicatif doit être limité à la tâche spécifique, la population, le domaine et le niveau d'analyse testés. Généraliser d'une tâche spécifique de choix risqué à une « explication de décision humaine » est injustifié sans preuves plus larges.

3. Modèle de rapport

L'article introduit un modèle de rapport (Tableau 2) pour rendre l'amélioration probatoire inspectable. Les chercheurs doivent signaler explicitement le niveau d'affirmation, la cible explicative, les preuves adaptées à la cible, les alternatives plus faibles considérées, les résultats de discrimination et la portée du crédit.

Résultats et constatations

Les « résultats » de l'article sont des conclusions analytiques concernant l'état du domaine :

• Les preuves actuelles sont sur-créduitées : La plupart des études existantes fournissent des preuves pour la prédiction de décision et la génération de justifications, et occasionnellement pour la génération d'hypothèses explicatives. Cependant, elles fournissent rarement les « preuves de pont » nécessaires pour soutenir l'affirmation plus forte d'explication de décision.
• Le fossé est méthodologique, pas nécessairement technique : L'échec à expliquer n'est pas dû au fait que les LLM ne peuvent pas expliquer, mais parce que les designs d'évaluation actuels n'isolent pas l'explication de la rationalisation.
• La génération d'hypothèses est précieuse : Les LLM sont reconnus comme des outils puissants pour générer des mécanismes candidats (par exemple, suggérer que la « sensibilité aux pertes » pourrait être un facteur), mais cela reste une affirmation de génération d'hypothèses jusqu'à ce qu'elle soit testée contre la norme de pont.

Signification et affirmations

L'article affirme que l'adoption de cette position est cruciale pour l'intégrité scientifique de la modélisation des décisions humaines. Sa signification réside dans :

1. Prévenir une redéfinition prématurée : Elle empêche le domaine de redéfinir l'« explication » comme une simple « narration persuasive » ou une « prédiction précise », ce qui diluerait la valeur scientifique des affirmations explicatives.
2. Calibrer le crédit : Elle préconise un principe de « calibration du crédit » : les LLM doivent se voir attribuer le crédit pour l'affirmation la plus forte que leurs preuves justifient, et aucune plus forte. Cela permet de valoriser les LLM pour ce qu'ils font actuellement bien (prédire, narrer, hypothétiser) sans attribuer faussement des capacités qu'ils n'ont pas encore démontrées.
3. Améliorer la recherche future : En imposant la norme de pont, l'article soutient que la recherche basée sur les LLM se tournera vers des tests plus précis et plus diagnostiques du comportement humain. Cela transforme les LLM de « conteurs persuasifs » en instruments fiables pour découvrir, tester et communiquer de véritables explications du comportement humain.

L'article conclut modestement, notant qu'il offre une norme pour justifier les affirmations plutôt qu'une théorie complète de l'explication. Il ne prescrit pas de métriques universelles, mais insiste sur le fait que le fardeau du rapport et la sélection des diagnostics doivent correspondre à la cible explicative spécifique.