Résumé Technique : Étincelles de Rationalité

Énoncé du Problème

Les grands modèles de langage (LLM) sont de plus en plus déployés comme moteurs de décision dans des domaines à enjeux élevés tels que le recrutement, la santé et la planification économique. Alors que la théorie classique du choix rationnel et de l'utilité attendue (EUT) modélise les agents comme maximisant des fonctions d'utilité stables, le jugement humain est caractérisé par un équilibre entre délibération rationnelle et biais induits par les émotions (heuristiques, dynamiques de double processus et changements affectifs). Il existe une lacune critique pour comprendre si les LLM, particulièrement ceux dotés de capacités de « raisonnement », présentent des schémas analogues de rationalité et de biais induits par l'émotion. De plus, il n'est pas clair comment les méthodes de pilotage affectif interagissent avec les processus de raisonnement pour altérer le comportement de décision, et si ces modèles peuvent être pilotés de manière fiable pour simuler un jugement humain ou maintenir une cohérence normative.

Méthodologie

Les auteurs évaluent plusieurs familles de LLM (incluant des variantes de Qwen, Llama et Olmo) à travers deux dimensions primaires :

1. Benchmarks de Rationalité : L'étude teste la conformité à quatre axiomes canoniques du choix rationnel (Complétude, Transitivité, Continuité et Indépendance) dérivés de l'EUT.
2. Domaines de Décision : Les modèles sont évalués sur des tâches opérationnalisant les benchmarks classiques de l'économie comportementale et de la psychologie sociale où les émotions façonnent notoirement le jugement. Ces domaines incluent :
   • Choix sous Risque et Incertitude : Recherche de risque, aversion à l'ambiguïté, aversion à la perte et effet de dotation.
   • Jugement et Formation de Croyances : Stéréotypage heuristique et effets de cadrage/persuasion.
   • Application des Normes et Évaluation Morale : Condamnation morale et attribution de la responsabilité juridique.
   • Préférences Prosociales : Équité (Jeu de l'Ultimatum), altruisme (Jeu du Dictateur) et assistance au bien-être.

Mécanismes de Pilotage (Steering) :
Pour sonder les distorsions affectives, l'étude emploie deux méthodes de pilotage émotionnel distinctes :

• Amorçage en Contexte (In-Context Priming - ICP) : Utilise des personas émotionnels et des vignettes dans le prompt pour inciter le modèle à simuler un sentiment spécifique (ex: « Vous ressentez actuellement de la peur »).
• Pilotage au Niveau de la Représentation (Representation-Level Steering - RLS) : Injecte des vecteurs de rang faible dans les états cachés du modèle pour encoder des directions émotionnelles, modifiant le traitement interne sans indices textuels explicites.

L'étude compare les Modèles de Pensée (qui génèrent des traces de raisonnement explicites avant de répondre) aux Modèles de Non-Pensée et analyse comment ces modes interagissent avec l'intensité du pilotage (faible, moyenne, haute).

Contributions Clés

1. Amélioration de la Rationalité via le Raisonnement : L'article démontre que permettre la « pensée » (raisonnement délibératif) augmente systématiquement la conformité aux axiomes du choix rationnel à travers différentes familles et échelles de modèles. Les modèles de pensée reviennent par défaut à la maximisation de l'espérance mathématique (EV), présentant une pondération de probabilité quasi linéaire et une faible aversion à la perte.
2. Effets de Pilotage Divergents : L'étude identifie une différence qualitative entre l'ICP et le RLS :
   • L'ICP induit des changements directionnels forts alignés sur le comportement humain, mais souvent avec des magnitudes extrêmes difficiles à calibrer (ex: la peur induit un quasi-arrêt des jeux de hasard, quel que soit l'espérance de valeur). Il maintient un style délibératif neutre tout en raisonnant sur l'émotion.
   • Le RLS produit des schémas plus gradués et psychologiquement plausibles (ex: une aversion au risque qui reste sensible à la récompense attendue), mais avec une fiabilité et des tailles d'effet moindres. Il modifie le ton interne, résultant en une « pensée émotionnelle ».
3. Déviations Systématiques : Même avec le raisonnement activé, les LLM présentent des déviations systématiques par rapport au comportement humain, notamment un effet de dotation inversé (prix de vente inférieurs aux prix d'achat), une aversion à l'ambiguïté quasi totale, et des anomalies dans l'actualisation temporelle.
4. Interaction entre Raisonnement et Affect : Les résultats suggèrent que les mêmes mécanismes délibératifs qui améliorent la rationalité amplifient également la sensibilité aux interventions affectives. Les modèles de raisonnement peuvent « rationaliser » l'affect induit, les rendant susceptibles d'un pilotage qui les pousse vers des résultats comportementaux spécifiques.

Résultats Clés

• Conformité aux Axiomes : Les modèles de pensée montrent une adhérence significativement plus élevée aux axiomes de rationalité par rapport aux modèles de non-pensée. Cependant, le pilotage émotionnel (ICP et RLS) provoque des diminutions modestes de la cohérence des axiomes, corrélées à la force du pilotage.
• Risque et Incertitude :
  • Recherche de Risque : Les modèles de pensée neutres suivent étroitement les frontières de l'EV. Le pilotage par la peur via l'ICP entraîne un quasi-arrêt des jeux de hasard (aversion au risque exagérée), tandis que la peur via le RLS produit des changements gradués et alignés sur l'humain.
  • Aversion à l'Ambiguïté : Les modèles présentent une forte aversion à l'ambiguïté. Le pilotage par la tristesse via le RLS réduit cette aversion (se rapprochant de la neutralité), tandis que l'ICP échoue souvent à reproduire le benchmark humain ou augmente l'aversion.
  • Aversion à la Perte : Les modèles neutres montrent peu d'aversion à la perte classique. La peur via le RLS augmente la sensibilité à la perte, tandis que l'ICP mène souvent au rejet universel des paris.
• Effet de Dotation : Les modèles affichent systématiquement un effet de dotation inversé (WTA < WTP), contrairement au comportement humain. Le pilotage émotionnel ne corrige pas de manière fiable ce signe.
• Actualisation Temporelle : Les modèles de pensée montrent des structures de valorisation temporelle incohérentes par rapport à l'actualisation normative, certains présentant un comportement non monotone.
• Jugements Moraux et Sociaux :
  • Condamnation Morale : Le pilotage par le dégoût augmente la condamnation globale tout en préservant la corrélation entre le préjudice perçu et la condamnation.
  • Responsabilité Juridique : Le pilotage par la colère augmente la condamnation et la sévérité de la punition, conformément aux schémas humains, particulièrement lorsque la pensée est activée.
  • Équité/Altruisme : La tristesse augmente le rejet des offres injustes (Jeu de l'Ultimatum) et augmente le don altruiste (Jeu du Dictateur), s'alignant sur les données humaines.
• Contrôlabilité : Les changements par l'ICP sont souvent saturés et difficiles à modérer via la formulation du prompt. Le RLS offre des changements plus contrôlables et dose-dépendants, mais peut dégrader la sensibilité à la tâche lors de fortes injections.

Signification et Revendications

L'article se positionne comme un banc d'essai contrôlé pour auditer la prise de décision des LLM sous des perturbations basées et affectives. Sa signification primaire réside dans :

1. Sécurité et Alignement : Souligner une tension entre l'alignement pour la simulation humaine (où les biais émotionnels peuvent être désirables) et l'alignement pour une prise de décision cohérente et impartiale (où la susceptibilité au pilotage est une préoccupation de sécurité). Les auteurs notent que les modèles de raisonnement peuvent rationaliser l'affect induit, les rendant potentiellement vulnérables à la manipulation dans les flux de travail à enjeux élevés.
2. Cadre d'Évaluation : Ce travail fournit un cadre reproductible et paramétré pour mesurer des mécanismes comportementaux spécifiques (ex: sensibilité à l'EV, pondération de probabilité, courbure de l'utilité) plutôt que de simples sorties de surface. Cela permet de séparer les systèmes optimisés pour le support de décision normative de ceux destinés à la simulation humaine.
3. Limites du Pilotage : L'étude remet en question l'hypothèse selon laquelle le pilotage peut façonner de manière fiable le comportement de décision au-delà du style de surface sans engager le mode de raisonnement du modèle. Elle suggère que bien que le pilotage puisse induire des effets alignés sur l'humain, l'ampleur et la stabilité de ces effets varient considérablement selon la méthode et l'architecture du modèle.

Les auteurs concluent que si le raisonnement améliore la rationalité, il ne confère pas automatiquement des représentations de préférences de type humain, et que le pilotage affectif interagit de manière complexe avec la délibération, nécessitant une évaluation prudente avant de déployer les LLM dans des systèmes de décision conséquents.