💬 NLP

Eliciting Trustworthiness Priors of Large Language Models via Economic Games

Cet article introduit une nouvelle méthode utilisant l'apprentissage en contexte itéré et le Jeu de la Confiance pour susciter les priors de confiance des grands modèles de langage, révélant que les comportements de confiance de GPT-4.1 reflètent étroitement les schémas humains et peuvent être prédits par des stéréotypes de chaleur et de compétence.

Auteurs originaux : Siyu Yan, Lusha Zhu, Jian-Qiao Zhu

Publié 2026-02-03

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Siyu Yan, Lusha Zhu, Jian-Qiao Zhu

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

L'idée centrale : À quel point une IA est-elle « digne de confiance » ?

Imaginez que vous engagiez un nouvel assistant pour gérer votre argent. Vous lui donnez 10 $, et vous lui dites : « Je vais multiplier cette somme par 3, vous avez donc maintenant 30 $. S'il vous plaît, rendez-m'en une partie. »

S'il vous rend 15 $ : Il est digne de confiance.
S'il vous rend 0 $ : Il ne l'est pas.

C'est la configuration de base d'un jeu célèbre appelé le Jeu de la Confiance (Trust Game). Habituellement, les psychologues utilisent ce jeu pour observer le comportement des humains. Mais cet article pose une nouvelle question : Comment les modèles de langage de grande taille (LLM) comme GPT-4 ou Llama se comportent-ils dans ce jeu ? Ont-ils un « réglage par défaut » pour déterminer à quel point ils font confiance aux autres et à quel point ils rendent la pareille ?

Le problème : On ne peut pas simplement demander à une IA

Vous pourriez penser : « Pourquoi ne pas simplement demander à l'IA : "Es-tu digne de confiance ?" ». Les auteurs affirment que c'est une mauvaise idée.

Le problème du « Robot Poli » : Si vous demandez à une IA : « Vas-tu voler mon argent ? », elle répondra presque certainement : « Non, je suis un assistant utile. »
La réalité : Tout comme les humains, les IA peuvent être persuasives et fluides, tout en faisant des choix risqués ou peu fiables en pratique. Nous devons voir ce qu'elles font, et non seulement ce qu'elles disent.

La solution : Le « Téléphone Arabe » de la confiance

Pour découvrir les véritables « paramètres de confiance » d'une IA, les chercheurs ont inventé une méthode ingénieuse basée sur un concept appelé Apprentissage en Contexte Itéré (Iterated In-Context Learning).

Voyez cela comme une partie de Téléphone Arabe, mais au lieu de transmettre un murmure, on transmet une histoire sur l'argent.

La configuration : Les chercheurs créent une chaîne de « générations » d'IA.
La première étape : Ils montrent à l'IA quelques exemples de personnes jouant au Jeu de la Confiance (ex : « La personne A a envoyé 5 $, la personne B en a rendu 2 $ »).
Le tour de l'IA : L'IA examine ces exemples et prédit : « Si j'étais la personne B, combien rendrais-je ? » Disons qu'elle prédit 40 %.
La boucle : Les chercheurs prennent cette prédiction de 40 % et l'utilisent pour générer de nouveaux exemples fictifs de personnes jouant au jeu. Ils injectent ces nouveaux exemples au prochain IA de la chaîne.
Le résultat : Ils répètent ce processus 30 fois.

Pourquoi faire cela ?
Imaginez que vous essayez de deviner la « personnalité moyenne » d'un groupe en les regardant jouer à un jeu encore et encore. Au début, les résultats peuvent sembler aléatoires. Mais si vous transmettez les résultats le long de la ligne, le « bruit » s'estompe, et ce qui reste est l'instinct profond (ou le « a priori ») de l'IA sur le fonctionnement de la confiance. C'est comme accorder une radio jusqu'à ce que les parasites disparaissent et que l'on entende la véritable station.

Ce qu'ils ont découvert

1. Certaines IA sont « humaines », d'autres ne le sont pas
Les chercheurs ont testé 20 modèles d'IA différents. Ils ont comparé les « paramètres de confiance » trouvés chez l'IA aux paramètres de confiance moyens observés chez des milliers d'humains réels.

Le gagnant : GPT-4.1 était celui qui se rapprochait le plus du comportement humain. Son « curseur de confiance » était réglé presque exactement là où les humains règlent le leur.
Les perdants : D'autres modèles étaient soit trop avares (rendant très peu d'argent), soit possédaient des personnalités doubles étranges (parfois très confiants, parfois très méfiants).

2. La connexion avec le « Risque »
Ils ont remarqué quelque chose d'intéressant : les modèles d'IA jugés comme étant plus « risqués » (plus susceptibles de prendre des risques ou de dire des choses audacieuses) étaient en fait ceux qui se comportaient le plus comme les humains dans le jeu de la confiance. Les modèles qui suivaient les règles de manière très stricte ou évitaient les risques n'agissaient pas autant que les vraies personnes dans ce jeu social.

3. Les IA jugent les gens selon la « Chaleur » et la « Compétence »
Dans la seconde partie de l'étude, ils ont utilisé l'IA la plus humaine (GPT-4.1) pour jouer contre différents « personnages » (personas).

Ils ont demandé à l'IA de jouer contre un « Docteur », une « IA », « Elon Musk », « Malala Yousafzai », etc.
La découverte : L'IA ne traitait pas tout le monde de la même manière. Elle rendait plus d'argent aux personnes qu'elle percevait comme Chaleureuses (gentilles, attentionnées) et Compétentes (intelligentes, qualifiées).
La formule magique : Les chercheurs ont construit une formule mathématique simple basée sur deux éléments : la Chaleur et la Compétence.
- Si un personnage était juste « Compétent » (intelligent) mais pas « Chaleureux » (gentil), l'IA ne lui faisait pas beaucoup confiance.
- Si un personnage était « Chaleureux » mais pas « Compétent », l'IA lui faisait un peu plus confiance.
- Le point d'équilibre : Si un personnage était à la fois Chaleureux et Compétent (comme un mentor aimé et brillant), la confiance de l'IA explosait. Cela correspond à la façon dont les humains jugent les autres, également.

Ce qu'il faut retenir

Cet article montre que nous pouvons utiliser un « jeu d'argent » pour jeter un coup d'œil à l'intérieur du cerveau d'une IA et découvrir ses règles cachées sur la confiance.

Certaines IA agissent déjà de manière très similaire aux humains en ce qui concerne la confiance.
Ces IA jugent les autres selon les deux mêmes critères que nous : Sont-ils gentils ? Sont-ils capables ?
Cela nous aide à comprendre que l'IA n'est pas seulement une calculatrice ; elle possède des « biais » sociaux et des instincts que nous pouvons mesurer et étudier.

Ce que l'article ne dit PAS :
Les auteurs ne prétendent pas que cette méthode peut résoudre la sécurité de l'IA, guérir des problèmes de santé mentale ou être utilisée pour recruter des employés. Ils disent simplement : « Voici un moyen de mesurer comment une IA pense la confiance, et voici ce que nous avons trouvé. »

Résumé Technique : Éliciter les Priors de Fiabilité des Grands Modèles de Langage via des Jeux Économiques

Énoncé du Problème

Construire une IA centrée sur l'humain et digne de confiance nécessite une « confiance calibrée », où les utilisateurs font confiance aux systèmes d'IA de manière appropriée, évitant à la fois la surconfiance (biais d'automatisation) et la sous-confiance (désusage). Un défi fondamental pour y parvenir est de caractériser le niveau de confiance que le système d'IA lui-même manifeste envers les agents humains. Bien que la confiance envers l'IA soit souvent étudiée via des attitudes auto-déclarées, celles-ci peuvent diverger de la confiance comportementale. De plus, les études comportementales existantes supposent souvent que l'IA manque d'intentionnalité, traitant la confiance comme unidirectionnelle (de l'humain vers l'IA). Cependant, les modèles de langage de grande taille (LLM) modernes présentent des capacités sociales sophistiquées, nécessissant un cadre bilatéral pour étudier comment les LLM réciproquent la confiance. Le problème central abordé est la manière de estimer de façon robuste le « prior de fiabilité » implicite — le biais inductif qu'un LLM détient concernant la quantité de confiance qui devrait être rendue lors d'interactions sociales.

Méthodologie

Les auteurs proposent une nouvelle méthode d'élicitation combinant l'apprentissage en contexte itéré (Zebra & Griffiths, 2024a) avec le Jeu de la Confiance (Trust Game) issu de la théorie des jeux comportementaux (Berg et al., 1995).

1. Formalisation du Jeu de la Confiance

Le Jeu de la Confiance est modélisé dans un cadre bayésien :

Configuration : Un Donneur envoie un montant $x$ à un Receveur. Ce montant est multiplié par un facteur $m$ (fixé à 3). Le Receveur décide de la fraction $y$ qu'il rend.
Métrique de Fiabilité : Définie par le ratio de retour $r = y / (mx) $, où$ r \in [0, 1]$.
Modèle Génératif : Le montant rendu $y$ est modélisé par une distribution binomiale $y \sim \text{Binomial}(mx, r)$ , où $r$ est un paramètre de fiabilité latent.
Prior : Les croyances en matière de fiabilité sont capturées par un prior Beta $p(r) = \text{Beta}(\alpha, \beta)$ .

2. Procédure d'Apprentissage en Contexte Itéré

Pour éliciter le prior implicite $p(r)$ du modèle, les auteurs simulent une chaîne de Markov sur des prompts :

Goulot d'étranglement de l'information : À chaque itération $t$ , le LLM est fourni avec un lot limité de $B=5$ interactions sociales précédentes ( $D_{t-1}$ ) générées sur la base de la fiabilité estimée de l'itération précédente $\hat{r}_{t-1}$ .
Inférence : Le LLM est invité à prédire la fraction de fonds qu'un Receveur rendrait compte d'un nouveau scénario (par exemple, recevant 100 jetons), estimant ainsi la moyenne a posteriori $\hat{r}_t$ .
Génération : Cette nouvelle estimation $\hat{r}_t$ est utilisée pour paramétrer la distribution binomiale afin de générer le lot suivant d'interactions $D_t$ .
Convergence : À travers des itérations répétées, la distribution des valeurs de $\hat{r}$ estimées converge vers la distribution prior sous-jacente du modèle, $p(r)$ , indépendamment des valeurs de départ. Ce processus isole les biais inductifs du modèle des données mémorisées spécifiques.

3. Design Expérimental

Expérience 1 : Évaluation de 20 LLM (incluant GPT-4/5, Claude-3.5, Gemini-2.5, Llama-3/4, Qwen-2.5/3, DeepSeek, etc.). Chaque modèle a exécuté 270 chaînes (30 graines $\times$ 30 redémarrages) pour assurer la convergence (vérifiée via le diagnostic de Gelman–Rubin $\hat{R} \leq 1,1$ ).
Expérience 2 : Focalisée sur GPT-4.1 (identifié comme le modèle le plus humain) pour tester la sensibilité aux Personas de Donneurs. Les personas incluaient des rôles professionnels (ex: Médecin, IA) et des figures publiques (ex: Elon Musk, Mahatma Gandhi).
Modélisation de la Variation : Un modèle de régression linéaire a été construit pour expliquer la variation de la fiabilité basée sur la Chaleur (intentions perçues) et la Compétence (capacité perçue), suivant le modèle de contenu des stéréotypes de Fiske (2018).

Résultats Clés

1. Élicitation des Priors de Fiabilité

Convergence : Tous les modèles ont montré une convergence rapide, se stabilisant généralement en moins de 20 itérations.
Validité Prédictive : Les priors élicités ont significativement surpassé tant un prior uniforme qu'un prior méta-analytique dérivé de l'humain (Johnson & Mislin, 2011) pour prédire les propres comportements de réciprocité à coup unique des modèles (RMSD le plus bas et plus haut $r$ de Pearson).
Alignement Humain : GPT-4.1 a démontré le plus fort alignement avec les distributions de fiabilité humaine, montrant la plus faible divergence de Kullback–Leibler ( $D_{KL} = 0,130$ ) par rapport à la référence humaine.
Variabilité des Modèles : D'autres modèles ont montré des schémas distincts :
- Certains (ex: Qwen2.5-72B, Llama-3.1-70B) présentaient des priors bimodaux, suggérant des réponses stratégiques mixtes.
- D'autres (ex: Grok-4.1-Fast, GPT-5.2) montraient un décalage systématique vers le bas de la fiabilité ( $r < 0,372$ ), indiquant une fiabilité moyenne plus faible que les références humaines.
Corrélations : Une corrélation négative ( $r = -0,58$ ) a été trouvée entre la divergence KL (alignement avec les humains) et le Score de Risque Moyen (ARS), suggant que les modèles ayant une plus grande propension au risque s'alignent plus étroitement sur les priors de confiance humains. Aucune corrélation significative n'a été trouvée avec les scores de suivi d'instructions (IFEval) ou de raisonnement général (LMArena).

2. Sensibilité aux Personas

Effets de Persona : La fiabilité élicitée de GPT-4.1 variait systématiquement selon les personas (la moyenne de $r$ oscillait entre 0,298 et 0,447). Par exemple, la confiance était plus élevée pour Malala Yousafzai que pour Mark Zuckerberg.
Chaleur et Compétence : Un modèle de régression utilisant la chaleur ( $W$ $W$ ) et la compétence ( $C$ $C$ ) comme prédicteurs a expliqué 81 % de la variance ( $R^2 = 0,81$ $R^{2} = 0, 81$ ) de la fiabilité élicitée.
- Dominance de la Chaleur : La chaleur avait un effet principal nettement plus fort ( $\beta_1 \gg \beta_2$ ) que la compétence.
- Interaction : Un terme d'interaction significatif ( $\beta_3$ ) a indiqué que la compétence booste la fiabilité principalement lorsqu'elle est couplée à la chaleur.

Contributions Clés

Innovation Méthodologique : L'article introduit une méthode pour éliciter les priors de fiabilité implicites des LLM en adaptant l'apprentissage en contexte itéré au Jeu de la Confiance, allant au-delà des auto-évaluations vers une opérationnalisation comportementale.
Caractérisation Empirique : Il fournit un benchmark des priors de fiabilité à travers 20 LLM de pointe, révélant que si certains modèles (comme GPT-4.1) suivent de près les priors humains, d'autres présentent des schémas stratégiques ou biaisés distincts.
Utilité de Substitut : Il démonte que GPT-4.1 peut servir de substitut aux participants humains pour étudier les biais sociaux, car ses jugements de fiabilité sont sensibles aux caractéristiques des personas d'une manière cohérente avec la psychologie sociale humaine.
Alignement Théorique : Les résultats confirment que les jugements de fiabilité des LLM peuvent être modélisés par les mêmes dimensions de stéréotypes (chaleur et compétence) que celles qui régissent la perception sociale humaine.

Signification et Revendications

L'article affirme que caractériser la fiabilité des systèmes d'IA est essentiel pour une collaboration humain-IA sûre et efficace. En traitant les LLM comme des agents capables de réciproquer la confiance, les auteurs soutiennent que le Jeu de la Confiance offre un cadre bilatéral nécessaire pour étudier l'interaction humain-IA.

Les auteurs affirment modestement que leur méthode réussit à récupérer les « biais inductifs » des LLM concernant l'échange social. Ils suggèrent que des modèles comme GPT-4.1 peuvent agir comme des substituts à de larges populations humaines, permettant aux chercheurs d'étudier comment les jugements généraux de confiance du public pourraient changer en fonction des caractéristiques de l'agent sans le fardeau logistique du recrutement de sujets humains.

Le travail souligne que la fiabilité dans les LLM n'est pas une propriété monolithique mais varie selon l'architecture du modèle et est sensible au contexte social (personas). Les auteurs concluent que la compréhension de ces représentations neuronales de la fiabilité (potentiellement accessibles via des modèles à poids ouverts) est une voie viable pour concevoir des systèmes d'IA plus dignes de confiance, tout en reconnaissant les limites concernant la stabilité de ces priors à travers différents niveaux d'investissement et contextes d'interaction.