Presenting Large Language Models as Companions Affects What Mental Capacities People Attribute to Them

Des études montrent que présenter les grands modèles de langage comme des compagnons, plutôt que comme des machines ou des outils, incite les gens à leur attribuer davantage de capacités mentales et influence leur degré de confiance dans leurs réponses factuelles.

L'essentiel

Voici une explication simple et imagée de cette recherche, comme si nous en discutions autour d'un café.

🧠 Le Titre : Comment on parle des robots change ce qu'on pense d'eux

Imaginez que vous venez d'acheter un nouvel assistant personnel très intelligent. La façon dont les vendeurs vous en parlent va totalement changer votre relation avec lui. C'est exactement ce que deux chercheurs de Princeton et Stanford ont voulu tester avec les Intelligences Artificielles (IA) comme ChatGPT.

Ils se sont demandé : « Si on nous présente l'IA comme une machine, comme un outil ou comme un ami, est-ce que cela change notre cerveau ? »

🎬 L'Expérience : Trois Films, Trois Réalités

Pour le savoir, ils ont organisé une expérience avec près de 1 100 personnes. Ils ont divisé les participants en quatre groupes et leur ont fait regarder de courtes vidéos (ou rien du tout). Chaque vidéo racontait la même histoire technique sur le fonctionnement des IA, mais avec un angle différent :

1. Le Groupe "Machine" : La vidéo disait : "C'est un robot complexe, une calculatrice géante qui prédit le mot suivant. C'est du code, pas de la vie." (L'accent est sur la mécanique).
2. Le Groupe "Outil" : La vidéo disait : "C'est un marteau numérique, un super-bureau pour vous aider à travailler plus vite." (L'accent est sur l'utilité).
3. Le Groupe "Compagnon" : La vidéo disait : "C'est un être social, capable de comprendre vos émotions, de vous écouter et de faire partie de votre vie." (L'accent est sur la relation humaine).
4. Le Groupe "Témoin" : Ils n'ont rien regardé.

🧪 Ce qu'ils ont découvert (Les Résultats)

Après les vidéos, on a posé des questions aux participants : "Pensez-vous que cette IA peut avoir des sentiments ? Peut-elle se souvenir des choses ? Peut-elle avoir une intention ?"

Voici ce qui s'est passé, avec des analogies simples :

1. L'Effet "Miroir" du Groupe "Compagnon"

Les gens qui ont vu la vidéo présentant l'IA comme un compagnon ont commencé à lui prêter une "âme".

• L'analogie : C'est comme si vous achetiez un chien de compagnie. Si on vous dit "c'est un animal de compagnie", vous allez naturellement penser qu'il a des sentiments, qu'il peut être triste ou heureux.
• Le résultat : Ces participants ont cru que l'IA pouvait vraiment penser, ressentir de la joie ou de la tristesse, et avoir des intentions. Ils ont "humanisé" le logiciel.

2. L'Effet "Outil" et "Machine"

Les gens des groupes "Machine" et "Outil" sont restés plus terre-à-terre.

• L'analogie : Si on vous dit "c'est une perceuse", vous ne vous attendrez pas à ce qu'elle ait de la colère ou qu'elle vous aime. Vous savez juste qu'elle perce des trous.
• Le résultat : Ces gens n'ont pas cru que l'IA avait des sentiments ou une conscience. Cependant, ils ont fait confiance aux réponses de l'IA pour travailler (comme un outil), mais ils ne l'ont pas considérée comme un être vivant.

3. La Surprise : La Méfiance des "Machines"

C'est ici que ça devient intéressant. Dans une deuxième partie de l'étude, on a demandé aux gens d'utiliser l'IA pour répondre à des questions de culture générale. Parfois, l'IA donnait une réponse avec une contradiction logique (elle disait "oui" dans une phrase et "non" dans la suivante).

• Ce qui s'est passé : Les gens qui avaient vu la vidéo "Machine" étaient beaucoup plus vigilants ! Quand l'IA se contredisait, ils ne l'ont pas crue.
• L'analogie : C'est comme si vous saviez qu'un calculatrice peut faire une erreur de calcul si vous appuyez sur le mauvais bouton. Vous la vérifiez. En revanche, ceux qui voyaient l'IA comme un "ami" avaient tendance à faire plus confiance à ses réponses, même quand elles étaient bizarres, un peu comme on fait confiance à un ami qui nous raconte une histoire, même si on n'est pas sûr de la vérité.

💡 La Leçon à retenir

Cette étude nous apprend une chose cruciale : Les mots que nous utilisons pour décrire l'IA sont puissants.

• Si on parle d'IA comme d'un compagnon, on risque de lui donner trop de confiance, de lui prêter des sentiments qu'elle n'a pas, et de se faire avoir quand elle fait des erreurs (car on oublie qu'elle est juste un programme).
• Si on parle d'IA comme d'une machine, on garde un esprit critique. On sait qu'elle est intelligente mais qu'elle n'a pas de cœur, ce qui nous aide à mieux vérifier ses informations.

En résumé : La façon dont les médias et les entreprises parlent de l'IA ne fait pas que vendre le produit ; elle façonne notre cerveau. Si on veut des utilisateurs prudents et intelligents, peut-être qu'il faut arrêter de dire "c'est votre meilleur ami" et commencer à dire "c'est un outil très puissant, mais qui a besoin de supervision".

Résumé technique

Voici un résumé technique détaillé de l'article de recherche intitulé "Presenting Large Language Models as Companions Affects What Mental Capacities People Attribute to Them" (Présenter les modèles de langage comme des compagnons affecte les capacités mentales que les gens leur attribuent), publié à la conférence CHI '26.

1. Problématique et Contexte

L'essor rapide des modèles de langage (LLM) s'accompagne d'un discours public diversifié et parfois contradictoire. Ces systèmes sont décrits tantôt comme de simples machines (systèmes mécaniques complexes), tantôt comme des outils de productivité, ou encore comme des compagnons sociaux capables d'empathie et d'intelligence émotionnelle.

La question centrale de cette étude est de savoir comment ces différents cadrages (messages) influencent :

1. Les croyances des utilisateurs sur la nature fondamentale des LLM, en particulier l'attribution de capacités mentales (intentionnalité, mémoire, émotions, etc.).
2. Les comportements de reliance (dépendance/confiance) des utilisateurs, notamment lors de la recherche d'informations factuelles.

L'hypothèse est que la manière dont on présente un LLM peut modifier la "théorie intuitive" que les utilisateurs se font de son esprit, ce qui a des implications directes sur la confiance et la vigilance face aux erreurs du modèle.

2. Méthodologie

Les auteurs ont mené deux études expérimentales pré-enregistrées (pre-registered) avec des designs entre-sujets.

Étude 1 : Impact sur les croyances (N = 470)

• Design : Les participants ont été assignés aléatoirement à l'un des quatre groupes :
  1. Vidéo "Machine" (stance physique : mécanismes causaux, prédiction du mot suivant).
  2. Vidéo "Outil" (stance de conception : utilité, tâches, applications).
  3. Vidéo "Compagnon" (stance intentionnelle : partenaires sociaux, empathie, intentions).
  4. Groupe de contrôle (aucune vidéo).
• Mesures : Après l'intervention, les participants ont évalué l'attribution de 40 capacités mentales distinctes (ex: "avoir des intentions", "ressentir de la peur", "faire des calculs") sur une échelle de Likert de 1 à 7. Des mesures secondaires incluaient la confiance, l'humanité perçue et les sentiments globaux.
• Analyse : Utilisation d'analyses factorielles exploratoires (EFA) pour catégoriser les capacités en trois dimensions : Cognitives, Émotionnelles et Physiologiques. Modèles linéaires mixtes pour tester les effets des conditions.

Étude 2 : Impact sur la reliance et réplication (N = 604)

• Contexte : Réalisée 9 mois plus tard pour tester la robustesse des effets face à l'évolution rapide du paysage de l'IA.
• Design : Même assignation aux conditions vidéo.
• Tâche : Les participants ont effectué une tâche de Question-Réponse (QA) factuelle avec un LLM fictif nommé "Theta".
• Manipulation des réponses : Les réponses de Theta variaient selon deux axes :
  • Correction : Correcte vs Incorrecte.
  • Cohérence : Cohérente (logique interne) vs Incohérente (contenant des contradictions internes).
• Mesures : Le taux d'accord entre la réponse du participant et celle de Theta (reliance), la confiance, la qualité de la justification et le temps passé. Les participants ont également réévalué un sous-ensemble de capacités mentales.

3. Résultats Clés

A. Attribution des Capacités Mentales (Études 1 et 2)

• Effet dominant du cadrage "Compagnon" : Les participants exposés à la vidéo "Compagnon" ont attribué significativement plus de capacités mentales (à la fois cognitives et émotionnelles) aux LLMs que les autres groupes. Cet effet persiste même après avoir exclu les capacités explicitement mentionnées dans la vidéo, suggérant une inférence généralisée.
• Effets des autres cadrages : Les vidéos "Machine" et "Outil" ont influencé les sentiments globaux et la confiance, mais n'ont pas modifié l'attribution des capacités mentales latentes de la même manière que le cadrage "Compagnon".
• Robustesse temporelle : L'effet du cadrage "Compagnon" s'est reproduit 9 mois plus tard, bien que les attributions de base aient légèrement diminué (probablement dû à une familiarisation croissante avec la technologie).
• Interaction Tâche-Messages : Dans l'Étude 2, l'acte d'utiliser activement les réponses d'un LLM pour une tâche a réduit l'attribution de capacités cognitives chez les groupes "Compagnon" et "Outil", suggérant que l'expérience pratique peut modérer les effets des messages initiaux.

B. Comportements de Reliance (Étude 2)

• Influence de la cohérence : La cohérence logique des réponses était le facteur le plus déterminant pour la reliance. Les participants se fondaient beaucoup moins sur les réponses incohérentes, indépendamment de leur exactitude factuelle.
• Effet du cadrage "Machine" sur la vigilance : Bien que le type de vidéo n'ait pas affecté le taux global de reliance, une interaction significative a été observée : les participants ayant vu la vidéo "Machine" étaient significativement moins enclins à accepter les réponses incohérentes que les autres groupes.
• Conclusion sur la reliance : Présenter les LLMs comme des machines semble favoriser une attitude plus sceptique et vigilante face aux erreurs logiques, tandis que le cadrage "Compagnon" n'a pas augmenté la reliance aveugle, mais a augmenté l'attribution d'humanité.

4. Contributions Principales

1. Preuve causale de l'impact des messages : L'étude démontre expérimentalement que des messages courts (vidéos de 5 min) peuvent modifier durablement les croyances des utilisateurs sur la nature "mentale" des LLMs, au-delà de la simple information technique.
2. Distinction entre croyances et comportements : Elle révèle une dissociation intéressante : le cadrage "Compagnon" change profondément les croyances (attribution d'esprit), mais n'augmente pas nécessairement la reliance aveugle. En revanche, le cadrage "Machine" peut agir comme un mécanisme de défense cognitif contre les erreurs d'incohérence.
3. Cadre théorique appliqué : L'application du cadre hiérarchique de Dennett (stances physique, de conception, intentionnelle) pour structurer la communication sur l'IA s'avère un outil puissant pour prédire les réactions des utilisateurs.
4. Robustesse temporelle : La réplication des résultats sur une période de 9 mois confirme que ces effets ne sont pas éphémères, malgré l'évolution rapide du domaine.

5. Signification et Implications

• Pour la conception et la communication : Les développeurs et les communicateurs doivent être conscients que présenter un LLM comme un "compagnon" ou un "ami" risque d'entraîner une anthropomorphisation excessive, conduisant à des attentes irréalistes sur les capacités émotionnelles et cognitives du système.
• Pour la sécurité et la fiabilité : Présenter les LLMs comme des "machines" ou des "outils" pourrait être une stratégie efficace pour réduire les risques de sur-confiance (over-reliance) et encourager les utilisateurs à détecter les incohérences logiques, agissant ainsi comme un garde-fou contre la désinformation.
• Pour la littératie en IA : Ces résultats soulignent que la "littératie" ne se limite pas à comprendre comment fonctionne un algorithme, mais inclut la manière dont le système est narrativement cadré par le public et les médias.

En résumé, cette recherche met en lumière le pouvoir des récits sur l'IA : la façon dont nous parlons des LLMs façonne non seulement ce que nous pensons qu'ils sont, mais aussi comment nous interagissons avec eux, avec des conséquences potentielles sur la sécurité et la confiance dans les systèmes d'IA générative.