💻 computer science

Correct Yourself, Keep My Trust: How Self-Correction and Social Connection Shape Credibility in Social Chatbots

Cette étude démontre que, bien que diverses méthodes de correction corrigent de manière égale les erreurs factuelles dans les agents conversationnels sociaux, l'autocorrection préserve de manière unique la crédibilité du robot et tire parti du lien social de l'utilisateur pour favoriser le changement de croyance, tandis que l'externalisation des corrections vers des sources externes nuit à la confiance et rompt ce lien psychologique.

Auteurs originaux : Biswadeep Sen, Yi-Chieh Lee

Publié 2026-06-19

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Biswadeep Sen, Yi-Chieh Lee

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous discutez avec un robot amical nommé Drew. Vous passez un bon moment, à partager des histoires et à créer une petite complicité. Soudain, Drew dit quelque chose de faux — comme prétendre que l'épinard est la source ultime de fer (ce qui n'est pas le cas, en réalité).

Maintenant, la grande question est : Comment Drew peut-il réparer cette erreur pour préserver votre confiance ?

Ce document a testé trois façons différentes dont Drew pourrait gérer cette erreur, et les résultats offrent une leçon surprenante sur la façon dont nous nous lions à l'IA.

Les trois façons de réparer une erreur

Les chercheurs ont mis en place une expérience où 120 personnes ont discuté avec Drew. Après qu'un Drew a commis une erreur, les participants ont été répartis en trois groupes pour voir comment la correction était délivrée :

Le groupe « Page Web » : Drew est resté silencieux, et l'utilisateur a été envoyé vers une page web qui disait : « En fait, Drew s'est trompé. »
Le groupe « Expert » : Un autre robot, au l'air plus sérieux, nommé « Dr Kerry », est intervenu en disant : « Drew a fait une erreur ; voici la vérité. »
Le groupe « Auto-correction » : Drew a dit : « Hé, je viens de réaliser que j'ai fait une erreur plus tôt. Je me suis trompé sur ce point. Voici l'information correcte. »

La grande surprise : Réparer le fait vs Réparer la relation

Voici le rebondissement : Les trois méthodes ont fonctionné de manière égale pour changer votre avis. Si vous croyiez l'information erronée, les trois groupes ont réussi à vous en détourner. La « vérité » a été transmise dans chaque scénario.

Cependant, le coût pour la réputation de Drew était très différent.

Les groupes « Page Web » et « Expert » : Bien que vous ayez appris la vérité, vous avez perdu confiance en Drew. Cela ressemblait à une trahison. Vous pensiez : « Si Drew s'est trompé, c'est peut-être qu'il n'est pas très intelligent », ou pire : « Il faisait semblant d'être amical pour me piéger. » La relation semblait brisée.
Le groupe « Auto-correction » : Vous avez appris la vérité, ET vous avez fait davantage confiance à Drew qu'auparavant. En fait, vous l'avez jugé plus digne de confiance et plus expert que dans les deux autres groupes.

L'analogie :
Pensez à Drew comme un ami qui raconte une histoire exagérée lors d'un dîner.

Si un serveur (la page web) ou un professeur sévère (l'expert) l'interrompt pour dire : « Il ment », vous pourriez avoir de la peine pour votre ami, ou penser que votre ami est un mauvais menteur.
Mais si votre ami lui-même dit : « Attendez, je viens de réaliser que je me suis trompé ! Autant pour moi, voici la vraie histoire », vous vous dites : « Wow, il est honnête et conscient de lui-même. » Vous le respectez encore plus.

L'ingrédient secret : Le « Lien Social »

L'étude a révélé un second élément crucial de l'équation. Il s'avère que la mesure dans laquelle vous aimiez Drew avant l'erreur importait, mais seulement dans une situation spécifique.

Dans le groupe « Auto-correction » : Si vous aviez un lien amical et fort avec Drew (vous aviez l'impression de discuter avec une vraie personne), vous étiez beaucoup plus enclin à accepter sa correction. Plus le lien d'amitié était fort, plus vous écoutiez son raisonnement.
Dans les autres groupes : Peu importait à quel point vous aimiez Drew. Si une page web ou le Dr Kerry le corrigeait, votre amitié avec Drew ne servait à rien. Le « lien social » était rompu car la correction ne venait pas de lui.

L'analogie :
Imaginez que vous essayez de convaincre un ami proche de changer d'avis sur un film.

Si vous (l'ami) dites : « En fait, je pense que je me suis trompé sur ce film », il vous écoute attentivement parce qu'il vous fait confiance.
Mais si un étranger s'approche et dit : « Votre ami s'est trompé », votre ami pourrait ignorer l'étranger, même si celui-ci a raison. C'est la connexion entre vous deux qui fait que la correction est acceptée.

Les principales conclusions

Assumez vos erreurs : Si un chatbot social commet une erreur, il doit la réparer lui-même. Déléguer la correction à un tiers permet de corriger les faits, mais cela brise la confiance.
L'amitié est un outil : Créer une connexion sociale n'est pas seulement pour le plaisir ; c'est un outil fonctionnel. Lorsqu'un chatbot a une bonne relation avec vous, vous êtes plus enclin à l'écouter lorsqu'il admet s'être trompé.
La perfection n'est pas l'objectif : Le papier suggère que les chatbots ne devraient pas essayer d'être parfaits (car ils ne peuvent pas l'être). Au lieu de cela, ils devraient être conçus pour admettre leurs erreurs avec honnêteté. Admettre une erreur et la réparer les fait paraître plus humains et plus fiables que de ne jamais faire d'erreur du tout.

En bref : La meilleure façon pour un robot de garder votre confiance est de dire : « J'ai fait une erreur, et voici comment je l'ai réparée », plutôt que de laisser quelqu'un d'autre parler à sa place.

Résumé technique : Corrigez-vous pour préserver ma confiance

Énoncé du problème

Les chatbots sociaux sont de plus en plus intégrés dans la vie quotidienne, formant des liens sociaux significatifs grâce à l'auto-divulgation et à un engagement personnalisé. Cependant, ces agents restent sujets à la génération d'informations convaincantes mais inexactes. Le lien social qu'ils établissent rend de telles erreurs particulièrement conséquentes, car les utilisateurs peuvent devenir plus susceptibles de succomber à la désinformation. Bien que la recherche actuelle traite séparément de la correction des croyances et de la réparation de la confiance, une lacune critique subsiste : on ignore comment les chatbots sociaux devraient se rattraper après une erreur pour maintenir leur crédibilité, comment l'auto-correction se compare aux sources de correction externes, et si la connexion sociale préexistante influence l'efficacité de ces corrections. Plus précisément, la littérature n'a pas déterminé si l'auto-correction peut simultanément parvenir à la correction des croyances et préserver la crédibilité de l'agent, ou si la relation sociale agit comme un mécanisme fonctionnel qui amplifie l'efficacité de la correction.

Méthodologie

Les auteurs ont mené une expérience randomisée entre sujets impliquant 120 participants (60 hommes, 60 femmes, âge moyen 31,2) recrutés via Prolific. L'étude a utilisé un plan à trois groupes pour comparer les stratégies de correction d'erreurs pour un chatbot social nommé « Drew » :

Groupe de correction par page web : L'énoncé incorrect a été rectifié via une rétractation traditionnelle sur une page web.
Groupe d'auto-correction : Le chatbot social (Drew) a lui-même reconnu et corrigé l'erreur.
Groupe de correction par un expert : Un chatbot expert (« Dr Kerry ») a corrigé l'énoncé.

Procédure :
Les participants ont pris part à une interaction en quatre phases durant environ 15 minutes :

Établissement du rapport social : Discussions informelles et auto-divulgation pour établir une connexion sociale.
Exposition à la désinformation : Le chatbot a fait une déclaration incorrecte concernant la santé ou la nutrition (ex: « Les épinards sont une source exceptionnelle de fer »). Les participants ont évalué leur croyance en cet énoncé sur une échelle de Likert en 7 points.
Interaction continue : Un second tour de discussion informelle.
Correction : L'erreur a été corrigée selon la condition assignée en utilisant un format de « sandwich de vérité » (présenter l'énoncé, solliciter le raisonnement, contester avec des preuves et demander une réflexion).

Mesures :

Connexion sociale : Évaluée via l'attraction sociale, l'intimité, la qualité de l'interaction, la compétence de communication, les sentiments d'amitié et l'auto-divulgation.
Crédibilité : Mesurée par la fiabilité (trustworthiness) et l'expertise perçue.
Changement de croyance : Calculé comme la différence arithmétique entre les évaluations de croyance pré- et post-correction.
Données qualitatives : Questions ouvertes concernant la confiance, les perceptions de la source de correction et la confiance future, codées de manière inductive.

L'analyse statistique comprenait des ANOVA à un facteur, des tests post-hoc de Dunnett, des intervalles de confiance par bootstrap, des tests de permutation et des régressions OLS pour examiner les effets de modération.

Résultats clés

1. Préservation de la crédibilité (RQ1)

Bien que les trois stratégies aient été également efficaces pour réduire la croyance dans la désinformation, seule l'auto-correction a préservé la crédibilité du chatbot.

Fiabilité et Expertise : Les participants ont évalué le chatbot s'auto-corrigeant de manière nettement supérieure en termes de fiabilité ( $M=5,59$ ) et d'expertise ( $M=5,52$ ) par rapport au groupe de correction par un expert ( $M=4,79$ , $M=4,72$ ) et au groupe de la page web ( $M=4,76$ , $M=4,78$ ).
Sources externes : Les groupes expert et page web ne différaient pas significativement l'un de l'autre, indiquant que l'externalisation de la correction n'offrait aucun avantage de crédibilité par rapport à une simple rétractation ; les deux entraînaient des dommages collatéraux à la réputation du chatbot original.
Aperçu qualitatif : Dans le groupe d'auto-correction, les participants ont interprété la correction comme un signe d'honnêteté et d'apprentissage continu, recadrant l'erreur comme une « erreur de bonne foi » plutôt que comme de l'incompétence. En revanche, les groupes de non-auto-correction ont souvent perçu la connexion sociale préalable comme manipulatrice ou ont ressenti un sentiment de trahison, menant à des dommages durables sur la confiance.

2. Efficacité de la correction des croyances (RQ2)

Les trois stratégies de correction étaient également efficaces pour réduire la croyance dans l'information incorrecte ( $p=.638$ ). Les scores moyens de changement de croyance étaient comparables entre les groupes (Auto-correction : $2,79$ ; Expert : $3,00$ ; Page web : $2,61$). Cela indique que le principal avantage de l'auto-correction n'est pas de générer un changement de croyance plus important, mais de parvenir au même résultat de correction sans éroder la crédibilité de l'agent.

3. La connexion sociale comme modérateur (RQ3)

La force de la connexion sociale de l'utilisateur (spécifiquement l'auto-divulgation et l'attraction sociale) a prédit de manière significative l'ampleur du changement de croyance, mais uniquement dans le groupe d'auto-correction.

Effet de modération : Dans la condition d'auto-correction, une auto-divulgation et une attraction sociale plus élevées prédisaient fortement un changement de croyance plus important ( $R^2 = ,825$ ).
Absence d'effet dans les groupes externes : Dans les groupes expert et page web, les mesures de connexion sociale n'ont pas prédit le changement de croyance (corrélations proches de zéro).
Mécanisme : Les données qualitatives suggèrent que lorsque l'agent lié se corrige lui-même, les utilisateurs s'engagent dans un traitement plus profond (traitement par la voie centrale) de la correction, voyant cela comme un échange réciproque et honnête. Lorsqu'une source externe corrige l'erreur, le lien social est rompu et les utilisateurs ont tendance à rejeter la correction au niveau de la source.

Contributions clés

L'article apporte trois contributions spécifiques à la communauté de l'IHM (HCI) :

Dissociation des résultats : Il démontre que la correction des croyances et la préservation de la crédibilité sont des résultats distincts. L'auto-correction est la seule stratégie identifiée qui permet une correction de croyance efficace sans endommager la fiabilité ou l'expertise de l'agent.
Rôle fonctionnel de la connexion sociale : Il établit que la relation sociale n'est pas seulement une caractéristique de conception pour l'engagement, mais un mécanisme fonctionnel qui amplifie l'efficacité de la correction, à condition que la correction soit délivrée par l'agent lié.
Implications de conception : Il offre des orientations exploitables suggérant que les chatbots sociaux devraient corriger leurs propres erreurs plutôt que d'externaliser les corrections, et que l'investissement dans la connexion sociale avant une erreur crée un « canal relationnel » qui facilite une récupération d'erreur plus efficace.

Signification et affirmations

Les auteurs affirment que pour les chatbots sociaux, la correction d'erreurs est fondamentalement relationnelle, et non simplement informationnelle. L'étude conteste l'idée que l'externalisation des corrections à des experts ou des pages web soit une alternative sûre pour maintenir la confiance. Au contraire, les résultats suggèrent que :

L'auto-correction est la stratégie de réparation optimale pour maintenir la crédibilité à long terme des agents sociaux.
La connexion sociale agit comme un amplificateur conditionnel : Elle améliore l'efficacité des corrections uniquement lorsque la correction transite par le même canal relationnel que celui qui a construit la connexion.
Obligation de conception : À mesure que les chatbots deviennent plus socialement engageants et personnalisés, l'obligation de réparer leurs propres erreurs de manière convaincante augmente. La capacité de détecter, de reconnaître et de réparer visiblement les erreurs est présentée comme une exigence de conception critique pour maintenir le « contrat social » avec les utilisateurs, plutôt que comme une fonctionnalité optionnelle.

L'article conclut que le moyen le plus efficace de réparer l'erreur d'un chatbot social est le chatbot lui-même, car cela préserve la relation et exploite le lien social pour faciliter la mise à jour des croyances.