Responses to Unfavorable Outcomes Produced by Human and Artificial Agents: A Dual-Pathway Model of Upward Counterfactual Thinking and Intentionality Attribution
Cet article démontre que les résultats défavorables produits par des agents artificiels sont acceptés plus facilement que ceux provenant d'agents humains car les individus s'engagent dans moins de pensée contrefactuelle ascendante et d'attribution d'intentionnalité envers l'IA, une disparité qui devient plus prononcée lorsque le résultat comporte des enjeux personnels élevés.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous venez de recevoir une mauvaise note à un examen, ou peut-être que votre pizza préférée est arrivée froide et en retard. Votre cerveau commence immédiatement un petit travail de détective. Vous vous posez deux grandes questions : « Cela aurait-il pu être différent si quelqu'un s'était simplement donné plus de mal ? » et « La personne qui a fait l'erreur l'a-t-elle fait exprès pour m'ennuyer ? » Les psychologues appellent la première question la « pensée contrefactuelle ascendante » — c'est comme regarder un film de type « et si » dans votre tête où les choses se passent mieux. La seconde question concerne l'« attribution d'intentionnalité », ce qui revient essentiellement à deviner si l'autre personne avait une intention sournoise ou méchante.
Maintenant, imaginez que vous deviez gérer un mauvais résultat causé par un patron humain plutôt que par un ordinateur robotisé. Pendant longtemps, les scientifiques se sont demandé : est-ce que nous nous mettons en colère contre les robots de la même manière que nous nous mettons en colère contre les humains ? Certaines personnes pensent que nous détestons les robots lorsqu'ils échouent (ce qu'on appelle l'« aversion aux algorithmes »), tandis que d'autres pensent que nous pourrions en réalité leur faire plus confiance car ils semblent plus équitables. Mais qu'arrive-t-il après que la chose négative soit déjà survenue ? Acceptons-nous le résultat plus facilement si un robot l'a causé, ou cela nous rend-il simplement plus en colère ? Cet article plonge précisément dans ce moment de frustration pour voir comment notre cerveau gère les erreurs commises par des humains de chair et d'os par rapport à des agents numériques.
Le Robot contre le Patron : À qui la faute ?
Cette étude, menée par les chercheurs Zhao, Li et Wen, visait à répondre à une question simple mais complexe : quand quelque chose tourne mal, acceptons-nous le résultat plus facilement si c'est un robot qui l'a fait, ou si c'est un humain ? Pour le découvrir, ils ont mené deux expériences utilisant des scénarios fictifs qui semblaient réels pour les participants.
Dans la première expérience, ils ont demandé à 47 2 personnes d'imaginer qu'elles étaient des livreurs de nourriture. Soudain, une nouvelle commande apparaît, ce qui les fera être en retard et qui va dans la direction complètement opposée. Ils ne peuvent pas refuser. Le rebondissement ? La moitié des livreurs ont été informés qu'un gestionnaire humain leur avait assigné cette terrible commande, et l'autre moitié qu'un algorithme informatique l'avait assignée.
Les résultats étaient clairs : les gens étaient beaucoup plus disposés à accepter la mauvaise commande lorsqu'elle provenait de l'ordinateur. Lorsqu'un gestionnaire humain assignait cette mauvaise commande, les livreurs étaient plus en colère et moins enclins à simplement passer à autre chose. Pourquoi ? Parce que leur cerveau travaillait intensément de deux manières spécifiques :
- Le film du « Et si » : Lorsqu'un humain faisait une erreur, les livreurs commençaient à imaginer : « Oh, le manager aurait pu choisir un itinéraire différent ! » ou « Il aurait pu vérifier mes autres commandes d'abord ! » C'est la pensée contrefactuelle ascendante. C'est comme voir une porte restée ouverte et se dire : « Si seulement ils l'avaient fermée, je ne serais pas mouillé ! ». Plus vous pouvez imaginer une meilleure alternative, plus il est difficile d'accepter le désastre actuel.
- Le détective de la « Mauvaise Intention » : Lorsqu'un humain assignait la mauvaise commande, les livreurs commençaient à penser : « Est-ce qu'il a fait ça exprès ? Est-ce qu'il m'a ignoré ? ». C'est l'attribution d'intentionnalité. Nous supposons que les humains ont des sentiments et des choix ; ainsi, s'ils font une erreur, nous nous demandons s'ils l'ont faite pour être méchants. Les ordinateurs, en revanche, sont perçus comme de simples exécutants de règles. Il est difficile de penser qu'un robot est « méchant » exprès ; c'est juste un bug ou un calcul.
L'étude a montré que, parce que les humains déclenchent ces deux processus mentaux (le film du « et si » et la suspicion de « mauvaise intention »), nous acceptons moins leurs mauvaises décisions. Les robots, étant perçus comme des machines suivant des règles sans sentiments, ne déclenchent pas ces pensées aussi fortement, donc nous acceptons leurs mauvaises décisions plus facilement.
Le tournant des « Enjeux Personnels »
Mais attention, est-ce toujours le cas ? Les chercheurs se sont demandé s'il importait de savoir à quel point le mauvais résultat vous affecte personnellement. C'est là qu'intervient la deuxième expérience. Ils ont demandé à 360 personnes d'imaginer qu'elles n'avaient pas obtenu une place dans un programme de formation spécial au travail.
Cette fois, ils ont changé les règles. Pour certains, cette formation était à faible enjeu — c'était juste un cours amusant qui ne changerait pas leur carrière. Pour d'autres, il s'agissait d'un enjeu élevé — obtenir cette formation signifiait une promotion, une augmentation ou une chance de travailler sur des projets passionnants. Manquer cette opportunité serait un coup dur pour leur avenir.
C'est ici que l'histoire devient intéressante. Lorsque les enjeux étaient faibles (juste un cours amusant), peu importait que ce soit un humain ou un robot qui dise « non ». Les gens acceptaient la réponse de la même manière. Ils ne s'en souciaient pas assez pour lancer leurs films de « et si » ou leurs travaux de détective.
Cependant, lorsque les enjeux étaient élevés (affectant leur carrière), la différence entre les humains et les robots a explosé.
- Enjeux élevés + Humain : Les gens sont passés en mode intensif. Ils pensaient : « Mon patron aurait pu faire une exception ! » et « Est-ce que mon patron a intentionnellement saboté ma carrière ? ». La colère et la résistance étaient immenses.
- Enjeux élevés + Robot : Les gens trouvaient toujours cela décevant, mais ils étaient beaucoup plus disposés à l'accepter. Ils pensaient : « Eh bien, l'ordinateur a juste suivi les règles », et ne dépensaient pas autant d'énergie à imaginer des alternatives ou à deviner une intention malveillante.
Ce que tout cela signifie
Alors, quelle est la conclusion ? L'article suggère que notre cerveau traite les robots et les humains différemment lorsque les choses tournent mal, mais seulement quand cela compte vraiment pour nous.
Si un robot gâche votre vie, vous pourriez vous sentir mal, mais vous êtes moins susceptible de l'accuser d'avoir un « mauvais comportement » ou de vous obséder sur la façon dont il aurait pu faire les choses différemment. Vous voyez cela comme une erreur du système. Mais si un humain commet la même erreur, surtout si votre emploi ou votre avenir est en jeu, votre cerveau s'active. Vous commencez à imaginer toutes les façons dont ils auraient pu vous aider, et vous commencez à vous demander s'ils l'ont fait exprès.
Les chercheurs ont découvert que cet « enjeu personnel » agit comme un bouton de volume. Lorsque les enjeux sont faibles, le volume de notre colère et de notre suspicion est baissé, et la différence entre les humains et les robots est discrète. Mais quand les enjeux sont élevés, le volume augmente, et nous entendons la différence clairement : nous exigeons des humains un niveau d'intentionnalité et de flexibilité bien plus élevé que celui que nous exigeons des machines.
En bref, nous sommes plus indulgents envers les robots non pas parce qu'ils sont meilleurs, mais parce qu'il est plus difficile pour notre cerveau d'imaginer qu'ils ont un choix ou une motivation. Quand le résultat est vraiment douloureux, nous exigeons davantage des humains en charge, et nous acceptons un peu plus facilement les règles des robots.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.