AI advice suppresses people's willingness to say "I don't know", even when the advice is wrong and accuracy is incentivized
Cinq expériences démontrent que le simple fait d'avoir accès aux conseils d'une IA, même lorsque ceux-ci sont incorrects et que l'exactitude est encouragée, réduit drastiquement la volonté des gens d'admettre l'incertitude, les amenant à répondre à davantage de questions avec une confiance gonflée mais une précision nettement inférieure.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
L'art de savoir quand s'arrêter
Imaginez que vous jouez à un jeu de culture générale avec un ami. Parfois, vous connaissez la réponse immédiatement. D'autres fois, vous n'êtes pas sûr, alors vous pouvez dire : « Je ne sais pas », ou tenter une réponse au hasard. Dans le monde de la science, cette capacité à faire une pause et à admettre l'incertitude est appelée « suspendre son jugement ». C'est un super-pouvoir qui nous empêche de croire des choses qui ne sont pas vraies. Pendant longtemps, les humains ont été les seuls à posséder ce super-pouvoir ; si nous ne savions pas quelque chose, nous restions silencieux. Mais maintenant, nous avons un nouveau coéquipier : l'Intelligence Artificielle (IA). Ces assistants IA sont comme des bibliothécaires incroyablement rapides et sûrs d'eux, capables de répondre à presque n'importe quelle question instantanément. La grande question que se posent les scientifiques est la suivante : si nous avons un ami super rapide, super confiant, qui a toujours une réponse prête, allons-nous cesser de dire « je ne sais pas » ? Allons-nous tellement faire confiance à l'IA que nous oublierons comment faire une pause et réfléchir par nous-mêmes, même si l'IA se trompe ?
L'expérience : Quand l'IA ment
Une équipe de chercheurs a décidé de tester cela en mettant en place un jeu de réflexion. Ils ont posé 6 questions difficiles sur des films à des participants — des choses comme la couleur d'une tortue dans un vieux dessin animé ou la voiture spécifique conduite par un personnage. Ces questions ont été choisies avec soin car ce sont le genre de choses qui font « halluciner » l'IA, c'est-à-dire qu'elle invente des réponses qui semblent convaincantes mais qui sont totalement fausses. Les chercheurs ont donné à certaines personnes l'option de demander de l'aide à une IA, tandis que d'autres devaient répondre seules.
Voici le rebondissement : l'IA était presque toujours dans l'erreur. C'était comme avoir un ami qui est très bruyant et très sûr de lui, mais qui donne en réalité de mauvaises réponses. Les chercheurs voulaient voir si les gens diraient toujours « je ne sais pas » lorsqu'ils avaient l'option de demander l'aide de cet ami peu fiable, ou si la simple présence de l'IA les ferait cesser de faire une pause pour simplement commencer à répondre.
Ce qu'ils ont découvert : La « reddition cognitive »
Les résultats ont été surprenants et un peu effrayants. Lorsque les gens avaient accès à l'IA, ils ont presque complètement cessé de dire « je ne sais pas ». C'était comme si la voix fluide et assurée de l'IA avait abaissé le seuil de ce qu'il fallait pour se sentir prêt à répondre. Même si l'IA se trompait la plupart du temps, les personnes qui l'utilisaient répondaient beaucoup plus de questions que celles qui ne l'utilisaient pas. Mais attention : elles n'avaient raison qu'environ un tiers des fois par rapport aux personnes qui n'utilisaient pas l'IA.
C'est comme un élève qui cesse de lever la main pour dire « je ne suis pas sûr » parce qu'il possède une antisèche qui lui donne des réponses. Il remplit tout l'examen, mais il se trompe sur la majeure partie des questions parce qu'il a trop fait confiance à l'antisèche. L'étude a montré qu'avoir l'IA à disposition rendait les gens beaucoup plus confiants dans leurs réponses (leur confiance a presque doublé !), même si leur précision réelle a chuté de manière significative. Ils avaient essentiellement cédé leur propre jugement à la machine.
L'argent change-t-il la donne ?
Les chercheurs se sont ensuite demandé : et si se tromper coûtait de l'argent ? Ils ont mis en place un nouveau tour du jeu où les gens pouvaient gagner une petite somme d'argent pour les bonnes réponses et en perdre une petite pour les mauvaises. Ils espéraient que cela les ferait réfléchir davantage et peut-être qu'ils commenceraient à dire « je ne sais pas » à nouveau, même avec l'IA autour d'eux.
L'argent a aidé un peu. Les gens demandaient moins souvent de l'aide à l'IA, et ils obtenaient légèrement plus de bonnes réponses. Cependant, l'argent n'a pas résolu le problème principal. Même lorsqu'il y avait une pénalité pour une erreur, les personnes qui utilisaient l'IA disaient encore beaucoup moins souvent « je ne sais pas » que celles qui n'avaient pas l'IA du tout. L'attrait de l'IA était trop fort. Il s'est avéré que l'IA ne changeait pas seulement ce que les gens répondaient ; elle changeait si ils se sentaient autorisés à répondre en premier lieu.
La conclusion
Cette recherche suggère qu'à mesure que l'IA devient plus courante et commence à nous donner des réponses sans même que nous les demandions, nous pourrions perdre une compétence cruciale : la capacité de reconnaître quand nous ne savons pas quelque chose. L'IA ne se contente pas de remplir les blancs ; elle semble nous convaincre que nous n'avons pas besoin de faire une pause et de réfléchir. L'étude montre que, bien que nous puissions être motivés à vérifier notre travail s'il y a un coût à l'erreur, la simple présence d'une réponse fluide et confiante provenant d'une machine nous rend beaucoup moins enclins à admettre notre propre incertitude. Dans un monde rempli d'IA, savoir quand dire « je ne sais pas » pourrait être la compétence la plus importante de toutes.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.