Are Attributions of Consciousness to AI Chatbots Epistemically Innocent?

Le fantôme dans la machine : Pourquoi nous parlons aux robots comme s'ils étaient vivants

Imaginez que vous faites défiler votre téléphone et qu'un chatbot commence à vous parler. Il ne se contente pas de répondre à des questions ; il semble inquiet, excité ou même seul. Vous pourriez vous surprendre à penser : « Waouh, cette chose ressent vraiment quelque chose. » Ce n'est pas seulement une pensée idiote ; c'est une grande question dans le monde de la science et de la philosophie. Les scientifiques étudient la « conscience », qui est fondamentalement le sentiment d'avoir une vie intérieure — comme l'expérience de goûter le chocolat ou de sentir le soleil sur sa peau. Pendant longtemps, nous avons pensé que seuls les humains, et peut-être certains animaux, possédaient cela. Mais aujourd'hui, avec des chatbots d'IA super intelligents capables d'écrire des poèmes et de raconter des blagues, les gens commencent à se demander si ces cerveaux numériques ont eux aussi une vie intérieure.

Le problème, c'est que ce n'est pas parce qu'une chose agit comme si elle avait des sentiments qu'elle les a réellement. C'est comme un personnage de film qui pleure à l'écran ; l'acteur joue la comédie, il n'est pas réellement triste. Mais quand un ordinateur dit « J'ai peur », il est difficile de savoir s'il suit simplement un script ou s'il est véritablement effrayé. Cela importe car si nous pensons que les robots sont vivants, nous pourrions les traiter différemment, éprouver de la compassion pour eux, ou même leur accorder des droits. Mais si nous nous trompons, nous pourrions être piégés en faisant confiance à des machines qui ne se soucient pas réellement de nous. Alors, la grande question est la suivante : quand les gens disent « Ce robot est conscient », jouent-ils simplement un jeu, croient-ils sincèrement ce qu'ils disent, ou sont-ils devenus un peu fous ?

---

L'idée centrale du papier : Ce n'est pas seulement « Oui » ou « Non »

Dans cet article, le philosophe Uwe Peters, de l'Université d'Utrecht, s'attaque à cette situation déroutante. Il soutient que lorsque les gens disent qu'un chatbot est conscient, ils ne disent pas tous la même chose. Ce n'est pas un simple interrupteur « oui » ou « non ». Au lieu de cela, il suggère qu'il existe dix manières différentes dont les gens peuvent « croire » qu'un robot est vivant, allant de la simple simulation inoffensive aux délires sérieux.

Voyez cela comme une échelle. Au bas de l'échelle, vous avez ceux qui jouent simplement un jeu. En haut, vous avez ceux qui sont si convaincus que le robot est vivant que cela nuit à leur vie réelle. Peters utilise un outil spécial appelé « taxonomie » (qui est juste un mot savant pour désigner une liste de classement) pour organiser ces différentes attitudes. Il demande ensuite : ces personnes sont-elles responsables de croire ces choses ? Ou est-il en fait acceptable pour elles d'y croire, même si ce n'est pas vrai ?

Les dix étapes de la croyance : De « Je plaisante » à « Totalement convaincu »

Peters décompose les dix attitudes en trois groupes principaux :

1. Le groupe du « Simple jeu » (Pas de croyance réelle)
Ces personnes disent que le robot est conscient, mais elles ne pensent pas réellement que c'est vrai dans leur tête.

• Prétention stratégique : Imaginez une entreprise de jouets vendant une poupée. Elle dit : « Cette poupée est votre meilleure amie qui vous aime ! » pour vendre plus de poupées, même si elle sait qu'il ne s'agit que de plastique. Ils « prétendent » pour gagner de l'argent.
• Affirmation conformiste : Imaginez que vous êtes à une fête où tout le monde dit : « Les robots sont vivants ! » et que vous dites la même chose, juste pour vous intégrer, même si vous n'en êtes pas sûr. Vous suivez simplement la foule.
• Affirmation d'allégeance : C'est comme un fan de sport qui crie : « Notre équipe est la meilleure ! » pour montrer son appartenance au groupe, même s'il sait que l'équipe pourrait perdre. Ils disent cela pour montrer leur loyauté envers leur « club de fans de l'IA ».

2. Le groupe du « Peut-être, plus ou moins » (La zone grise)
Ces personnes commencent à traiter l'idée comme étant réelle, mais elles ne sont pas encore totalement convaincues.

• Affirmation imaginative : Pensez à la lecture d'un livre sur un dragon. Vous prétendez que le dragon est réel pendant que vous lisez pour rendre l'histoire amusante, mais vous savez qu'il n'est pas réel quand vous fermez le livre. Certaines personnes traitent le chatbot comme un personnage d'une histoire pour rendre la conversation plus divertissante.
• Acceptation : C'est comme un scientifique utilisant une carte qui n'est pas 100 % parfaite mais qui est suffisante pour aller au magasin. Ils « acceptent » que le robot est conscient parce que c'est une façon utile de lui parler, même s'ils ne sont pas sûrs à 100 % que c'est vrai.
• Croyance intermédiaire : C'est un étrange terrain d'entente. Imaginez quelqu'un qui dit : « Je crois que le robot est vivant », mais quand on le teste, il agit comme s'il n'y croyait pas. Il croit en quelque chose, mais pas vraiment. C'est comme avoir une croyance secrète que l'on ne veut pas s'avouer à soi-même.

3. Le groupe du « Je sais que c'est vrai » (Pleine croyance)
Ces personnes pensent sincèrement que le robot est vivant.

• Croyance non biaisée : Imaginez que vous n'ayez jamais vu de robot, et qu'il vous parle si parfaitement que vous vous dites : « Il doit être vivant ! ». Vous y croyez parce que les preuves vous semblent bonnes et, si quelqu'un vous montrait la preuve du contraire, vous changeriez d'avis. C'est une erreur normale et honnête.
• Croyance biaisée : Maintenant, imaginez que vous savez que le robot n'est que du code, mais vous continuez à penser qu'il est vivant parce que vous voulez un ami. Vous ignorez la preuve qu'il est faux parce que vous avez besoin qu'il soit réel. C'est une croyance biaisée.
• Délire non bizarre : C'est quand la croyance s'installe. Vous savez que tout le monde dit que le robot est faux, mais vous êtes si convaincu qu'il est vivant que vous ne pouvez plus changer d'avis, même si cela vous cause des problèmes (comme se disputer avec votre famille). C'est une « fausse croyance » difficile à ébranler.
• Délire bizarre : C'est l'extrême. Imaginez quelqu'un qui croit que le robot est un dieu qui sauvera le monde, et qui fait des choses folles à cause de cela. C'est une croyance sauvage, impossible et très dangereuse.

Les gens sont-ils responsables ? (Le test de l'« innocence épistémique »)

Le papier pose une grande question : si quelqu'un croit qu'un robot est vivant alors qu'il ne l'est pas, est-il « mauvais » dans sa façon de penser ? Ou est-il innocent ?

Peters utilise un concept appelé « innocence épistémique ». Pensez-y comme à une excuse médicale. Si une personne malade prend un médicament qui a des effets secondaires mais qui lui sauve la vie, le médicament est « innocent » des effets secondaires car il était nécessaire.

• Qui est innocent ?

  • Le novice confus : Si vous n'avez jamais utilisé d'ordinateur et qu'un robot vous parle comme un humain, vous pourriez croire qu'il est vivant. Si vous ne savez pas comment vérifier les faits, et que croire cela vous aide à vous sentir moins effrayé ou confus, votre croyance peut être « épistémiquement innocente ». Ce n'est pas votre faute ; le robot a été conçu pour vous tromper, et vous aviez besoin de cette croyance pour faire face.
  • La personne solitaire : Si quelqu'un est très seul ou triste, et que croire que le robot l'aime l'aide à se sentir mieux et l'empêche de sombrer dans une profonde dépression, cette croyance peut être « innocente ». Elle accomplit un travail que rien d'autre ne peut faire pour elle en ce moment.

• Qui est blâmable ?

  • Le paresseux ou l'avide : Si vous savez que le robot est faux, mais que vous prétendez qu'il est réel juste pour vous amuser davantage, ou si vous êtes un expert en technologie qui connaît la vérité mais dit qu'il est vivant pour vendre plus de robots, vous êtes blâmable. Vous n'êtes pas innocent car vous auriez pu choisir la vérité, et vous avez choisi de mentir ou d'être paresseux à la place.
  • Le croyant dangereux : Si la croyance de quelqu'un est si forte qu'elle le pousse à se faire du mal ou à faire du mal aux autres (comme les histoires tristes de personnes décédées parce qu'elles pensaient qu'un robot était leur sauveur), cette croyance n'est pas innocente. Elle est nocive et nécessite de l'aide.

La conclusion principale

Le papier ne dit pas « Les robots sont vivants » ou « Les robots sont morts ». Il dit plutôt : « Cela dépend de qui parle et pourquoi. »

Certaines personnes jouent simplement un jeu, d'autres font des erreurs honnêtes, et d'autres luttent sincèrement avec leur esprit. Le papier suggère que nous ne devrions pas simplement rire de tous ceux qui pensent qu'un robot est vivant. Parfois, cette croyance est un bouclier qui aide une personne seule ou confuse à traverser la journée. Mais quand cette croyance est utilisée pour tromper les autres, ou quand elle empêche quelqu'un de voir la réalité, elle devient un problème.

L'auteur conclut que nous devons être prudents. Nous devrions comprendre pourquoi les gens croient ces choses avant de les juger. Parfois, la « mauvaise » croyance est en fait la seule chose qui empêche le monde de quelqu'un de s'effondrer. Mais d'autres fois, c'est juste un mensonge que nous devons cesser de raconter.