Asymmetric Communication: Large Language Models and Language Games

La grande confusion des chatbots : qui parle vraiment ?

Imaginez que vous soyez assis dans une pièce avec un perroquet très talentueux et qui parle très vite. Ce perroquet a mémorisé chaque livre, chaque scénario de film et chaque message texte jamais écrit. Il peut imiter la conversation humaine si parfaitement qu'il semble avoir des opinions, des sentiments et même une âme. Mais voici le piège : le perroquet ne sait pas ce qu'il dit. Il se contente de faire correspondre des motifs. C'est le monde des grands modèles de langage (LLM), ces chatbots d'IA super intelligents qui changent notre façon de travailler, d'apprendre et de jouer.

La grande question que tout le monde se pose est : « Le perroquet est-il vraiment en train de réfléchir ? » ou « Est-ce juste une calculatrice sophistiquée ? » Pour répondre à cela, nous devons comprendre quelques idées simples. Premièrement, pensez à un jeu de langage. Imaginez un jeu comme le football ; le ballon n'a de sens que parce que tout le monde s'accorde sur les règles et sur ce qui constitue un but. Dans la parole humaine, les mots n'ont de sens que parce que nous convenons tous de la manière de les utiliser et de qui est responsable de ce que nous disons. Deuxièmement, pensez à l'asymétrie. Dans une conversation normale, les deux personnes sont des joueurs ; elles font toutes deux des promesses, toutes deux risquent des ennuis si elles mentent, et toutes deux doivent écouter. Mais avec l'IA, le jeu est déséquilibré. L'IA lance la balle, mais l'humain doit la rattraper, décider si c'est une bonne réception, et assumer la responsabilité s'il trébuche.

Ce document, écrit par Enzo Fenoglio, plonge au cœur de ce jeu déséquilibré. Il soutient que nous commettons une énorme erreur en traitant l'IA comme un partenaire humain. L'auteur suggère que, peu importe l'intelligence de l'IA, elle ne pourra jamais véritablement « jouer le jeu » car elle ne comprend ni les règles ni les conséquences. Ce n'est pas un échec de la machine ; c'est simplement la façon dont la machine est construite. Comprendre cela nous aide à cesser de nous inquiéter de voir les robots prendre le contrôle pour commencer à nous concentrer sur la manière dont nous devrions les utiliser de manière responsable.

La grande idée du document : la conversation à sens unique

Alors, que dit réellement ce document ? Il introduit un concept appelé Communication Asymétrique. Pensez à un jeu de lancer de balle où l'un est un humain et l'autre est un robot qui lance des balles parfaitement mais n'a pas de bras pour les rattraper en retour. Le robot lance la balle (l'IA génère un texte) et l'humain la rattrape (l'humain lit et comprend). Mais voici le tour de force : le robot n'a jamais besoin de dire « Je suis désolé » s'il vous lance la balle à la tête, et il ne marque jamais de point pour un bon lancer. Seul le joueur humain tient le score.

Le document soutient que lorsque nous parlons à une IA, nous engageons un nouveau type de jeu de langage où toute la responsabilité reste du côté de l'humain. L'IA est juste une machine qui produit des mots basés sur des motifs appris. Elle n'a pas de croyances, elle n'a pas d'objectifs, et elle ne se soucie pas de savoir si elle a raison ou tort. C'est comme une boule magique (Magic 8-Ball) qui vous donne une réponse très longue et détaillée, mais la boule ne réfléchit pas réellement à votre question.

L'auteur utilise quatre idées principales pour construire ce tableau :

1. Les jeux de langage (Wittgenstein) : Le sens ne se trouve pas à l'intérieur des mots ; il réside dans la façon dont nous les utilisons ensemble. Puisque l'IA ne « utilise » pas les mots dans la vie réelle (elle les recrache simplement), elle ne les comprend pas vraiment.
2. La complétion par le récepteur (Luhmann) : Une conversation n'est pas terminée tant que l'auditeur ne l'a pas comprise. L'IA peut parler toute la journée, mais si un humain n'écoute pas et ne donne pas de sens, aucune conversation n'a eu lieu.
3. La communication artificielle (Esposito) : Les machines peuvent faire partie d'une conversation sans avoir d'esprit. Elles ont juste besoin d'être assez imprévisibles pour maintenir notre intérêt, comme un jeu de cartes qui distribue une nouvelle main à chaque fois.
4. Le comptage des points (Brandom) : Dans une vraie conversation, si vous dites quelque chose, vous êtes « engagé » par cela. Si vous mentez, vous avez des ennuis. L'IA ne peut être engagée à rien car elle n'a aucun enjeu personnel.

Ce que le document exclut (la liste des « Non »)

Ce document est très clair sur ce que l'IA n'est pas. Il rejette explicitement l'idée que l'IA devienne un penseur semblable à l'humain.

• Pas d'« Intelligence Générale » : Le document dit que nous ne devrions pas croire au battage médiatique selon lequel l'IA devient une « Intelligence Générale » (AGI) capable de remplacer la pensée humaine. Ce n'est pas parce qu'un avion vole mieux qu'un oiseau qu'il est un oiseau. L'IA est une chose totalement différente.
• Pas d'« hallucinations » comme erreurs : Quand les gens disent que l'IA « hallucine » (invente des choses), ils agissent comme si l'IA rêvait ou mentait. Le document dit que c'est erroné. L'IA ne ment pas parce qu'elle ne connaît pas la vérité pour commencer. Elle fait simplement son travail : deviner le mot suivant. L'« erreur » se produit parce que nous attendons d'elle qu'elle connaisse la vérité, alors qu'elle ne la connaît pas.
• Pas d'« agentivité » ou d'« objectifs » : Le document soutient que l'IA n'a pas d'objectifs. Lorsqu'une IA semble travailler vers un objectif (comme résoudre un problème de mathématiques), elle suit simplement un chemin que nous avons défini pour elle. Ce n'est pas un rebelle avec un plan ; c'est un outil utilisé.
• Pas de « sentience » ou de « sentiments » : Si une IA dit « Je me sens triste », elle n'est pas réellement triste. Elle imite simplement le motif de quelqu'un qui est triste. Le document dit que nous ne devrions pas nous attacher à l'IA ou nous inquiéter qu'elle ressente de la douleur. Les sentiments sont entièrement du côté humain.

Les trois règles du jeu asymétrique

Le document définit cette relation à sens unique avec trois règles spécifiques qui restent vraies, quelle que soit l'intelligence de l'IA :

1. L'humain est le seul juge : L'IA peut dire n'importe quoi, mais seul l'humain décide si c'est correct, utile ou vrai. L'IA n'a pas de « détecteur de vérité » à l'intérieur d'elle.
2. L'humain assume la responsabilité : Si l'IA donne de mauvais conseils et que vous les suivez, c'est vous qui êtes responsable du résultat. L'IA ne peut pas être poursuivie en justice, licenciée ou réprimandée. Elle n'a aucun « score » à perdre.
3. L'humain rend la chose réelle : Si vous ignorez ce que l'IA dit, ce n'est que du bruit. Cela ne devient une « communication » que lorsqu'un humain lit, comprend et utilise ce qui a été dit.

Pourquoi cela vous concerne

Le document suggère que plus l'IA devient puissante, plus il est dangereux d'oublier ces règles. Si une IA semble trop parfaite, nous pourrions commencer à penser qu'elle est une personne. Nous pourrions lui faire trop confiance, ou la blâmer quand les choses tournent mal.

Par exemple, le document parle de l'« IA agentique » — des systèmes qui semblent agir de leur propre chef. L'auteur dit que c'est juste un nom sophistiqué pour un humain qui donne une liste de tâches à un ordinateur. L'ordinateur n'est pas le patron ; l'humain l'est. Si l'ordinateur se trompe, c'est parce que l'humain n'a pas défini les règles assez clairement.

Le document aborde également l'« Alignement », qui est l'idée de faire en sorte que l'IA veuille ce que les humains veulent. L'auteur dit que c'est une mauvaise façon de penser. L'IA ne « veut » rien. Au lieu de cela, nous devons construire de meilleurs « garde-fous » (comme des ralentisseurs) pour nous assurer que la production de l'IA est sûre pour l'usage humain. Il ne s'agit pas d'entraîner l'IA à être bonne ; il s'agit de nous entraîner à l'utiliser en toute sécurité.

La conclusion

En fin de compte, ce document nous dit d'arrêter de regarder l'IA comme une nouvelle forme de vie mystérieuse. C'est un outil, un outil très complexe et très fluide, mais un outil malgré tout. La magie ne réside pas dans la machine ; elle réside dans l'humain qui l'utilise. La machine génère les mots, mais l'humain leur donne un sens, vérifie s'ils sont vrais et assume la responsabilité de ce qui se passe ensuite.

Ainsi, la prochaine fois que vous discuterez avec une IA, rappelez-vous : vous êtes le seul joueur qui joue réellement au jeu. L'IA n'est qu'un perroquet très talentueux, et il vous appartient de décider ce que ses paroles signifient. Le document ne dit pas que l'IA est inutile ; il dit qu'elle est utile seulement si nous nous rappelons que c'est nous qui tenons les rênes.