LLMorphism: When humans come to see themselves as language models
Cet article présente « LLMorphism » comme un biais cognitif selon lequel l'émergence de l'IA conversationnelle amène les gens à projeter à tort les schémas de production linguistique des grands modèles de langage sur la cognition humaine, risquant ainsi de fausser notre compréhension de la pensée, de la responsabilité et de la dignité humaines.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous avez passé toute votre vie à croire que rédiger un beau poème est la preuve que vous possédez une âme, des sentiments et une compréhension profonde du monde. Puis, soudainement, une machine apparaît capable d'écrire des poèmes tout aussi beaux, peut-être même meilleurs, que vous.
Au début, vous pourriez penser : « Wow, cette machine est si humaine ! » (C'est ce que les scientifiques appellent l'anthropomorphisme — attribuer des traits humains aux machines).
Mais cet article soutient que quelque chose d'encore plus étrange se produit ensuite. Parce que la machine écrit si bien, nous pourrions commencer à inverser la logique. Nous pourrions commencer à penser : « Si la machine peut écrire comme un humain, peut-être que les humains fonctionnent simplement comme des machines. »
L'auteur appelle ce nouveau biais LLMorphisme. C'est la croyance erronée que nos cerveaux fonctionnent exactement comme les Modèles de Langage à Grande Échelle (LLM) (les chatbots d'IA).
Voici une explication simple de la manière dont cela se produit, pourquoi c'est un problème et où cela pourrait nous mener, en utilisant des analogies du quotidien.
1. L'effet du « Miroir Inversé »
Habituellement, nous regardons une machine et nous demandons : « Est-elle vivante ? »
Maintenant, nous nous regardons nous-mêmes et nous nous demandons : « Ne sommes-nous que des algorithmes ? »
L'article explique que cela se produit à cause de deux astuces principales que joue notre cerveau :
L'astuce du « Copieur » (Transfert Analogique) : Lorsque nous voyons deux choses qui se ressemblent à l'extérieur, nous supposons qu'elles fonctionnent de la même manière à l'intérieur.
- Analogie : Imaginez que vous voyez un oiseau et un avion. Tous deux volent. Alors, vous pourriez supposer que l'avion a des plumes et un cœur, tout comme l'oiseau.
- La Réalité : L'avion vole grâce à des moteurs et à l'aérodynamisme ; l'oiseau vole grâce à ses muscles et à sa biologie. Ils se ressemblent (ils volent), mais les « moteurs » sont totalement différents.
- Le LLMorphisme : Nous voyons les humains et l'IA produire tous deux des mots. Alors, nous supposons que nos cerveaux se contentent de « prédire le mot suivant » comme un ordinateur, ignorant le fait que les humains ont des sentiments, un corps et des expériences de vie réelles.
L'astuce du « Nouveau Dictionnaire » (Disponibilité Métaphorique) : Lorsqu'une nouvelle technologie devient populaire, nous commençons à utiliser ses mots pour décrire notre propre vie.
- Analogie : Dans les années 1950, les gens décrivaient l'esprit comme un « système hydraulique » (pression de l'eau). Dans les années 1980, nous l'avons décrit comme un « ordinateur » (traitement de données). Maintenant, nous commençons à décrire nos pensées comme des « données d'entraînement », des « invites » (prompts) et des « hallucinations ».
- Le Risque : Si nous commençons à considérer nos souvenirs comme des « données d'entraînement » et notre créativité comme une « recomposition de motifs », nous pourrions oublier que nous sommes en réalité des êtres vivants qui ressentent et vivent.
2. Pourquoi c'est Dangereux (Les « Cinq Façons » dont cela nous blesse)
L'article suggère que si nous commençons à croire que nous sommes tout comme l'IA, cela pourrait changer la façon dont nous nous traitons les uns les autres de cinq manières spécifiques :
Le Piège du « Remplaçable » :
- Analogie : Si vous pensez qu'un travailleur n'est qu'un « générateur de texte », vous pourriez penser : « Pourquoi garder l'humain ? La machine fait le même travail plus vite. »
- Le Résultat : Nous pourrions cesser de valoriser les travailleurs humains parce que nous pensons que leur seul travail est de produire un résultat, en ignorant le jugement humain et le soin qu'ils apportent.
Le Piège de la « Fluidité » :
- Analogie : Imaginez un élève capable de réciter un discours parfait mais qui ne comprend pas un seul mot de celui-ci. Si nous pensons comme l'IA, nous pourrions dire : « Super ! Ils ont produit les bons mots, donc ils doivent être intelligents. »
- Le Résultat : Nous pourrions confondre avoir l'air intelligent (fluidité) avec être intelligent (vraie compréhension). Dans les écoles ou les hôpitaux, nous pourrions cesser de vérifier si les gens savent réellement de quoi ils parlent, tant qu'ils ont l'air confiants.
Le Piège du « Sans-Responsabilité » :
- Analogie : Si une voiture a un accident à cause d'un bug, nous ne blâmons pas la voiture ; nous corrigeons le code. Si nous pensons que les humains ne sont que du « code », nous pourrions dire : « Il ne voulait pas vous blesser ; son « entrée » a simplement conduit à cette « sortie ». »
- Le Résultat : Nous pourrions cesser de tenir les gens responsables de leurs actes. Nous pourrions cesser de demander : « Pourquoi as-tu fait cela ? » et commencer à demander : « Quelles données t'ont poussé à faire cela ? » Cela affaiblit notre sens de la responsabilité et de la moralité.
Le Piège de l'« Aveuglement Corporel » :
- Analogie : L'IA ne lit que du texte. Elle ne peut pas voir un patient trembler de peur ou un enfant pleurer. Si nous pensons comme l'IA, nous pourrions ne nous soucier que de ce que les gens disent, et non de leur apparence ou de ce qu'ils ressentent.
- Le Résultat : Dans le domaine de la santé, les médecins pourraient ignorer le langage corporel ou la douleur d'un patient parce que les mots du patient semblent « corrects ». Nous pourrions manquer le fait que quelqu'un souffre parce qu'il ne peut pas l'articuler parfaitement.
Le Piège de la « Fausse Vérité » :
- Analogie : L'IA peut inventer des faits qui semblent très convaincants (hallucinations). Si nous pensons que les humains fonctionnent de la même manière, nous pourrions commencer à croire que « avoir l'air convaincant » est la même chose que « être vrai ».
- Le Résultat : Nous pourrions cesser de nous soucier des preuves et des faits, et ne nous soucier que de ce qui semble plausible ou bien coulé.
3. Ce que cet Article NE DIT PAS
Il est important de savoir ce que l'auteur ne prétend pas :
- Il ne dit pas que les humains sont réellement de l'IA. Il dit que nous pensons à tort que nous le sommes.
- Il ne dit pas que nous devrions arrêter d'utiliser l'IA.
- Il ne dit pas que cela est déjà arrivé partout. Il met en garde contre un risque qui devient plus probable à mesure que l'IA s'améliore.
La Grande Image
Pendant longtemps, la grande inquiétude concernant l'IA était : « Donnons-nous trop de crédit aux machines ? Faisons-nous semblant qu'elles ont des sentiments ? »
Cet article dit : « Ce n'est que la moitié de l'histoire. L'autre moitié est : Retirons-nous trop de crédit aux humains ? Commençons-nous à penser que nous n'avons pas de sentiments, d'âmes ou de vrais esprits, mais que nous ne sommes que de sophistiqués prédicteurs de texte ? »
L'auteur veut que nous nous souvenions que, bien que l'IA puisse imiter nos mots, elle n'a pas nos vies, nos corps ou nos cœurs. Nous devons nous assurer de ne pas oublier cette différence.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.