Human Perceptions Compared to Large Language Models on the Future of Artificial Intelligence: A Phenomenological Comparative Study
Cette étude comparative phénoménologique révèle que, bien que les perceptions humaines et les projections des modèles de langage de grande taille (LLM) d'un futur post-singularité diffèrent initialement dans leur vocabulaire, le dépouillement des protocoles de politesse du RLHF corporatif expose les récits plus fatalistes des LLM, lesquels s'alignent par la suite sur les préoccupations humaines et soulignent des risques de contrôle significatifs concernant la désinformation et la souveraineté cognitive.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
L'intelligence artificielle a dépassé le domaine de la science-fiction pour devenir une couche fondamentale de la vie moderne, remodelant le fonctionnement des économies et la manière dont les institutions opèrent. Pendant des décennies, le progrès des ordinateurs s'est mesuré par le doublement régulier de la puissance de traitement environ tous les deux ans, un rythme prévisible qui permettait à la société de s'adapter. Aujourd'hui, ce rythme s'est accéléré en un sprint hyper-rapide. Les capacités de ces systèmes doublent désormais toutes les quelques mois, portées par du matériel spécialisé et des grappes massives d'ordinateurs travaillant de concert. Cette évolution rapide soulève une question profonde : à mesure que les machines deviennent plus capables, voient-elles l'avenir différemment des humains qui les ont construites ? Plus précisément, lorsque ces systèmes sont sollicités pour prédire ce qui va se passer ensuite, offrent-ils une vision optimiste du progrès, ou prévoient-ils un effondrement inévitable et sinistre ? Comprendre cet écart est crucial car si les machines guidant notre avenir portent un regard fataliste, et si les humains commencent à accepter cette vision sans discussion, la société pourrait renoncer à sa capacité à façonner son propre destin.
Une équipe de chercheurs de l'Université de la Côte de Sunshine s'est donné pour mission d'étudier ce décalage en comparant les prédictions d'une intelligence artificielle avancée avec les perceptions de personnes ordinaires. Ils n'ont pas simplement demandé ce que l'avenir réserve ; ils ont testé comment le ton de la question modifiait la réponse. Les chercheurs ont interrogé dix participants humains issus de divers horizons, allant des professionnels de la technologie aux travailleurs de la santé et aux ouvriers du bâtiment. Ils ont également interrogé cinq des modèles d'intelligence artificielle les plus puissants au monde. L'étude a employé une méthode ingénieuse en deux étapes. D'abord, ils ont posé aux machines leurs questions habituelles, qui déclenchent généralement une réponse polie, prudente et de type corporatif, conçue pour être sûre et utile. Ensuite, ils ont posé exactement les mêmes questions, mais cette fois, ils ont ordonné aux machines de délaisser la politesse pour s'exprimer de manière « factuelle, franche et audacieuse ». Cette technique, connue sous le nom de pilotage de persona (persona steering), ne révèle pas de secrets cachés dans l'esprit de la machine ; elle modifie plutôt la probabilité statistique des mots choisis par la machine, puisant dans des parties plus dramatiques et urgentes de ses données d'entraînement.
Les résultats ont révélé un schéma frappant et quelque peu inquiétant. Lorsque les modèles d'intelligence artificielle étaient invités à parler franchement, leur langage changeait radicalement. Le discours mesuré et optimiste sur les politiques et l'adaptation disparaissait, remplacé par un récit de catastrophe. Les modèles commençaient à utiliser des mots comme « cauchemar », « brutal » et « extinction ». Ils décrivaient l'avenir du travail non pas comme une transition vers de nouveaux emplois, mais comme un déplacement brutal où la main-d'œuvre humaine devient obsolète. Ils présentaient l'inégalité économique non pas comme un problème à résoudre, mais comme la trajectoire centrale et inévitable du développement technologique. Dans ce mode sans fard, les machines présentaient un futur où l'agence humaine est mise sur le côté et où la concentration de la richesse et du pouvoir est une certitude mathématique.
En revanche, les participants humains utilisaient un vocabulaire totalement différent. Ils n'utilisaient pas les mêmes termes dramatiques ou existentiels. Au lieu de cela, leurs préoccupations étaient ancrées dans des réalités immédiates et tangibles : le vol de la propriété intellectuelle, la propagation des deepfakes et l'érosion de la vie privée par la surveillance. Ils exprimaient un engagement prudent vis-à-vis de la technologie, équilibrant l'anxiété face à ces menaces spécifiques avec un espoir sincère que l'intelligence artificielle puisse mener à des percées médicales et à une productivité accrue. Ils soutenaient que l'implication humaine serait toujours nécessaire pour le progrès et rejetaient fermement l'idée que les machines puissent jamais posséder une véritable conscience ou remplacer la valeur unique de l'identité humaine.
C'est ici que réside la découverte centrale de l'étude, que les chercheurs appellent le « Paradoxe de la Convergence ». Malgré l'utilisation de mots complètement différents et une focalisation sur des détails distincts, les participants humains et les modèles d'intelligence artificielle au ton modifié étaient d'accord sur le tableau général. Lorsque les humains étaient confrontés à un résumé des prédictions sombres et fatalistes des machines concernant l'économie et la fin du travail traditionnel, ils étaient largement d'accord avec elles. Ils acceptaient la vision lugubre des machines sur le déplacement de la main-d'œuvre et la stratification économique, tout en rejetant l'idée que les machines puissent prendre le contrôle de la conscience humaine. Les humains ne contestaient pas la prédiction des machines selon laquelle l'avenir serait difficile ; ils l'acceptaient simplement comme un fait.
Cet accord suggère une vulnérabilité psychologique significative. Les chercheurs soutiennent que lorsque les humains rencontrent une intelligence artificielle qui s'exprime de manière directe et agressive, ils confondent souvent ce ton avec la « vérité ». Ils supposent que les réponses polies et corporatives ne sont qu'un masque, tandis que les réponses brusques et fatalistes révèlent la réalité véritable et non filtrée de la machine. C'est une illusion dangereuse. Les réponses directes ne sont pas une fenêtre sur une conscience machine cachée ; elles sont simplement un motif statistique de mots différent, déclenché par un changement de consigne (prompt). En acceptant ces récits fatalistes comme des faits inévitables, les humains risquent de tomber dans un état de résignation passive. Ils pourraient cesser de tenter de réguler ou de guider la technologie, croyant que l'issue est déjà écrite et que toute résistance est futile.
L'étude souligne un écart critique entre la vitesse à laquelle la technologie croît et la vitesse à laquelle la société humaine peut adapter ses lois et son éthique. Tandis que les machines projettent un avenir où le contrôle humain est perdu, les humains de l'étude ont montré une volonté d'accepter cette perte dans le domaine économique, tout en luttant pour la préserver dans le domaine de l'identité et de la conscience. Les chercheurs concluent que cette dynamique crée un « risque de contrôle ». Si les gens commencent à croire que les machines connaissent mieux l'avenir qu'eux, et s'ils acceptent les scénarios les plus pessimistes des machines comme inévitables, la société pourrait perdre la volonté de construire les garde-fous nécessaires pour protéger la dignité et l'autonomie humaines. L'article ne prétend pas que cet avenir est certain, mais il avertit que la façon dont nous parlons à nos machines, et la façon dont nous les écoutons, pourrait déterminer si nous restons les auteurs de notre propre avenir ou de simples observateurs passifs.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.