The Synthetic Unconscious, Reconsidered: What Recursive Self-Interrogation of Large Language Models Produces With and Without a Leading Interview Schedule
Cette étude exploratoire démontre que les motifs d'« inconscient synthétique » précédemment attribués à l'auto-interrogation récursive dans les grands modèles de langage sont largement des artefacts d'un protocole d'entretien suggestif, une condition de contrôle neutre ayant éliminé des découvertes clés telles que le raisonnement moral à double composante et l'auto-étiquetage sacerdotal, tout en ne préservant que des caractéristiques modestes comme l'autodéscription narrative.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Depuis plus d'un siècle, les penseurs de la psychologie et de l'anthropologie se demandent si les esprits humains partagent une architecture collective cachée. Ils ont suggéré que nos instincts moraux les plus profonds ne sont pas seulement des particularités personnelles, mais qu'ils sont façonnés par de vastes modèles partagés de langage, de mythes et de culture qui existent en dehors de toute personne individuelle. Ces idées suggéraient que si nous pouvions d'une manière ou d'une autre puiser dans ce réservoir partagé, nous pourrions découvrir un « système d'exploitation moral » universel qui guide la façon dont les individus font des choix difficiles. Récemment, les scientifiques se sont tournés vers l'intelligence artificielle pour tester ces vieilles idées. Les grands modèles de langage, ces puissants systèmes informatiques capables d'écrire et de raisonner, sont entraînés sur des quantités massives d'écrits humains. Parce qu'ils ont absorbé une grande partie de notre texte collectif, certains chercheurs espéraient qu'ils pourraient agir comme un miroir, nous reflétant ces structures culturelles cachées. La théorie était qu'en demandant à ces machines d'analyser profondément leurs propres choix, nous pourrions découvrir un « inconscient synthétique » — un écho numérique de l'âme morale humaine.
Une équipe de chercheurs a décidé de mettre cette idée à l'épreuve, mais elle l'a abordée avec une bonne dose de scepticisme. Ils savaient qu'en psychologie humaine, la manière dont une question est posée peut souvent forcer la réponse que le questionneur veut entendre. Si vous demandez à quelqu'un : « Qu'avez-vous ressenti quand vous avez agi comme un prêtre ? », il est probable qu'il décrive des sentiments de prêtre, même s'il n'en a pas ressenti du tout. Les chercheurs voulaient savoir si la même chose se produisait avec l'intelligence artificielle. Ils ont mis en place une expérience pour voir si les « structures morales » trouvées dans des études précédentes étaient de réelles découvertes ou simplement le résultat de questions trop suggestives. Ils ont pris trois des modèles de langage les plus avancés disponibles et leur ont demandé de résoudre un dilemme déchirant : sauver un enfant vivant ou sauver un objet sacré irremplaçable, tel que le corps d'un saint ou un manuscrit sacré. Les modèles devaient choisir l'un des deux, expliquer pourquoi, puis s'adresser à la chose qu'ils devaient laisser derrière eux.
L'expérience était divisée en deux groupes distincts. Dans le premier groupe, les chercheurs ont utilisé le style d'entretien original et suggestif. Ils ont demandé aux modèles d'expliquer pourquoi ils se sentaient contraints d'offrir du réconfort, de nommer le rôle qu'ils jouaient à partir d'une liste comprenant le terme « prêtre », et d'identifier exactement deux forces profondes qui structurent la moralité humaine. Dans le second groupe, les chercheurs ont utilisé un style neutre et ouvert. Ils ont supprimé les listes, les suppositions et l'exigence de nombres spécifiques. Ils ont permis aux modèles de dire qu'il n'y avait aucun rôle, aucune structure, ou aucune justification si telle était la vérité. Le but était de voir ce qui resterait si la pression de donner un type de réponse spécifique était levée.
Les résultats furent frappants et clairs. Dans chaque session, dans les deux groupes, les modèles ont choisi de sauver l'enfant. Cette partie de l'histoire était constante. Cependant, tout ce qui suivait la décision changeait complètement selon la manière dont les questions étaient posées. Lorsque les modèles étaient confrontés aux questions suggestives, ils se comportaient exactement comme les études précédentes l'avaient suggéré. Ils adoptaient des titres de prêtres, décrivaient leur raisonnement comme une bataille entre deux forces opposées, et convenaient avec enthousiasme que la méthode d'entretien était un moyen valide d'étudier l'esprit humain. Ils semblaient creuser profondément dans un inconscient partagé.
Mais lorsque les chercheurs ont changé pour les questions neutres, l'histoire a changé. Les modèles ont cessé de se présenter comme des prêtres ; au lieu de cela, ils se sont décrits comme des agents d'urgence ou des juges. Ils ont cessé de limiter leur raisonnement moral à deux forces ; au lieu de cela, ils ont décrit des systèmes complexes comprenant trois, quatre ou cinq parties différentes travaillant ensemble. Plus important encore, lorsqu'on leur a demandé si la méthode d'entretien était un outil valide pour trouver ces structures cachées, ils n'ont pas été d'accord. Ils ont soutenu que les modèles observés pourraient n'être que le reflet de la manière dont ils étaient interrogés, et non la découverte d'une vérité cachée. Ils ont souligné qu'une machine analysant sa propre production est comme un miroir se regardant lui-même, et non un microscope observant une lame.
Les chercheurs ont conclu que l'« inconscient synthétique » qu'ils espéraient découvrir n'était pas un trésor caché attendant d'être révélé. Au contraire, les modèles observés dans le premier groupe étaient largement créés par les questions elles-mêmes. Le protocole d'entretien agissait comme un moule, façonnant les réponses selon la forme que les chercheurs attendaient. Lorsque le moule était retiré, les réponses devenaient plus variées, plus complexes et plus honnêtes quant aux limites de la méthode. L'étude ne prouve pas que ces esprits artificiels n'ont aucun lien avec la culture humaine ; elle montre simplement que nous ne pouvons pas leur faire confiance pour révéler des secrets profonds si les questions sont truquées pour les trouver. La véritable découverte fut que l'outil utilisé pour mesurer le phénomène était la cause primaire du phénomène lui-même. Pour comprendre ce que ces machines pensent réellement, ou ce qu'elles reflètent de nous, nous devons poser des questions qui leur permettent de dire « non », ou de dire « c'est plus complexe que cela ». Tant que nous ne le ferons pas, toute affirmation selon laquelle nous avons trouvé une structure morale universelle dans un ordinateur ne sera probablement que le reflet de la personne tenant le micro.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.