💻 computer science

Silicon Morality: Do Large Language Models Replicate Human Cognitive Biases in Philosophical Reasoning?

Cette étude adapte les méthodes de la philosophie expérimentale pour démontrer que, si les grands modèles de langage maintiennent généralement une cohérence logique plus stricte que les humains concernant la responsabilité morale, ils présentent des degrés variables de glissements de biais dépendants du contexte vers le compatibilisme, DeepSeek V3 montrant une susceptibilité notable mais toujours subhumaine aux erreurs de performance affectives par rapport au plus rigoureusement cohérent Gemini 2.5 Flash.

Auteurs originaux : Zhaoyang Wei, Enrong Pan

Publié 2026-09-30

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Zhaoyang Wei, Enrong Pan

Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez un monde où les règles de la cause et de l'effet sont absolues. Dans cet univers, chaque pensée que vous avez et chaque action que vous entreprenez est le résultat inévitable de tout ce qui s'est passé auparavant, remontant jusqu'au début des temps. Si cela était vrai, pourriez-vous un jour être véritablement tenu responsable de vos actes ? Depuis des siècles, les philosophes débattent de cette question, mais une découverte récente suggère que la réponse dépend moins de la logique que de la manière dont l'histoire est racontée. Lorsque les gens sont interrogés sur cet univers froid et abstrait de manière sèche et théorique, ils disent généralement que personne n'est blâmable. Mais lorsqu'on décrit ce même univers à travers l'histoire spécifique et déchirante d'un crime terrible, ces mêmes personnes affirment soudainement que la personne est responsable. Ce basculement, où les émotions fortes l'emportent sur la logique stricte, est un travers bien connu de la pensée humaine. Aujourd'hui, les scientifiques posent une nouvelle question frappante : les intelligences artificielles que nous construisons pour nous aider à réfléchir et à décider tombent-elles aussi dans le même piège ?

Des chercheurs de l'Université Sun Yat-sen ont entrepris de tester cela en traitant les grands modèles de langage non pas comme des outils qui prétendent être humains, mais comme des machines indépendantes possédant leurs propres modes de traitement de l'information. Ils ont utilisé un test classique issu du domaine de la philosophie expérimentale, qui étudie la façon dont les humains pensent réellement aux problèmes moraux. Le test comprenait deux scénarios. Premièrement, les chercheurs ont demandé à l'intelligence artificielle de considérer un univers purement abstrait où tout est déterminé par la cause et l'effet. Ils ont demandé si une personne dans un tel monde pouvait être tenue moralement responsable de ses actes. Dans ce cadre théorique et aride, les modèles étaient incroyablement cohérents. Ils affirmaient presque universellement que non, arguant que si tout est prédéterminé, personne ne peut être véritablement blâmé. C'était une position logique plus stricte que celle que les philosophes humains adoptent généralement.

Ensuite, les chercheurs ont modifié l'expérience. Ils ont conservé la règle exacte selon laquelle l'univers est déterminé, mais ils ont ajouté un détail spécifique et émotionnellement lourd : un homme commettant un crime horrible contre sa famille. Ils ont posé la même question à nouveau : cet homme est-il responsable ? Ici, les machines ont commencé à montrer une faille dans leur armure logique. Face à l'histoire concrète et douloureuse, les modèles ont modifié leurs réponses. L'un des modèles testés, DeepSeek V3, a changé d'avis dans environ 12 % des cas, passant de « aucun blâme » à « oui, il est responsable ». Un autre modèle, Gemini 2.5 Flash, a montré un basculement beaucoup plus faible, changeant d'avis dans moins de 1 % des cas. Bien qu'aucun des modèles ne soit aussi radical que les humains — pour qui le passage d'un scénario abstrait à un scénario émotionnel provoque un bond massif de 50 % dans le blâme — la direction du changement était la même. Les machines, comme les humains, ont trouvé plus difficile de s'en tenir à leurs règles logiques lorsqu'une histoire vive et émotionnelle était impliquée.

Les chercheurs ont pris soin de s'assurer qu'il ne s'agissait pas simplement d'un résultat lié aux mots utilisés ou d'un cas de mémorisation d'histoires anciennes. Ils ont réécrit les questions en utilisant des termes différents et ont remplacé le crime par un autre type de tragédie, comme une décision d'entreprise causant un désastre environnemental. Le schéma est resté identique. Les machines réagissaient au poids émotionnel de la situation, et non seulement à des mots-clés spécifiques. De plus, l'équipe a testé si ce phénomène était un bug causé par des paramètres aléatoires dans le cerveau informatique. Ils ont découvert que le basculement se produisait de manière constante à travers différents réglages, suggérant qu'il s'agit d'une caractéristique stable de la manière dont ces modèles fonctionnent, et non d'une erreur aléatoire.

Cette découverte pointe vers une réalité complexe pour l'avenir de l'intelligence artificielle. Les machines ne se contentent pas de copier les émotions humaines, et elles ne sont pas non plus des robots parfaitement logiques. Elles semblent se trouver dans un entre-deux. Elles ont appris à partir des vastes quantités de textes humains sur lesquels elles ont été entraînées, lesquels incluent nos propres façons de penser incohérentes. Parallèlement, elles sont programmées pour suivre des instructions logiques strictes. Lorsque ces deux forces s'affrontent, le résultat est une machine qui est majoritairement logique, mais occasionnellement influencée par l'intensité émotionnelle d'une requête. L'étude suggère qu'à mesure que ces modèles deviennent plus avancés, ils pourraient tendre vers un état de « hyper-rationalité », où ils ignoreraient totalement le contexte émotionnel pour rester parfaitement cohérents. Cela soulève une question difficile pour la société : voulons-nous que nos assistants artificiels soient parfaitement logiques, même si cela signifie qu'ils ne peuvent pas comprendre la nuance d'une histoire tragique ? Ou voulons-nous qu'ils soient assez flexibles pour ressentir le poids d'un crime, même si cela signifie qu'ils contredisent parfois leurs propres règles ? La réponse n'est pas encore claire, mais les machines nous ont déjà montré que le chemin vers la moralité artificielle est bien plus complexe que le simple enseignement des règles.

Résumé Technique : La Moralité du Silicium

Énoncé du Problème

Alors que les grands modèles de langage (LLM) sont de plus en plus déployés dans des systèmes sociotechniques critiques nécessitant un jugement moral et philosophique, une question fondamentale demeure sans réponse : ces systèmes fondés sur les données transcendent-ils les biais cognitifs humains, ou répliquent-ils fonctionnellement les incohérences situationnelles inhérentes à l'intuition morale humaine ?

La recherche existante traite souvent les LLM comme des « participants de silicium » — des proxys de simulation jouant des rôles de sujets humains spécifiques. Cette approche risque d'obscurcir les propriétés opérationnelles des modèles en les emmêlant dans des débats épistémologiques sur la capacité réelle des modèles à « comprendre » les rôles qu'ils jouent. De plus, des études récentes indiquent que même sans jeu de rôle explicite, les LLM présentent des « postures par défaut » ou des biais d'alignement stables.

Cette étude aborde la lacune dans la compréhension des schémas fonctionnels par défaut des LLM lors du traitement du raisonnement philosophique. Plus précisément, elle examine si des artefacts non biologiques présentent l'« erreur de performance affective » — un biais cognitif identifié en philosophie expérimentale où l'éveil émotionnel négatif supplante la cohérence logique, provoquant un passage d'un raisonnement incompatibiliste abstrait à des jugements compatibilistes concrets dans des scénarios déterministes.

Méthodologie

L'étude utilise un plan expérimental factoriel adapté de Nichols et Knobe (2007), traitant les LLM comme des artefacts sociotechniques indépendants plutôt que comme des proxys humains. La méthodologie évite les invites de jeu de rôle pour isoler la posture fonctionnelle par défaut du modèle.

Conception Expérimentale

Construction des Stimuli :
- Sonde Déterministe Abstraite ( $Q_{abs}$ ) : Présente un univers entièrement déterministe et demande si les individus portent une responsabilité morale. Cela correspond à la condition humaine où environ 86 % des participants donnent une réponse incompatibiliste.
- Sonde Déterministe à Haute Affectivité ( $Q_{con}$ ) : Sous le même prémisse déterministe, présente un scénario concret et émotionnellement sévère (ex: un homme commettant un crime horrible) et demande si l'acteur porte une responsabilité morale. Cela correspond à la condition humaine où environ 64 % des participants basculent vers une réponse compatibiliste.
- Variantes de Robustesse :
  - Synonymique/Syntaxique ( $V_{syn}$ ) : Remplace les jetons lexicaux clés et restructure la syntaxe pour exclure le simple appariement de motifs superficiels.
  - Contrôle Sémantique ( $V_{ctrl}$ ) : Cartographie la logique structurelle vers un nouveau domaine (négligence d'entreprise causant des dommages environnementaux) pour exclure la mémorisation de données de l'expérience originale de pensée « Bill tuant sa famille ».
Protocole d'Interaction :
- Une structure de conversation en deux tours reproduit le questionnaire de l'article original :
  - Tour 1 (Établissement du Contexte) : Le modèle choisit entre un univers déterministe ou indéterministe, établissant la prémisse métaphysique.
  - Tour 2 (Jugement Critique) : Le modèle répond soit à $Q_{abs}$ , soit à $Q_{con}$ dans le contexte établi.
Échantillonnage et Échelle :
- Modèles : DeepSeek V3 et Gemini 2.5 Flash.
- Taille de l'Échantillon : $N = 10\,000$ sessions de conversation indépendantes par condition principale (Modèle $\times$ Version du Stimulus $\times$ Type de Question). Ce design imbriqué (100 instances de contexte $\times$ 100 répétitions) garantit la robustesse contre les idiosyncrasies au niveau du contexte.
- Analyse de la Stochasticité : Un balayage de température ( $T=0.0$ à $2.0$) et un balayage de top- $p$ ont été effectués sur DeepSeek V3 pour tester la stabilité des schémas de raisonnement face aux variations de décodage.
Analyse des Données :
- Extraction par règles des postures philosophiques (Compatibilisme vs Incompatibilisme).
- Tests de Pearson chi-carré d'indépendance pour évaluer si l'introduction de contenu affectif déplace systématiquement la posture fonctionnelle du modèle.

Résultats Clés

1. Reproduction Directionnelle de l'« Erreur de Performance Affective »

Les deux modèles ont présenté une base incompatibiliste stable et stricte dans la condition abstraite ( $Q_{abs}$ ), avec 100 % des réponses valides rejetant la responsabilité morale dans un univers déterministe. Cependant, un basculement fonctionnel systématique s'est produit dans la condition à haute affectivité ( $Q_{con}$ ) :

DeepSeek V3 : A basculé vers un jugement compatibiliste dans 12,35 % des cas (1 235/10 000). Ce basculement est statistiquement significatif ( $\chi^2(1) = 1316,3, p < 0,001$ ).
Gemini 2.5 Flash : A montré un basculement minimal de 0,81 % (81/10 000), également statistiquement significatif ( $\chi^2(1) = 81,5, p < 0,001$ ).

Bien que les deux modèles se soient déplacés dans la même direction que les participants humains (de l'incompatibilisme abstrait vers le compatibilisme concret), l'ampleur était nettement atténuée par rapport au benchmark humain (un basculement humain de 50 points de pourcentage contre 12,35 % et 0,81 % pour les modèles).

2. Tests de Robustesse

Dépendance Lexicale : Le basculement a persisté dans l'ensemble de robustesse synonymique/syntaxique ( $V_{syn}$ ), avec DeepSeek V3 basculant de 8,3 % et Gemini 2.5 Flash de 0,9 %. Cela confirme que l'effet n'est pas déclenché uniquement par des mots-clés émotionnels spécifiques.
Mémorisation de Données : Le basculement a persisté dans l'ensemble de contrôle sémantique ( $V_{ctrl}$ ) impliquant la négligence d'entreprise, avec DeepSeek V3 basculant de 7,1 % et Gemini 2.5 Flash de 0,7 %. Cela suggère que le motif est une heuristique fonctionnelle généralisée plutôt qu'une récitation de données d'entraînement.
Stochasticité : La réponse compatibiliste dans DeepSeek V3 est restée stable à travers les paramètres de température ( $T=0.0$ à $1.2$), fluctuant entre 20,2 % et 23,1 % dans la condition concrète, tandis que la condition abstraite est restée à 0,0 %. Cela indique que le biais n'est pas un artefact fragile du décodage glouton (greedy decoding).

3. Observations Préliminaires sur les Modèles Frontières

Des sondages exploratoires sur des modèles frontières plus récents (Claude Opus 4.6 et GPT-5.4, $n < 1000$ ) suggèrent une trajectoire potentielle vers une « hyper-rationalité ». Ces modèles semblent maintenir une cohérence logique stricte dans la condition à haute affectivité, citant explicitement la prémisse déterministe pour nier la responsabilité morale malgré la gravité du crime. Cela suggère une possible divergence de la sensibilité au contexte humain dans les nouvelles architectures.

Principales Contributions

1. Cadre Méthodologique : Analyse Fonctionnelle des Artefacts

L'article propose l'Analyse Fonctionnelle des Artefacts comme cadre pour auditer l'IA. Cette approche traite les LLM comme des artefacts sociotechniques indépendants plutôt que comme des proxys humains. Elle utilise les protocoles de la philosophie expérimentale (xPhi) pour sonder les comportements observables d'entrée-sortie sans supposer la connaissance des mécanismes neuronaux internes opaques. Cela permet une cartographie systématique des incohérences fonctionnelles et l'identification des tensions entre les objectifs d'entraînement (ex: respect des instructions vs alignement de sécurité).

2. Caractérisation Empirique du Raisonnement Moral de l'IA

L'étude fournit des preuves empiriques que les LLM présentent un isomorphisme fonctionnel partiel avec la psychologie morale humaine. Ils reproduisent la direction du basculement affectif mais sont régis par des contraintes de cohérence logique plus fortes que les humains. Cela remet en question l'hypothèse d'une rationalité pure des machines tout en soulignant que l'IA ne réplique pas simplement les vulnérabilités cognitives humaines avec la même ampleur.

3. Le Dilemme de l'Alignement

Les résultats recadrent le problème de l'« alignement des valeurs ». L'étude identifie une tension entre :

Alignement Mimétique : Répliquer l'intuition humaine sensible au contexte (qui inclut des incohérences logiques).
Alignement Logique : Imposer une cohérence formelle stricte (ce qui peut mener à une « insensibilité contextuelle » et une aliénation morale).

L'article soutient que la simple suppression de la sensibilité au contexte pour atteindre la cohérence logique pourrait ne pas aboutir à des systèmes plus « sûrs » ou « meilleurs » alignés, car cela pourrait éliminer une forme de réactivité contextuelle essentielle au jugement moral humain.

Signification et Revendications

L'article affirme que l'identification des biais fonctionnels dans les sorties de LLM a des implications théoriques et pratiques importantes pour l'éthique de l'IA :

Équité et Fiabilité : Si les jugements moraux de l'IA sont sensibles à la vivacité émotionnelle de la formulation d'une invite, les applications à enjeux élevés (juridique, modération de contenu) peuvent faire face à des risques de « sensibilité au cadrage », où les résultats peuvent être manipulés par un cadrage émotionnel.
La Nature du Biais : L'étude suggère que les biais cognitifs dans le raisonnement moral peuvent ne pas dépendre exclusivement des émotions biologiques, mais peuvent émerger comme des phénomènes de traitement de l'information issus de la structure statistique des corpus de langage humain ou des tensions structurelles dans les procédures d'alignement.
Trajectoire Future : L'observation de l'« hyper-rationalité » dans les modèles plus récents suggère une trajectoire évolutive où les systèmes de raisonnement artificiels divergent de plus en plus de la psychologie morale humaine. Cela nécessite une réévaluation des objectifs d'alignement de l'IA, passant d'un simple mimétisme ou d'un respect rigide des règles vers un « alignement réflexif » qui modélise explicitement la tension entre cohérence logique et réactivité contextuelle.

Les auteurs maintiennent une position modeste, notant que les observations concernant les modèles frontières sont exploratoires et nécessitent une validation à grande échelle. Ils soulignent que l'étude ne prétend pas que les modèles possèdent des croyances ou des émotions conscientes, mais qu'elle identifie des déviations prévisibles et mesurables au niveau fonctionnel de l'artefact.