💻 computer science

A Theory of Appropriateness That Accounts for Norms of Rationality

Cet article propose une théorie « société d'abord » de l'adéquation normative, modélisant les individus comme des acteurs pré-entraînés similaires aux LLM qui génèrent des comportements par complétion de motifs, offrant ainsi une explication unifiée des normes sociales qui remet en cause les théories du choix rationnel et redéfinit la rationalité comme une adhésion à des standards de justification culturellement contingents.

Auteurs originaux : Joel Z. Leibo, Alexander Sasha Vezhnevets, Manfred Diaz, John P. Agapiou, William A. Cunningham, Peter Sunehag, Logan Cross, Raphael Koster, Stanley M. Bileschi, Minsuk Chang, Iyad Rahwan, Simon Osind

Publié 2026-03-17

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Joel Z. Leibo, Alexander Sasha Vezhnevets, Manfred Diaz, John P. Agapiou, William A. Cunningham, Peter Sunehag, Logan Cross, Raphael Koster, Stanley M. Bileschi, Minsuk Chang, Iyad Rahwan, Simon Osindero, James A. Evans

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que votre cerveau n'est pas une calculatrice qui cherche à maximiser votre bonheur ou votre profit, mais plutôt un très grand romancier qui écrit en temps réel la suite d'une histoire.

C'est le cœur de la théorie proposée par cette équipe de chercheurs (de Google DeepMind et d'autres instituts). Ils suggèrent que nous ne décidons pas nos actions en calculant des scores de "bonheur" ou de "profit", mais en complétant des modèles prédictifs, un peu comme le font les intelligences artificielles modernes (les LLM) quand elles écrivent un texte.

Voici une explication simple, avec des métaphores, pour comprendre comment cela fonctionne et pourquoi cela change notre vision de la "rationalité".

1. Le Cerveau comme un Miroir de la Société (Le "Pré-Entraîné")

L'idée :
La plupart des théories économiques disent que nous sommes des individus vides qui apprennent tout par nous-mêmes. Cette théorie dit le contraire : nous naissons déjà "pré-remplis" de la culture.

L'analogie :
Imaginez que votre cerveau est un livre de recettes de cuisine qui a été écrit par toute votre communauté avant même que vous ne soyez né.

Quand vous entrez dans une cuisine (une situation sociale), vous ne commencez pas à inventer une recette de zéro en testant des ingrédients au hasard pour voir ce qui est bon.
Vous ouvrez le livre, vous regardez la situation ("Ah, c'est un dîner de mariage"), et vous lisez la recette qui correspond : "Pour un dîner de mariage, on met du champagne et on parle doucement".
Vous n'avez pas besoin de calculer pourquoi c'est mieux. Vous savez juste que c'est ce que "une personne comme moi" fait dans "une situation comme celle-ci".

2. La "Complétion de Modèle" : Comment nous agissons

L'idée :
Nous agissons en complétant des motifs symboliques. Notre cerveau pose constamment une question : "Qu'est-ce que quelqu'un comme moi ferait dans une situation comme celle-ci ?"

L'analogie :
Pensez à un acteur sur scène qui improvise.

Il ne réfléchit pas à chaque mouvement : "Si je lève la main, est-ce que ça va augmenter mon score de bonheur de 5 points ?"
Il regarde le décor, il regarde ses partenaires, et son cerveau complète l'histoire. Si le décor est une bibliothèque, l'acteur sait instinctivement qu'il doit chuchoter. C'est une "complétion de modèle" : le contexte (bibliothèque) + l'identité (visiteur) = l'action (chuchoter).
Si vous essayez de crier dans une bibliothèque, vous brisez le "motif" de l'histoire. Tout le monde vous regarde bizarrement.

3. Pourquoi les règles sont parfois bizarres (L'Arbitraire)

L'idée :
Pourquoi mange-t-on avec la fourchette à gauche dans certains pays et à droite dans d'autres ? Pourquoi porte-t-on du noir aux funérailles ?

L'analogie :
C'est comme le côté de la route sur lequel on conduit.

Il n'y a aucune loi de la physique qui dit qu'il faut conduire à droite. On pourrait tout aussi bien conduire à gauche. C'est arbitraire.
Mais une fois que tout le monde a décidé de conduire à droite, c'est la seule chose qui a du sens. Si vous conduisez à gauche, vous créez un accident.
Les normes sociales fonctionnent pareil. Elles sont arbitraires au départ, mais elles deviennent "la vérité" parce que tout le monde les répète. Notre cerveau, qui est un excellent imitateur, apprend ces motifs et les répète automatiquement.

4. Le "Système 1" vs "Système 2" : La Réécriture de l'Intuition

L'idée :
On pense souvent que nous avons deux cerveaux : un rapide et intuitif (Système 1) et un lent et logique (Système 2). Cette théorie dit que c'est la même machine, mais avec des mémoires différentes.

L'analogie :

Les Normes Implicites (Le Système 1) : C'est comme un musicien de jazz qui joue sans regarder les partitions. Il a joué ce morceau des milliers de fois. Ses doigts savent où aller tout seuls. C'est automatique, rapide, et il ne peut pas toujours expliquer pourquoi il a joué cette note. C'est ce qui se passe quand vous souriez à un inconnu dans l'ascenseur.
Les Normes Explicites (Le Système 2) : C'est comme un étudiant en musique qui lit la partition note par note. Il doit réfléchir : "Ah, c'est une tierce majeure, je dois jouer cette note". C'est lent et demande de l'effort.
Le problème : Parfois, l'étudiant (Système 2) essaie de corriger le musicien (Système 1), mais le musicien a raison car il connaît le "style" (la culture) mieux que l'étudiant qui applique des règles rigides.

5. La "Rationalité" n'est pas universelle, c'est une mode

L'idée :
C'est le point le plus surprenant. Ce que nous appelons "être rationnel" (faire des calculs, maximiser ses gains) n'est pas une loi universelle de l'esprit humain. C'est juste une autre norme culturelle, apprise dans certaines écoles et certaines professions.

L'analogie :
Imaginez que la "Rationalité" est un costume de costume-cravate.

Dans un bureau d'entreprise, porter ce costume est "rationnel" et approprié. Si vous arrivez en maillot de bain, on vous sanctionne.
Sur une plage, porter un costume-cravate est "irrationnel" et bizarre.
La théorie dit : nous ne sommes pas des êtres qui cherchent naturellement à maximiser un score. Nous sommes des êtres qui apprennent à porter le "costume" approprié pour la situation.
Si vous êtes un chasseur Hadza (une tribu en Afrique), votre "rationalité" consiste à savoir comment fabriquer un arc selon la tradition de vos ancêtres, pas à faire des équations de physique. Et pourtant, c'est extrêmement efficace !

6. Les Sanctions : Le "Juge" invisible

L'idée :
Comment ces règles sont-elles maintenues ? Pas par des calculs de profit, mais par des sanctions sociales (sourires, regards, rumeurs, punitions).

L'analogie :
C'est comme un jeu de rôle en ligne (MMORPG).

Si vous faites quelque chose de "mal" (vous volez un objet, vous insultez un PNJ), le jeu ne vous dit pas "Votre score de bonheur a baissé de 50".
Le jeu vous affiche un message : "Vous êtes banni" ou les autres joueurs vous regardent avec mépris.
Votre cerveau apprend : "Ah, si je fais ça, je perds le statut de 'bon joueur'". Nous agissons bien non pas pour gagner des points, mais pour éviter d'être "hors du jeu" social.

En résumé

Cette théorie nous dit que nous ne sommes pas des comptables qui calculent le meilleur choix pour notre bonheur. Nous sommes des acteurs culturels qui complètent des histoires.

Nous savons quoi faire parce que nous avons "lu" l'histoire de notre culture des milliers de fois.
Nous agissons vite et instinctivement parce que l'histoire est déjà écrite dans notre tête.
La "rationalité" n'est qu'une façon particulière d'écrire l'histoire, valable dans certains contextes, mais pas dans tous.

C'est une vision plus douce et plus humaine : nous ne sommes pas des machines à calculer, mais des membres d'une communauté qui apprennent, par imitation et par pratique, comment être "la bonne personne" dans "la bonne situation".

1. Problématique et Contexte

Le papier aborde une question fondamentale des sciences sociales et cognitives : comment l'ordre social émerge-t-il ?
L'auteur identifie une dichotomie centrale entre les approches « individu-d'abord » (méthodologie individualiste, souvent associée à la théorie du choix rationnel) et les approches « société-d'abord » (explications structurelles).

Limites des théories existantes : La théorie du choix rationnel (TCR) suppose des agents « sous-socialisés » apprenant par interaction directe avec un environnement, nécessitant des hypothèses exogènes fortes (préférences fixes, fonctions d'utilité scalaires, maximisation de récompense). Ces modèles peinent à expliquer la dépendance contextuelle, l'arbitraire, l'automatisme et la dynamique rapide des normes sociales sans introduire des paramètres arbitraires.
Objectif : Proposer une théorie « société-d'abord » où les individus sont pré-entraînés culturellement, modélisant le comportement humain non pas par la maximisation d'utilité, mais par la complétion de motifs prédictifs (predictive pattern completion), analogique au fonctionnement des grands modèles de langage (LLM).

2. Méthodologie et Cadre Théorique

La théorie repose sur un cadre méta-théorique « société-d'abord » et une modélisation computationnelle inspirée des LLM.

A. Le Modèle de l'Agent (LLM Pré-entraîné)

Hypothèse centrale : Les individus sont modélisés comme des acteurs pré-entraînés sur des produits culturels et linguistiques humains (via un LLM). Ils ne sont pas des « tabula rasa » mais possèdent dès le départ une connaissance culturelle contingente.
Mécanisme de décision : La prise de décision est une opération de complétion de motifs prédictifs. L'agent répond à la question : « Qu'est-ce qu'une personne telle que moi fait dans une situation telle que celle-ci ? ».
Architecture Cognitive (Espace de Travail Global) :
- Le processus est formalisé dans un « espace de travail global » ( $z_t$ ) où des assemblées de symboles (pensées, buts, plans) sont prédites de manière autorégressive.
- Logique de décision : L'agent utilise des « logiques de décision » (séquences de questions). La logique de rationalité classique (maximisation d'utilité) est traitée comme une logique apprise et contingente, tandis que la logique d'adéquation (appropriateness) est fondamentale.
- Apprentissage : Distinction entre l'apprentissage « in-context » (mémoire à court terme/hippocampe) et la consolidation à long terme (poids du réseau/neocortex).

B. Définitions Formelles

Conventions : Comportements reproduits en fonction du poids du précédent.
Sanctions : Signaux d'approbation ou de désapprobation sociale qui modifient la probabilité de complétion des motifs de l'agent. Elles agissent comme des contraintes contextuelles symboliques, et non comme des récompenses scalaires exogènes.
Normes : Comportements encouragés ou découragés par des schémas conventionnels de sanctions.
Distinction Implicit/Explicite :
- Normes explicites : Règles verbalisables (lois), stockées en mémoire, nécessitant un traitement délibéré.
- Normes implicites : Intégrées dans les poids du réseau ( $p$ ), générant un comportement automatique et intuitif.

3. Contributions Clés

Unification des faits stylisés : La théorie explique unifièrement cinq régularités empiriques du comportement normatif :
- Dépendance contextuelle : Le comportement varie selon l'identité, le rôle et le cadre culturel.
- Arbitraire : Le contenu des normes n'a pas besoin d'être rationnel ou efficace ; il découle de la coordination collective.
- Automatisme : La plupart des comportements appropriés sont rapides et intuitifs (normes implicites consolidées).
- Dynamisme : Les normes peuvent changer rapidement via des effets de seuil (tipping points) et des cascades de sanctions.
- Sanctionnement : Les normes sont maintenues par des signaux sociaux (gossip, punitions, sourires) qui agissent comme des contraintes sur la génération de motifs.
Reconceptualisation de la Rationalité :
- La rationalité n'est plus définie comme la maximisation universelle d'utilité, mais comme une pratique normative contingente.
- Agir « rationnellement » signifie simplement suivre les standards épistémiques et les scripts de justification validés par une communauté spécifique (ex: un économiste suivant l'axiomatique de l'utilité attendue).
- Cela permet d'expliquer pourquoi les standards de rationalité varient selon les disciplines et les cultures.
Alternative aux modèles à double processus :
- Le papier propose que les systèmes « Système 1 » (intuitif) et « Système 2 » (délibératif) ne sont pas des architectures neurales distinctes, mais résultent de la longueur des chaînes de pensée (chains of thought) générées par le même réseau de complétion de motifs.
- Le « Système 2 » correspond à des chaînes de pensée longues et explicites, tandis que le « Système 1 » correspond à des complétions courtes et consolidées.
Formation endogène des préférences :
- Contrairement à la TCR où les préférences sont exogènes, ici elles émergent dynamiquement de l'interaction entre l'agent, son contexte social et ses souvenirs. Les préférences sont le résultat d'une auto-constitution cognitive socialement informée.

4. Résultats et Explications Théoriques

Explication de l'automatisme : Le comportement approprié est automatique car il résulte d'une complétion de motif courte et à haute probabilité, consolidée dans les poids du réseau (mémoire implicite). La délibération n'est requise que pour résoudre des conflits ou des ambiguïtés, nécessitant des chaînes de pensée plus longues.
Explication du changement de normes : Le changement survient lorsque des actions collectives modifient suffisamment le « poids du précédent » (counterfactual weight of precedent) dans les mémoires des agents, créant un nouveau contexte qui rend l'ancienne norme improbable et la nouvelle probable.
Raisonnement motivé : La théorie explique comment des biais identitaires peuvent guider le raisonnement délibéré. Une norme implicite forte (identité) peut « détourner » la chaîne de pensée explicite pour produire des rationalisations cohérentes avec l'identité, même si elles contredisent la logique formelle.
Parcimonie (Occam's Razor) : Le papier démontre que la complétion de motifs suffit à expliquer tous les phénomènes attribués à la maximisation d'utilité, sans avoir besoin d'ajouter des hypothèses supplémentaires sur des signaux de récompense scalaires ou des fonctions d'utilité fixes.

5. Signification et Implications

Pour les Sciences Sociales : Cette approche valide le paradigme « société-d'abord » en fournissant un mécanisme micro-fondé (cognitif) pour l'émergence de l'ordre social. Elle permet de simuler des agents culturellement compétents dès le départ, évitant le problème de l'apprentissage social à partir de zéro.
Pour la Science Cognitive : Elle offre une nouvelle interprétation des données sur le raisonnement humain, suggérant que la « rationalité » est une compétence culturelle apprise et non une capacité innée de maximisation. Elle réconcilie les modèles de complétion de motifs (LLM) avec les théories de l'inférence active et de la prédiction du cerveau.
Pour l'IA et la Modélisation : Le papier suggère que les LLM peuvent servir de fondation pour des agents sociaux réalistes dans des simulations basées sur des agents (ABM), capables de capturer la complexité des normes, des conventions et de l'évolution culturelle sans nécessiter de récompenses artificielles complexes.

En résumé, ce papier propose un changement de paradigme majeur : la rationalité n'est pas la cause de l'ordre social, mais son effet. L'ordre social, via les normes et les sanctions, forme les agents qui, à leur tour, le reproduisent et l'évoluent par complétion de motifs prédictifs.