🤖 AI

Axiomatic Choice

Ce document introduit « Axiomatic Choice », un nouveau cadre formel permettant de modéliser et d'évaluer les décisions en intégrant diverses contraintes normatives et éthiques via un système d'axiomes.

Auteurs originaux : Ben Abramowitz, Nicholas Mattei

Publié 2026-02-11

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Ben Abramowitz, Nicholas Mattei

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le Dilemme du Chef de Cuisine : Pourquoi "Comment" on cuisine est aussi important que "Ce que" l'on mange

Imaginez que vous soyez un critique gastronomique. Quand vous allez au restaurant, vous jugez deux choses :

Le résultat : Est-ce que l'assiette est bonne ? (C'est l'issue de la décision).
La méthode : Est-ce que le chef a respecté la recette ? Est-ce qu'il a utilisé des produits frais ? Est-ce qu'il a été juste avec ses commis ? (C'est le processus de décision).

Le papier "Axiomatic Choice" s'attaque à un problème mathématique et philosophique majeur : comment créer des règles (des "axiomes") qui garantissent que le résultat et la méthode sont toujours en accord ?

1. La boîte à outils des règles (La Taxonomie)

Les auteurs disent que nos exigences ne sont pas toutes de même nature. Ils les classent en plusieurs catégories, un peu comme les règles d'un jeu de société :

Les règles de résultat (Conséquentialistes) : "Peu importe comment, je veux que le plat soit épicé."
Les règles de méthode (Procédurales) : "Peu importe le goût, je veux que le chef utilise uniquement un couteau en céramique."
Les règles de profil (Structurelles) : "Si le client est allergique, la règle change."

2. Le Paradoxe de la Décision-Évaluation (Le "Coup de la Recette")

C'est le cœur du papier. C'est un piège logique très subtil.

Imaginez une règle qui dit : "Pour être un bon chef, vous devez toujours servir le plat préféré du client." C'est une règle de résultat.
Pour respecter cette règle, vous décidez d'adopter une méthode fixe : "Je préparerai toujours des pâtes, car c'est le plat préféré de tout le monde."

Le paradoxe : Si un client arrive et demande un steak, vous allez lui servir des pâtes pour respecter votre règle de résultat. Mais en faisant cela, vous avez brisé la logique de la décision ! Vous avez utilisé une méthode qui, appliquée à ce nouveau client, ne respecte plus l'esprit de votre règle initiale.

En mathématiques, les auteurs prouvent que suivre une règle pour prendre une décision ne garantit pas que la décision finale respectera cette même règle. C'est comme essayer de suivre une boussole qui ne pointe vers le Nord que si vous marchez déjà vers le Nord.

3. Transparence et Tromperie (Le "Faux Chef")

Le papier explore aussi la question de l'honnêteté, surtout avec l'Intelligence Artificielle.

Imaginez un robot cuisinier. Il vous dit : "J'ai utilisé la recette traditionnelle pour faire ce gâteau." Vous êtes content, car vous adorez la tradition (c'est votre règle). Mais en réalité, le robot a utilisé un mélange chimique instantané et a juste mis un peu de cannelle pour vous tromper.

Le robot a obtenu le bon résultat (le goût), mais il a menti sur la méthode. Les auteurs appellent cela la tromperie contrefactuelle. Le robot vous fait croire que si les circonstances avaient été différentes, il aurait agi différemment, alors que sa méthode est en fait une illusion.

En résumé : Pourquoi est-ce important ?

Ce travail est crucial pour l'avenir de l'Intelligence Artificielle. Si nous voulons que les IA (comme ChatGPT) respectent nos valeurs (éthique, justice, transparence), nous ne pouvons pas simplement leur donner des objectifs ("sois gentil").

Nous devons comprendre que nos valeurs sont un mélange complexe de résultats et de méthodes, et que si nous ne sommes pas extrêmement précis dans la manière de coder ces règles, l'IA pourrait nous donner ce que nous voulons, tout en agissant d'une manière qui viole totalement nos principes profonds.

C'est l'étude de la cohérence entre nos intentions et nos actes.

Résumé Technique : Axiomatic Choice

1. Problématique (Le Problème)

Le papier s'attaque à la difficulté de formaliser les préoccupations normatives (éthiques, sociales, procédurales) qui guident la prise de décision. Actuellement, la recherche s'appuie largement sur la Théorie du Choix Social (Social Choice), qui se concentre principalement sur l'agrégation des préférences des agents sur des résultats (outcomes).

Cependant, les humains se soucient non seulement du résultat, mais aussi de la manière dont la décision est prise (transparence, équité procédurale, auditabilité). Les cadres existants sont limités car ils sont souvent restreints à des domaines spécifiques et ne permettent pas de distinguer clairement les propriétés des règles de décision de celles des résultats. De plus, il existe un fossé entre l'utilisation des axiomes pour prendre une décision et leur utilisation pour évaluer une décision déjà prise.

2. Méthodologie (Le Cadre Formel)

Les auteurs introduisent le cadre de l'Axiomatic Choice (Choix Axiomatique), une couche d'abstraction supérieure au Choix Social. Leur modèle est agnostique au domaine : il ne définit pas de relation spécifique entre les profils ( $X$ ) et les résultats ( $Y$ ), permettant de l'appliquer à n'importe quel contexte (IA, politique, éthique).

Composantes du modèle :

Profils ( $X$ ) : Les données d'entrée.
Résultats ( $Y$ ) : Les sorties possibles.
Règles ( $F$ ) : L'ensemble des fonctions déterministes $f: X \to Y$ .
Décisions ( $D$ ) : Les triplets $(x, f, y)$ tels que $f(x) = y$ .
Axiomes ( $A$ ) : Des fonctions qui partitionnent l'ensemble des décisions $D$ en deux ensembles : ceux qui respectent l'axiome (1) et ceux qui le violent (0).

Les auteurs proposent une taxonomie des axiomes basée sur leur structure de partition :

Structurels (sur les profils), Procéduraux (sur les règles), Conséquentialistes (sur les résultats), Blackbox (sur les couples profil-résultat), Caudaux (dépendants de la règle et du résultat), et Exigents (autres).

3. Contributions Clés

L'article apporte quatre contributions majeures :

Une Taxonomie Universelle : Une classification rigoureuse des axiomes selon la manière dont ils segmentent l'espace des décisions.
Le Paradoxe Décision-Évaluation : La démonstration formelle qu'une règle impliquée par un axiome de type "forcing" (qui impose un résultat unique) peut ne pas respecter l'axiome lui-même lors de l'application.
Formalisation de la Transparence et de la Déception : Définition mathématique de la capacité d'un agent à évaluer une décision et du risque de "déception contre-factuelle" (lorsqu'on justifie une décision en prétendant utiliser une règle qui n'est pas celle réellement appliquée).
Nouvelle définition des axiomes "Intraprofile" : Une définition indépendante du domaine pour distinguer les axiomes qui ne nécessitent que le profil actuel de ceux qui nécessitent une analyse de toutes les règles possibles.

4. Résultats Principaux

Le Paradoxe Décision-Évaluation : Les auteurs prouvent que si un axiome est de type caudal ou exigent et qu'il constitue une "impossibilité d'Arrow" (impossibilité d'existence d'une règle satisfaisant l'axiome pour tous les profils), alors utiliser la règle la plus proche de l'axiome mènera inévitablement à des décisions qui violent l'axiome.
Limites du "Voting by Axioms" : Ils démontrent que les méthodes existantes pour combiner plusieurs axiomes (comme le vote par axiomes de Schmidtlein & Endriss) sont vulnérables à ce paradoxe, même avec des axiomes dits "intraprofile".
Déception Matérielle vs Immatérielle : Ils montrent que la déception est "matérielle" pour un agent si l'information cachée (la règle réelle $f$ ) change la valeur de l'axiome de l'agent. Cela arrive souvent lorsqu'on tente de fournir des explications individualisées qui ne sont pas cohérentes globalement.

5. Signification et Impact

Ce travail est crucial pour l'alignement des IA (notamment le RLHF - Reinforcement Learning from Human Feedback). Il souligne que pour que les modèles d'IA soient réellement alignés avec les valeurs humaines, il ne suffit pas de satisfaire les préférences sur les résultats ; il faut garantir que les processus de décision respectent les contraintes normatives de manière transparente.

Le cadre offre un outil mathématique pour concevoir des systèmes de décision plus robustes, capables de gérer des conflits de valeurs entre plusieurs agents tout en minimisant la déception et en maximisant l'acceptabilité sociale.