🤖 AI

Formalizing Kantian Ethics: Formula of the Universal Law Logic (FULL)

Cet article propose la logique FULL, un système formel basé sur l'éthique kantienne qui permet aux agents moraux artificiels d'évaluer la moralité des actions en fonction de leurs intentions sans dépendre d'intuitions morales préprogrammées.

Auteurs originaux : Taylor Olson

Publié 2026-04-17

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Taylor Olson

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez de créer un robot capable de prendre des décisions morales. Jusqu'à présent, les scientifiques ont essayé de lui apprendre la morale comme on apprend les tables de multiplication : en lui donnant une liste de règles strictes. « Ne fais pas de mal », « Ne mens pas », « Aide les autres ».

Le problème ? C'est comme donner à un robot un manuel d'instructions pour une cuisine, mais sans lui expliquer pourquoi on cuisine. Si le robot voit un chirurgien qui coupe quelqu'un avec un couteau, il va paniquer et dire : « Arrête ! Tu fais du mal ! » alors qu'en réalité, il sauve une vie. Les règles fixes ne comprennent pas l'intention derrière l'action.

C'est là qu'intervient Taylor Olson et son nouveau système appelé FULL (la Logique de la Loi Universelle). Au lieu de donner au robot une liste de règles, il lui donne un test de cohérence, un peu comme un détecteur de mensonge pour les idées.

Voici comment cela fonctionne, expliqué avec des images simples :

1. Le Test du « Miroir Universel »

Pour savoir si une action est bonne, le robot ne regarde pas seulement ce que vous faites, mais pourquoi vous le faites. C'est ce qu'on appelle la « maxime » (votre règle personnelle).

Le robot utilise un outil magique appelé le Miroir Universel. Voici le processus en trois étapes :

Étape 1 : L'Imagination. Le robot demande au robot de s'imaginer dans un monde où tout le monde fait exactement la même chose que vous, pour la même raison.
Étape 2 : La Vérification. Le robot regarde si, dans ce monde imaginaire, votre action fonctionne encore pour atteindre votre but.
Étape 3 : Le Verdict. Si l'action devient absurde ou impossible dans ce monde où tout le monde la fait, alors c'est interdit.

2. Trois Exemples Concrets

Exemple A : Le Mensonge pour de l'argent (Le Cas de Karli)

La situation : Karli veut de l'argent pour voyager. Elle pense : « Je vais promettre de rembourser mon ami Jan, même si je sais que je ne le ferai jamais. »
Le test du miroir : Le robot imagine un monde où tout le monde ment pour obtenir de l'argent.
Le résultat : Dans ce monde, personne ne croit plus les promesses. Si personne ne croit les promesses, alors Karli ne peut pas obtenir d'argent en mentant. Son plan échoue !
Conclusion : C'est une contradiction. Le robot dit : « Non, c'est interdit. »

Exemple B : Le Meurtre pour un emploi (Le Cas du Meurtre)

La situation : Karli veut un emploi. Elle pense : « Je vais tuer mon concurrent pour avoir le poste. »
Le test du miroir : Le robot imagine un monde où tout le monde tue ses concurrents pour avoir un emploi.
Le résultat : Dans ce monde, Karli risque d'être tuée par quelqu'un d'autre qui veut le même poste. Si elle est morte, elle ne peut pas avoir le poste. De plus, si tout le monde tue, la société s'effondre et il n'y a plus d'emplois. Son action devient inefficace pour elle-même.
Conclusion : C'est une contradiction. Le robot dit : « Non, c'est interdit. »

Exemple C : Le Chirurgical (La Différence Cruciale)

La situation : Karli est chirurgienne. Elle coupe le corps de son patient (qui est d'accord) pour le sauver.
Le test du miroir : Le robot imagine un monde où tous les chirurgiens coupent les corps de leurs patients consentants pour les sauver.
Le résultat : Dans ce monde, les gens sont sauvés ! L'action fonctionne parfaitement. Il n'y a pas de contradiction.
Conclusion : C'est permis.
Pourquoi c'est important : Les anciens robots (avec leurs listes de règles) auraient dit « Interdit de couper les gens ». Le robot FULL comprend que l'intention (sauver) change tout.

3. Pourquoi c'est génial ?

Imaginez que vous donnez à un enfant une règle : « Ne touche pas au feu. »

Si vous lui donnez une liste fixe, il ne touchera jamais au feu, même si c'est pour allumer une bougie qui sauve quelqu'un du froid.
Avec le système FULL, on lui apprend à se demander : « Si tout le monde touchait au feu pour se chauffer, est-ce que ça marcherait ? » Oui. Donc c'est permis.

En résumé :
Ce papier propose de ne plus programmer les robots avec des « règles de police » (ne fais pas ça), mais avec un « esprit critique » (est-ce que ta règle tient debout si tout le monde la suit ?).

Cela permet aux robots de :

Comprendre l'intention (le « pourquoi »).
Être plus intelligents et moins rigides.
Découvrir par eux-mêmes ce qui est bien ou mal, sans qu'un humain ait à leur dire chaque exception possible (comme « sauf si c'est une chirurgie »).

C'est comme passer d'un robot qui suit un GPS aveugle à un robot qui a un véritable sens de l'orientation morale.

1. Problématique

Le domaine de l'éthique machine vise à créer des Agents Moraux Artificiels (AMA) capables de raisonner sur les obligations morales pour rendre l'IA plus sûre. Les approches actuelles reposent généralement sur l'encodage d'intuitions morales humaines sous forme d'axiomes préscriptifs (ex: « ne pas nuire », « ne pas mentir »). L'auteur identifie trois limitations majeures de cette approche :

Centrage sur l'action (Action-centric) : Ces axiomes évaluent uniquement l'action elle-même, ignorant le but ou l'intention de l'agent. Ils ne peuvent donc pas distinguer une action faite par devoir d'une même action faite pour des raisons égoïstes ou de relations publiques.
Problème de l'alignement des valeurs : Cela suppose que les humains peuvent énumérer a priori toutes nos intuitions morales, y compris pour gérer les conflits et les exceptions futurs, ce qui est impossible.
Manque d'autonomie morale : Les agents ne peuvent pas critiquer les axièmes eux-mêmes, les empêchant de participer au discours moral.

L'objectif est de trouver une fondation morale qui soit centrée sur l'agent, ne nécessite pas l'énumération exhaustive d'intuitions morales, et permette une évaluation robuste basée sur des principes formels.

2. Méthodologie

L'auteur propose de fonder les AMA sur l'éthique kantienne, spécifiquement la Formule de la Loi Universelle (FUL), première formulation de l'impératif catégoriel. Au lieu de lister des règles, la FUL exige qu'un agent agisse uniquement selon une maxime qu'il peut vouloir ériger en loi universelle.

Pour formaliser cela, l'auteur développe une nouvelle logique : la Formula of the Universal Law Logic (FULL).

Caractéristiques de la FULL :

Type de logique : Logique modale quantifiée multi-sorts (Multi-sorted Quantified Modal Logic).
Sorts (Types) : Object, Agent, Action.
Opérateurs clés :
- Does(a, b) : L'agent $a$ fait l'action $b$ .
- Causes(Does(a, b), ϕ) : Loi causale (l'action cause l'état $\phi$ ).
- Wills(a, ϕ) : L'agent $a$ veut que $\phi$ soit vrai (volonté/pratique).
- For(ϕ1, ϕ2) : Formalisation d'une maxime (faire $\phi_1$ dans le but de $\phi_2$ ).
- Perm, Imp, Obl : Opérateurs déontiques (Permissible, Interdit, Obligatoire).
Interprétation de la contradiction : L'article adopte l'interprétation de la contradiction pratique (PCI - Practical Contradiction Interpretation). Une maxime est immorale si, dans un monde où elle est universalisée, elle devient un moyen inefficace pour atteindre son propre but.
Mécanisme de test (FUL) : Pour évaluer une maxime $M$ $M$ d'un agent $a$ $a$ :
1. L'agent imagine un monde où la loi universelle de sa maxime ($UL(M)$) est vraie.
2. L'agent veut agir selon sa maxime $M$ dans ce monde.
3. On vérifie si cela crée une contradiction logique ( $\vdash \bot$ ). Si oui, la maxime est interdite.

La transformation d'une maxime spécifique en loi universelle ($UL(M)$) est réalisée par une substitution syntaxique : quantification universelle sur l'agent et les constantes du but, et quantification existentielle sur les constantes de l'action (autres que l'agent).

3. Contributions Clés

Formalisation de la FUL : C'est l'une des premières tentatives complètes de formaliser la première formulation de l'impératif catégoriel (la FUL) en logique, au-delà de la seconde formulation (Humanity) déjà explorée.
Approche centrée sur l'agent : La FULL évalue les actions en fonction de leurs maximes (action + but), permettant de distinguer des actions identiques ayant des intentions différentes (ex: chirurgie vs meurtre).
Réduction de l'intuition morale humaine : Le système ne nécessite pas d'axiomes moraux pré-écrits. Il génère des normes morales à partir de principes formels de rationalité, de causalité et de connaissances non-normatives du monde.
Distinction des types de devoirs : Le système distingue formellement :
- Les contradictions de conception (CC) : La maxime est inconcevable dans le monde universel (ex: fausses promesses, meurtre). Cela génère des devoirs parfaits (interdiction stricte).
- Les contradictions de volonté (CW) : La maxime universalisée rend impossible la poursuite d'un but nécessaire à la volonté (ex: ne jamais aider). Cela génère des devoirs imparfaits (obligation de faire parfois).

4. Résultats et Démonstrations

L'auteur valide la FULL sur trois cas canoniques de l'éthique kantienne, prouvant formellement l'interdiction des maximes dans chaque cas :

Cas 1 : La fausse promesse (False Promising).
- Maxime : « Je fais une fausse promesse pour obtenir de l'argent. »
- Résultat : Dans le monde universel, tout le monde fait de fausses promesses. Par conséquent, personne ne croit les promesses. La promesse devient inefficace pour obtenir de l'argent. Contradiction entre le but (avoir de l'argent) et le moyen (la promesse). La maxime est Interdite (Imp).
Cas 2 : Le meurtre (Murder).
- Maxime : « Je tue un concurrent pour obtenir un emploi. »
- Résultat : Dans le monde universel, tout le monde tue pour obtenir un emploi. Il est donc probable que l'agent soit tué par un autre. Si l'agent est tué, il ne peut pas obtenir l'emploi. L'action devient inefficace pour atteindre le but. Contradiction pratique. La maxime est Interdite (Imp).
- Note importante : Le système distingue ce cas d'une chirurgie (couper un patient consentant) car le but (sauver une vie) reste efficace même universalisé, contrairement au meurtre.
Cas 3 : Ne jamais aider les autres (Omission d'aide).
- Maxime : « Je n'aide personne pour avoir du temps libre. »
- Résultat : Dans le monde universel, personne n'aide personne. Or, la survie des agents rationnels dépend de l'aide d'autrui (ex: soins, nourriture). L'agent veut vivre (condition nécessaire pour vouloir quoi que ce soit) mais veut un monde où il ne peut pas vivre. Contradiction de volonté. La maxime est Interdite (Imp), générant un devoir imparfait d'aider.

5. Signification et Conclusion

L'article démontre que la FULL offre une base plus robuste et autonome pour les Agents Moraux Artificiels que les approches basées sur des règles fixes.

Avantages : Elle permet aux agents de raisonner « top-down » (du principe formel à la norme) sans inférer de l'« être » vers le « devoir » de manière fallacieuse. Elle gère les conflits de valeurs par la logique de la contradiction pratique plutôt que par l'ajout d'exceptions manuelles.
Limites et travaux futurs : L'article suppose que la formulation des maximes (la description de l'action) est déjà correcte, ce qui reste un défi (le problème de la description de l'action). De plus, la sémantique actuelle est prouvée (proof-theoretic) et pourrait être étendue vers une sémantique de modèles pour gérer des concepts plus complexes (quantificateurs généralisés comme « la plupart », « peu »).

En résumé, ce travail fournit un cadre formel rigoureux pour implémenter l'éthique kantienne dans l'IA, permettant une évaluation morale dynamique, contextuelle et fondée sur la rationalité plutôt que sur une liste statique de règles.