Modeling Deontic Modal Logic in ASP

Imaginez que vous soyez l'arbitre d'un immense jeu invisible de « Et si ? » se déroulant à l'intérieur du cerveau d'un ordinateur. Dans le monde de la logique, il existe deux manières principales de parler des règles. La première est comme une équation mathématique stricte : « Si A est vrai, alors B doit être vrai ». C'est la logique classique, et elle est excellente pour les faits. Mais la seconde est beaucoup plus humaine : « Tu devrais faire B », ou « Il est interdit de faire A », ou « Tu es autorisé à faire B ». C'est la logique déontique (du mot grec pour le devoir). C'est la logique des règles, des lois et des obligations morales. Le problème, c'est que la vie réelle est désordonnée. Parfois, vous avez l'obligation de faire quelque chose, mais vous ne pouvez pas. Parfois, il vous est interdit de faire quelque chose, mais vous le faites quand même. Pendant des décennies, les informaticiens et les philosophes se sont acharnés à apprendre aux ordinateurs comment gérer ces « devoirs » et ces « interdictions » sans qu'ils ne s'embrouillent ou ne plantent face à des contradictions logiques connues sous le nom de « paradoxes ».

Cet article, intitulé « Modeling Deontic Modal Logic in ASP », s'attaque précisément à ce problème. Les auteurs, une équipe de chercheurs des États-Unis et d'Espagne, proposent une nouvelle méthode ingénieuse pour apprendre aux ordinateurs à comprendre les règles et les obligations. Ils utilisent un langage de programmation appelé ASP (Answer Set Programming), qui est déjà célèbre pour sa capacité à gérer les scénarios de type « et si ? » et les informations incomplètes. L'article soutient qu'en traitant les règles non pas comme des commandes rigides qui forcent des faits à se produire, mais comme des contraintes globales (comme le coup de sifflet d'un arbitre qui retentit si une règle est enfreinte), les ordinateurs peuvent enfin résoudre des énigmes vieilles de plusieurs décennies qui ont laissé perplexes les logiciens. Ils démontrent que cette méthode résout élégamment des pièges logiques célèbres, comme le paradoxe du « devoir contraire » (Contrary-to-Duty), où une règle semble se contredire lorsqu'une personne ne respecte pas une règle précédente.

La magie du « Devoir » et du « Devoir être »

Pour comprendre ce que les auteurs ont fait, nous devons d'abord rencontrer les deux personnages principaux de leur histoire : l'Obligation et la Permission. Dans la vie de tous les jours, nous connaissons la différence entre « Il est nécessaire que le soleil se lève » (un fait de la nature) et « Tu devrais rendre ton livre de bibliothèque » (une règle que tu pourrais ne pas respecter). Dans le monde de la logique, le premier est appelé aléthique (concernant la vérité et la nécessité), et le second est déontique (concernant le devoir et les normes).

Les auteurs ont remarqué que les ordinateurs possèdent déjà deux outils spéciaux pour gérer ces différents types de pensée, mais qu'ils étaient utilisés de la mauvaise manière.

1. La Négation Forte : C'est comme un « Non » catégorique. Si un ordinateur dit « Il ne pleut pas » (négation forte), cela signifie qu'il a la preuve qu'il ne pleut effectivement pas. C'est un fait.
2. La Négation par Défaut (Négation par échec) : C'est comme un « Peut-être pas ». Si un ordinateur dit « Il ne pleut pas » (négation par défaut), cela signifie simplement qu'il n'a trouvé aucune preuve qu'il pleut. C'est une supposition basée sur l'absence d'information.

La grande idée de l'article est de mapper ces deux outils informatiques directement sur ces deux types de logique. Ils suggèrent que lorsque nous disons « Il est nécessaire que P » (un fait), nous utilisons la Négation Forte. Mais quand nous disons « Il n'est pas nécessaire que P » (signifiant que P pourrait être faux, ou que nous ne le savons pas), nous utilisons la Négation par Défaut. Ce simple basculement permet à l'ordinateur de distinguer un fait dur d'une règle qui peut être transgressée.

L'approche de l'« Arbitre »

La partie la plus créative de l'article est la façon dont ils gèrent les obligations. Dans de nombreux systèmes anciens, une obligation telle que « Vous devez rendre la voiture » était traitée comme une commande qui force l'ordinateur à faire en sorte que la voiture soit rendue. Mais que se passe-t-il si la voiture est volée ? L'ordinateur planterait car il ne peut pas forcer le retour de la voiture.

Les auteurs proposent une approche différente : traiter les obligations comme des Contraintes Globales (ou des « dénis »). Imaginez un arbitre dans un match de football. L'arbitre ne force pas les joueurs à marquer ; l'arbitre se contente de siffler s'il y a une faute. Dans le système des auteurs, une obligation n'est pas une commande pour faire que quelque chose soit vrai ; c'est une règle qui dit : « Si vous êtes dans un monde où cette règle est enfreinte, ce monde est invalide ».

Par exemple, si la règle est « Vous devez porter une ceinture de sécurité », l'ordinateur ne vous force pas à la porter. Au lieu de cela, il établit une contrainte : « Tout monde où vous conduisez sans ceinture de sécurité est rejeté ». Si vous conduisez et que vous n'avez pas de ceinture, l'ordinateur dit simplement : « Ce scénario est impossible selon ces règles », et cherche un autre scénoire où vous avez une ceinture. Mais, surtout, si vous avez une raison valable de ne pas la porter (comme une urgence médicale), l'ordinateur peut « préempter » la règle. Il abandonne la contrainte pour cette situation spécifique, permettant au scénario d'exister sans provoquer de plantage.

Résoudre l'énigme de « Chisholm »

L'article brille particulièrement lorsqu'il résout le Paradoxe du Devoir Contraire (également connu sous le nom de Paradoxe de Chisholm). C'est un casse-tête logique célèbre qui se présente ainsi :

1. Tu devrais aller à la fête.
2. Si tu y vas, tu devrais prévenir ta mère.
3. Si tu n'y vas pas, tu ne devrais pas prévenir ta mère.
4. Tu n'y vas pas.

Dans les anciens systèmes logiques, cela crée un désordre. L'ordinateur essaie de déterminer si tu dois prévenir ta mère ou non, et finit par aboutir à une contradiction : tu devrais à la fois la prévenir et ne pas la prévenir. C'est comme si un robot se tapait un mal de crâne.

Les auteurs montrent que leur méthode de l'« Arbitre » résout cela instantanément. Ils configurent les règles comme des contraintes :

• Contrainte 1 : Si tu n'y vas pas, tu ne peux pas prévenir ta mère.
• Contrainte 2 : Si tu y vas, tu dois prévenir ta mère.

Lorsque l'ordinateur voit que tu n'y vas pas (Fait 4), il vérifie les contraintes. Il voit que la Contrainte 2 (la règle « Si tu y vas ») ne s'applique pas car la condition n'est pas remplie. Il examine ensuite la Contrainte 1. Puisque tu n'y vas pas, la règle dit « Ne pas prévenir ». L'ordinateur trouve facilement un monde valide où tu n'y vas pas et où tu n'as pas prévenu ta mère. Pas de contradiction, pas de mal de tête. Le « paradoxe » disparaît car les règles sont traitées comme des contraintes flexibles qui ne s'appliquent que lorsque leurs conditions sont remplies, plutôt que comme des commandes rigides qui s'affrontent.

Pourquoi est-ce important ?

Les auteurs ne se contentent pas de résoudre un seul puzzle ; ils démontrent que cette méthode fonctionne pour toute une famille de problèmes logiques, incluant le « paradoxe de Forrester » et le « dilemme de Sartre ». Ils démontrent qu'en utilisant l'ASP (Answer Set Programming) avec sa capacité intégrée à gérer les scénarios de type « et si ? » et les « exceptions », nous pouvons modéliser des systèmes éthiques et juridiques complexes de manière beaucoup plus naturelle qu'auparavant.

Ils montrent également comment cela gère les « obligations secondaires ». Imaginez que vous empruntiez la voiture d'un ami. Vous avez une règle principale : « Rendre la voiture ». Mais il existe des règles secondaires : « La rendre avant midi » et « La rendre avec la batterie pleine ». Si vous accidentez la voiture (une violation de la règle principale), les règles secondaires peuvent changer ou disparaître. Les auteurs montrent comment leur système peut « préempter » ces règles automatiquement. Si la voiture est accidentée, la contrainte « Rendre avant midi » est abandonnée car la condition (avoir une voiture à rendre) a disparu. L'ordinateur ne s'embrouille pas ; il met simplement à jour la liste des mondes valides.

L'essentiel

Cet article ne prétend pas avoir résolu tous les problèmes de l'éthique ou du droit. Il offre plutôt une boîte à outils propre et élégante pour construire des systèmes qui comprennent les règles. Il prouve qu'en traitant les « devoirs » comme des contraintes sur les mondes possibles plutôt que comme des commandes pour changer la réalité, nous pouvons construire des ordinateurs qui raisonnent sur les règles comme le font les humains : avec flexibilité, avec des exceptions, et sans rester bloqués dans des boucles logiques. Les auteurs suggèrent que cette approche est plus simple et plus directe que les méthodes précédentes, qui nécessitaient souvent des mathématiques complexes ou des « sanctions » (punitions) pour faire fonctionner la logique. En utilisant les outils déjà disponibles dans l'Answer Set Programming, ils ont montré que le chemin vers la compréhension des règles humaines pourrait être plus court et plus direct que nous ne le pensions.