🤖 AI

Anti-Goal Reasoning: Rethinking the Theory of Goal Reasoning in Non-Axiomatic Logic

Cet article traite de l'ambiguïté de la représentation de l'évitement au sein de la Logique Non-Axiomatique en introduisant un cadre distinct d'« anti-but » et une opération mentale de « prévention », résolvant ainsi les paradoxes où l'évitement d'un événement est confondu avec la poursuite de sa négation et permettant aux systèmes de distinguer clairement la poursuite, l'évitement passif, la prévention active et l'inaction.

Auteurs originaux : Bowen Xu

Publié 2026-07-24

📖 8 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Bowen Xu

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous construisez un robot qui doit apprendre à survivre dans un monde qu'il ne comprend pas totalement. Ce n'est pas un supercalculateur doté d'une carte parfaite de l'univers ; c'est plutôt comme un enfant curieux explorant une nouvelle aire de jeux avec une énergie limitée et n'ayant connaissance que d'une moitié des règles. C'est le monde de la Logique Non-Axiomatique (LNA). Dans ce domaine, les scientifiques tentent d'apprendre aux ordinateurs à être « adaptables », c'est-à-dire qu'ils peuvent apprendre, changer d'avis et prendre des décisions même lorsqu'ils ne possèdent pas tous les faits ou qu'ils manquent de temps pour réfléchir.

L'idée centrale ici est le Raisonnement sur les Objectifs (Goal Reasoning). Considérez un objectif comme un « vouloir ». Si un robot veut un cookie, il cherche un moyen d'en obtenir un. S'il voit que « marcher vers la cuisine » mène généralement à « obtenir un cookie », il décide de marcher. Mais que se passe-t-il quand le robot veut éviter quelque chose ? Et s'il veut éviter de recevoir une décharge ? Pendant longtemps, les informaticiens ont utilisé une méthode délicate pour gérer cet « évitement » qui a accidentellement créé un piège logique. Ils traitaient « éviter un choc » exactement de la même manière que « vouloir être en sécurité ». C'est comme dire à un robot : « Ne touche pas au feu », mais le robot entend : « Va trouver un endroit où il n'y a pas de feu », et décide alors que le meilleur moyen de trouver une zone sans feu est d'appuyer sur un bouton parce que, de manière générale, appuyer sur ce bouton entraîne habituellement de ne pas être brûlé. Déroutant, n'est-ce pas ? Ce document plonge dans cette confusion pour voir si nous pouvons réparer le cerveau du robot afin qu'il sache faire la différence entre fuir le danger et courir vers la sécurité.

Le grand malentendu du « Ne le fais pas »

Le document, écrit par Bowen Xu, commence par souligner une erreur absurde dans la façon dont nous disons aux ordinateurs de faire attention. Dans le système actuel (appelé NARS), si vous voulez que le robot évite un événement — appelons-le « Mal » (Hurt) — vous écrivez une commande qui ressemble à « Pas de Mal ! » (ou ¬Mal!).

Le problème est que l'ordinateur est confus par cette double négation. Il pense : « D'accord, l'utilisateur veut que 'Pas de Mal' se produise. Cela ressemble à un objectif ! Je devrais essayer de faire en sorte que 'Pas de Mal' arrive. » Ainsi, le robot commence à chercher des moyens de créer un événement « Pas de Mal ».

C'est ici que le paradoxe devient étrange. Imaginez un bouton.

Fait 1 : Si une lumière est allumée, appuyer sur le bouton provoque généralement du Mal.
Fait 2 : Si vous appuyez simplement sur le bouton au hasard (sans la lumière), cela résulte généralement en Pas de Mal.
L'Objectif : On dit au robot d'Éviter le Mal.

Parce que le robot traite « Éviter le Mal » comme « Faire en sorte que 'Pas de Mal' arrive », il regarde le Fait 2 et pense : « Hé ! Appuyer sur le bouton mène généralement à 'Pas de Mal' ! Je devrais appuyer sur le bouton ! »

Mais attendez ! Si la lumière est allumée, le Fait 1 dit qu'appuyer sur le bouton cause du Mal. Le robot est maintenant dans une boucle : il veut éviter le mal, donc il essaie de créer un « Pas de Mal », mais dans la situation spécifique où c'est dangereux, sa propre logique lui dit d'appuyer sur le bouton quand même, ce qui cause précisément le mal qu'il essaie d'éviter. C'est comme une personne essayant de rester au sec en appuyant sur un bouton parce qu'elle pense qu'appuyer sur le bouton la garde généralement au sec, même si elle se trouve actuellement sous un arroseur qui s'active lorsque le bouton est pressé.

La solution : Les « Anti-Objectifs » et le bouton « Prévenir »

L'auteur soutient que l'erreur provient du fait de traiter « éviter X » de la même manière que « vouloir 'non X' ». Pour corriger cela, le document propose un nouveau concept appelé Anti-Objectif (Anti-Goal).

Voyez cela comme ceci :

Un Objectif est un aimant qui vous attire vers quelque chose que vous voulez (comme un cookie).
Un Anti-Objectif est un aimant qui vous repousse loin de quelque chose que vous détestez (comme une araignée).

Dans l'ancien système, le robot ne possédait que des aimants qui attiraient. Si vous lui disiez d'éviter une araignée, il essayait simplement de se diriger vers « pas d'araignée », ce qui devenait problématique. Le nouveau système donne au robot un bouton de « poussée ». Quand le robot voit une araignée (l'Anti-Objectif), il ne cherche pas à trouver « pas d'araignée » ; il se repousse activement de l'araignée.

Le document introduit également une opération mentale spéciale appelée ⇑prévenir (pensez-y comme un interrupteur « Arrête ça ! »). Cela aide le robot à comprendre que parfois, pour éviter quelque chose de mauvais, il faut faire quelque chose de spécifique.

Par exemple, si le robot apprend que « Appuyer sur le bouton quand la lumière est allumée » empêche un incendie de se déclarer, il peut utiliser l'interrupteur ⇑prévenir. Il réalise : « Je veux éviter le feu. Appuyer sur le bouton prévient le feu. Par conséquent, je devrais appuyer sur le bouton ! » Cela diffère de simplement chercher un monde où le feu n'existe pas. C'est une stratégie active.

Tester le nouveau cerveau

Pour prouver que cela fonctionne, l'auteur a mené des simulations avec un petit robot très simple. Ils ont testé quatre scénarios différents pour voir si le robot pouvait déterminer quand agir et quand rester immobile :

Faire pour Réaliser : Le robot veut de la nourriture. Il apprend qu'appuyer sur un bouton apporte de la nourriture. Résultat ? Il appuie sur le bouton. (Succès !)
Ne pas Faire pour Éviter : Le robot veut éviter la douleur. Il apprend qu'appuyer sur un bouton cause de la douleur. Résultat ? Il ne presse pas le bouton. (Succès !)
Faire pour Éviter : Le robot veut éviter la douleur. Il apprend que ne pas appuyer sur le bouton mène à la douleur, mais que l'appuyer arrête la douleur. Résultat ? Il comprend qu'il doit appuyer sur le bouton pour prévenir la douleur. (Succès !)
Ne pas Faire pour Réaliser : Le robot veut de la nourriture. Il apprend qu'appuyer sur un bouton arrête l'apparition de la nourriture. Résultat ? Il ne presse pas le bouton, car faire cela ruinerait sa chance d'avoir de la nourriture. (Succès !)

Les simulations ont montré qu'avec les nouvelles règles d'« Anti-Objectif » et de « Prévention », le robot a cessé de commettre les erreurs paradoxales. Il a appris à appuyer sur le bouton quand cela était utile et à se retenir quand cela était nuisible, même lorsque la logique était complexe.

Pourquoi cela importe

Ce document ne prétend pas avoir construit un robot parfait ou résolu toute l'intelligence artificielle. C'est plutôt comme un mécanicien réparant un engrenage spécifique et confus dans un moteur. L'auteur suggère qu'en séparant clairement « vouloir quelque chose » de « éviter quelque chose », nous pouvons construire des systèmes adaptatifs plus intelligents qui ne se laissent pas piéger par leur propre logique.

Le document note également un point intéressant sur notre façon d'apprendre : les humains semblent trouver plus facile d'apprendre à faire des choses pour des récompenses et à arrêter des choses pour éviter les punitions, mais plus difficile d'apprendre à faire des choses pour éviter des punitions ou à arrêter des choses pour obtenir des récompenses. La nouvelle logique informatique reflète cette difficulté, suggérant que la partie « Prévention Active » (Cas 3 et 4 de l'étude) est naturellement plus difficile à apprendre car elle nécessite une pensée plus complexe.

En résumé, ce document donne aux robots un meilleur vocabulaire pour dire « Non ». Au lieu de simplement dire « Je veux 'Non X' », ils peuvent désormais dire « J'évite activement X », et ce petit changement les empêche d'appuyer sur le bouton simplement parce qu'il mène généralement à la sécurité, même quand le bouton est actuellement dangereux.

Résumé Technique : Le Raisonnement par Anti-Objectif dans la Logique Non-Axiomatique

Énoncé du Problème
L'article identifie une ambiguïté théorique critique dans l'implémentation actuelle du raisonnement par objectifs au sein de la Logique Non-Axiomatique (NAL), le fondement logique du Système de Raisonnement Non-Axiomatique (NARS). Bien que la NAL gère efficacement la réalisation d'événements désirés sous des conditions de connaissances et de ressources insuffisantes (AIKR), la représentation de l'évitement est mal définie. La convention prévalente traite « éviter l'événement $G$ » comme l'énoncé de l'objectif « $\neg G!$ » (poursuite de l'événement négatif). L'auteur démontre que cette confusion mène à un paradoxe : un système peut dériver un objectif positif de réaliser une action simplement parce que cette action est habituellement suivie de l'absence d'un résultat négatif, même lorsque l'action est aussi une cause connue de ce résultat négatif sous des conditions spécifiques.

Ce paradoxe découle de l'ambiguïté sémantique de la « négation de l'objectif ». La notation « $\neg G!$ » est utilisée pour représenter deux lectures logiques distinctes :

La poursuite d'un événement négé : Le système désire l'état où $G$ ne se produit pas (c'est-à-dire $(\neg G) \Rightarrow \tilde{D}$ ).
L'évitement d'un événement positif : Le système souhaite empêcher $G$ de se produire (c'est-à-dire $G \Rightarrow \neg \tilde{D}$ ).

Dans l'étude de cas du « pressage léger » présentée, le système infère incorrectement que presser un bouton est un moyen d'atteindre « l'absence de douleur » ( $\neg \text{douleur}!$ ) car presser mène généralement à l'absence de douleur. Cependant, cette inférence ignore le contexte spécifique où presser (sous un signal lumineux léger) provoque une douleur. Le système décide paradoxalement de presser le bouton pour « éviter la douleur », contredisant l'attente pratique qui serait de s'abstenir de l'action.

Méthodologie
L'article propose une extension minimale de la NAL qui sépare la représentation des objectifs et des anti-objectifs, passant d'un cadre de Logique d'Héritage (IL) idéalisé à la sémantique évidentielle de la NAL.

Séparation Formelle :
- Objectif ( $G!$ ) : Défini comme un événement que le système désire réaliser, représenté formellement comme $G \Rightarrow \tilde{D}$ , où $\tilde{D}$ est un terme virtuel résumant l'état désiré du système.
- Anti-Objectif ( $G¡$ ) : Défini comme un événement que le système désire éviter. Il est représenté formellement comme $G \Rightarrow \neg \tilde{D}$ , où $\neg \tilde{D}$ représente l'opposé de l'état désiré.
- L'article précise que « éviter $G$ » n'est pas équivalent à « poursuivre $\neg G$ ». Au contraire, éviter $G$ est la négation logique de l'énoncé de l'objectif lui-même : $\neg(G \Rightarrow \tilde{D})$ .
Fonctions de Valeur-Désir et de Valeur-Aversion :
- L'article redéfinit les fonctions de valeur-désir pour l'inférence inverse. Pour un objectif, la valeur-désir est la valeur de vérité de $G \Rightarrow \tilde{D}$ . Pour un anti-objectif, la valeur-aversion est la valeur de vérité de $G \Rightarrow \neg \tilde{D}$ .
- Les règles d'inférence pour les anti-objectifs sont construites symétriquement aux règles d'objectifs. Si une règle d'inférence directe existe (par exemple, la déduction), la règle inverse correspondante pour les anti-objectifs adopte la même formule de calcul que la fonction de valeur de vérité directe.
Prévention Active ( $\uparrow\text{prevent}$ ) :
- Pour combler l'écart entre l'évitement passif et l'intervention active, l'article introduit une opération mentale $\uparrow\text{prevent}$ .
- Si $G$ est un anti-objectif, prévenir $G$ devient un objectif positif ( $\uparrow\text{prevent}(G)! \equiv G¡$ ).
- Cette opération repose sur l'évidence contrastive : le système doit apprendre qu'une action conduit à l'absence d'un événement qui se produirait autrement (par exemple, presser empêche la douleur, tandis que ne pas presser mène à la douleur). Ceci est formalisé via une règle spécifique au niveau de l'objet (Éq. 13) nécessitant des observations négatives et une induction contrastive.

Contributions Clés
L'article apporte trois contributions théoriques primaires :

Résolution de l'Ambiguïté Sémantique : Il distingue la poursuite d'un événement négé de l'évitement d'un événement positif. En introduisant la forme explicite de l'anti-objectif ( $G¡$ ), le cadre empêche le paradoxe où les intentions d'évitement sont incorrectement converties en objectifs d'action positive basés sur des corrélations statistiques générales.
Principe pour les Fonctions de Valeur-Désir : Il établit un principe général pour dériver les fonctions de valeur-désir dans l'inférence motivationnelle inverse. Plutôt que d'assigner arbitrairement des fonctions, l'article soutient que les règles inverses devraient hériter de leurs formules de calcul de leurs règles directes correspondantes, assurant une cohérence logique entre la propagation de la valeur de vérité et de la valeur-désir.
Intégration de la Prévention Active : Il formalise le mécanisme par lequel un anti-objectif peut générer un plan d'action positif. À travers l'opération $\uparrow\text{prevent}$ et l'inférence contrastive, le système peut dériver un objectif d'agir spécifiquement pour prévenir un résultat indésirable, se distinguant ainsi de la simple abstention.

Résultats
Le cadre proposé a été validé par quatre études de cas minimales impliquant un système simulé avec babillage moteur et évaluation de récompense cumulative :

Faire pour Réaliser : Le système dérive correctement un objectif de presser un bouton pour obtenir de la nourriture.
Ne Pas Faire pour Éviter : Le système dérive correctement un anti-objectif de ne pas presser un bouton pour éviter la douleur (évitement passif).
Faire pour Éviter : Le système apprend une relation de prévention (presser empêche la douleur) et dérive correctement un objectif positif de presser le bouton pour éviter activement la douleur.
Ne Pas Faire pour Réaliser : Le système apprend que presser empêche la nourriture et dérive correctement un anti-objectif de ne pas presser le bouton, préservant ainsi l'événement désiré.

Dans tous les cas, le comportement du système était aligné avec les attentes théoriques. Spécifiquement, dans les cas « Faire pour Éviter » et « Ne Pas Faire pour Réaliser », le système a réussi à utiliser l'évidence contrastive pour basculer entre l'évitement passif et l'intervention ou la suppression active, une capacité qui était paradoxale sous l'ancienne convention de « l'objectif négé ».

Signification
L'article affirme que cette extension complète le cadre de raisonnement par objectifs de la NAL sans remplacer les théories existantes. En séparant les objectifs et les anti-objectifs, le système peut désormais gérer l'évitement avec la même précision évidentielle que la poursuite. Cette distinction permet au système de :

Différencier « ne rien faire » (s'abstenir d'agir) de « faire quelque chose pour prévenir ».
Éviter l'erreur logique où une corrélation générale (action $\to$ absence de douleur) l'emporte sur un risque causal spécifique (action sous la condition $X \to$ douleur).
Fournir une base formelle pour la prévention active, essentielle pour la découverte causale et le comportement adaptatif dans des environnements ouverts où les motivations sont incomplètes et révisables.

L'auteur note que bien que le cadre explique les asymétries comportementales observées dans l'apprentissage humain (par exemple, agir pour une récompense vs s'abstenir pour une punition), le présent travail se concentre strictement sur l'extension logique de la NAL, laissant la modélisation détaillée de l'acquisition motivationnelle à des recherches futures.

Le grand malentendu du « Ne le fais pas »

La solution : Les « Anti-Objectifs » et le bouton « Prévenir »

Tester le nouveau cerveau

Pourquoi cela importe

Articles similaires