🤖 AI

Anti-Goal Reasoning: Rethinking the Theory of Goal Reasoning in Non-Axiomatic Logic

Diese Arbeit adressiert die Mehrdeutigkeit bei der Darstellung von Vermeidung innerhalb der Nicht-Axiomatischen Logik durch die Einführung eines distinkten „Anti-Ziel“-Frameworks und einer „Verhindern“-Mentaloperation, wodurch Paradoxien gelöst werden, bei denen das Vermeiden eines Ereignisses mit dem Verfolgen dessen Negation verwechselt wird, und ermöglicht Systemen, klar zwischen Verfolgung, passiver Vermeidung, aktiver Prävention und Untätigkeit zu unterscheiden.

Ursprüngliche Autoren: Bowen Xu

Veröffentlicht 2026-07-24

📖 7 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Bowen Xu

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie bauen einen Roboter, der herausfinden muss, wie er in einer Welt überlebt, die er nicht vollständig versteht. Er ist kein Supercomputer mit einer perfekten Karte des Universums; er ist eher wie ein neugieriges Kind, das einen neuen Spielplatz erkundet, mit begrenzter Energie und nur einem halben Satz an Regeln. Dies ist die Welt der Nicht-Axiomatischen Logik (NAL). In diesem Bereich versuchen Wissenschaftler, Computern beizubringen, wie man „adaptiv“ ist – was bedeutet, dass sie lernen, ihre Meinung ändern und Entscheidungen treffen können, selbst wenn sie nicht alle Fakten kennen oder nicht genug Zeit zum Nachdenken haben.

Der Kernaspekt hier ist das Ziel-Reasoning (Goal Reasoning). Stellen Sie sich ein Ziel als ein „Wollen“ vor. Wenn ein Roboter einen Keks möchte, sucht er nach einem Weg, um einen zu bekommen. Wenn er sieht, dass „der Gang in die Küche“ normalerweise zu „einem Keks bekommen“ führt, entscheidet er sich, zu gehen. Aber was passiert, wenn der Roboter etwas vermeiden will? Was, wenn er vermeiden will, einen Schlag zu bekommen? Lange Zeit hatten Informatiker eine knifflige Art, mit diesem „Vermeiden“ umzugehen, die versehentlich eine logische Falle erzeugte. Sie behandelten das „Vermeiden eines Schlags“ exakt so wie das „Wollen von Sicherheit“. Es ist, als würde man einem Roboter sagen: „Berühre das Feuer nicht“, aber der Roboter hört: „Finde einen Ort, an dem kein Feuer ist“, und entscheidet dann, dass der beste Weg, eine feuerfreie Zone zu finden, darin besteht, einen Knopf zu drücken, weil das Drücken dieses Knopfes im Allgemeinen dazu führt, dass man nicht verbrannt wird. Verwirrend, oder? Dieses Paper taucht in diese Verwirrung ein, um zu sehen, ob wir das Gehirn des Roboters so reparieren können, dass er den Unterschied versteht, zwischen vor Gefahr weglaufen und zu Sicherheit laufen.

Das große „Tu es nicht“-Missverständnis

Das Paper, geschrieben von Bowen Xu, beginnt mit dem Hinweis auf einen törichten Fehler in der Art und Weise, wie wir Computern beibringen, vorsichtig zu sein. In dem aktuellen System (genannt NARS) schreibt man, wenn man möchte, dass der Roboter ein Ereignis vermeidet – nennen wir es „Verletzung“ (Hurt) – einen Befehl, der wie „Nicht Verletzung!“ (oder ¬Hurt!) aussieht.

Das Problem ist, dass der Computer durch diese doppelte Verneinung verwirrt wird. Er denkt: „Okay, der Benutzer will ‚Nicht Verletzung‘. Das klingt nach einem Ziel! Ich sollte versuchen, ‚Nicht Verletzung‘ geschehen zu lassen.“ Also beginnt der Roboter nach Wegen zu suchen, um ein „Nicht Verletzung“-Ereignis zu erzeugen.

Hier wird das Paradoxon seltsam. Stellen Sie sich einen Knopf vor.

Fakt 1: Wenn ein Licht an ist, führt das Drücken des Knopfes normalerweise zu Verletzung.
Fakt 2: Wenn man den Knopf einfach wahllos drückt (ohne das Licht), führt dies normalerweise zu Keiner Verletzung.
Das Ziel: Der Roboter wird angewiesen, Verletzung zu vermeiden.

Weil der Roboter „Vermeide Verletzung“ so behandelt wie „Mache ‚Keine Verletzung‘ geschehen“, sieht er Fakt 2 und denkt: „Hey! Das Drücken des Knopfes führt normalerweise zu ‚Keiner Verletzung‘! Ich sollte den Knopf drücken!“

Aber warten Sie! Wenn das Licht an ist, sagt Fakt 1, dass das Drücken des Knopfes zu Verletzung führt. Der Roboter befindet sich nun in einer Schleife: Er will Verletzung vermeiden, also versucht er, „Keine Verletzung“ zu erzeugen, aber in der spezifischen Situation, in der es gefährlich ist, sagt ihm seine eigene Logik, dass er den Knopf trotzdem drücken soll, was genau die Verletzung verursacht, die er zu vermeiden versucht. Es ist, als wäre man eine Person, die versucht, trocken zu bleiben, indem man einen Knopf drückt, weil man denkt, dass das Drücken des Knopfes normalerweise dazu führt, trocken zu bleiben, obwohl man gerade unter einem Sprinkler steht, der aktiviert wird, wenn man den Knopf drückt.

Die Lösung: „Anti-Ziele“ und der „Verhindern“-Knopf

Der Autor argumenttiert, dass der Fehler daher rührt, dass „das Vermeiden von X“ als „das Wollen von ‚Nicht X‘“ behandelt wird. Um dies zu beheben, schlägt das Paper ein neues Konzept namens Anti-Ziel (Anti-Goal) vor.

Stellen Sie es sich so vor:

Ein Ziel (Goal) ist ein Magnet, der dich zu etwas zieht, das du willst (wie ein Keks).
Ein Anti-Ziel (Anti-Goal) ist ein Magnet, der dich von etwas wegdrückt, das du hasst (wie eine Spinne).

Im alten System hatte der Roboter nur Magneten, die zogen. Wenn man ihm sagte, er solle eine Spinne vermeiden, versuchte er nur, sich zu einem „Keine Spinne“ hinzuziehen, was problematisch wurde. Das neue System gibt dem Roboter einen „Druck“-Knopf. Wenn der Robbot eine Spinne sieht (das Anti-Ziel), versucht er nicht, ein „Kein Spinne“ zu finden; er drückt sich aktiv von der Spinne weg.

Das Paper führt auch eine spezielle mentale Operation namens ⇑prevent ein (denken Sie an einen „Stopp-das!“-Schalter). Dies hilft dem Roboter zu verstehen, dass man manchmal, um etwas Schlechtes zu vermeiden, etwas Spezifisches tun muss.

Zum Beispiel, wenn der Roboter lernt, dass „das Drücken des Knopfes, wenn das Licht an ist“, verhindert, dass ein Feuer ausbricht, kann er den ⇑prevent-Schalter nutzen. Er erkennt: „Ich will das Feuer vermeiden. Das Drücken des Knopfes verhindert das Feuer. Daher sollte ich den Knopf drücken!“ Dies ist anders als nur zu versuchen, eine Welt zu finden, in der es kein Feuer gibt. Es ist eine aktive Strategie.

Das Testen des neuen Gehirns

Um zu beweisen, dass dies funktioniert, führte der Autor Simulationen mit einem winzigen, einfachen Roboter durch. Er testete vier verschiedene Szenarien, um zu sehen, ob der Roboter herausfinden konnte, wann er handeln und wann er stillhalten sollte:

Tun, um zu realisieren (Do to Realize): Der Roboter will Nahrung. Er lernt, dass das Drücken eines Knopfes Nahrung bringt. Ergebnis? Er drückt den Knopf. (Erfolg!)
Nicht tun, um zu vermeiden (Not Do to Avoid): Der Roboter will Schmerz vermeiden. Er lernt, dass das Drücken eines Knopfes Schmerz verursacht. Ergebnis? Er drückt den Knopf nicht. (Erfolg!)
Tun, um zu vermeiden (Do to Avoid): Der Roboter will Schmerz vermeiden. Er lernt, dass das Nicht-Drücken des Knopfes zu Schmerz führt, aber das Drücken ihn stoppt. Ergebnis? Er findet heraus, dass er den Knopf drücken muss, um den Schmerz zu verhindern (prevent). (Erfolg!)
Nicht tun, um zu realisieren (Not Do to Realize): Der Roboter will Nahrung. Er lernt, dass das Drücken eines Knopfes verhindert, dass Nahrung erscheint. Ergebnis? Er drückt den Knopf nicht, da dies seine Chance ruinieren würde, Nahrung zu bekommen. (Erfolg!)

Die Simulationen zeigten, dass der Roboter mit den neuen „Anti-Ziel“- und „Prevent“-Regeln die paradoxen Fehler nicht mehr machte. Er lernte, den Knopf zu drücken, wenn es hilfreich war, und sich zurückzuhalten, wenn es schädlich war, selbst wenn die Logik knifflig war.

Warum das wichtig ist

Dieses Paper behauptet nicht, einen perfekten Roboter gebaut oder die gesamte künstliche Intelligenz gelöst zu haben. Es ist eher wie ein Mechaniker, der ein spezifisches, verwirrendes Zahnrad im Motor repariert. Der Autor legt nahe, dass wir, indem wir klar zwischen „etwas wollen“ und „etwas vermeiden“ unterscheiden, intelligentere adaptive Systeme bauen können, die nicht durch ihre eigene Logik stolpern.

Das Paper stellt auch etwas Interessantes darüber fest, wie wir lernen: Menschen scheinen es leichter zu finden, Dinge zu tun, um Belohnungen zu erhalten, und Dinge zu stoppen, um Bestrafung zu vermeiden, aber schwerer zu lernen, Dinge zu tun, um Bestrafung zu vermeiden oder Dinge zu stoppen, um Belohnungen zu erhalten. Die neue Computerlogik spiegelt diese Schwierigkeit wider, was darauf hindeutet, dass der Teil der „Aktiven Prävention“ (Fall 3 und 4 der Studie) natürlich schwieriger zu lernen ist, da er komplexeres Denken erfordert.

Kurz gesagt gibt dieses Paper Robotern ein besseres Vokabular, um „Nein“ zu sagen. Anstatt nur zu sagen „Ich will ‚Nicht X‘“, können sie nun sagen „Ich vermeide X aktiv“, und diese kleine Änderung verhindert, dass sie den Knopf drücken, nur weil er normalerweise zu Sicherheit führt, selbst wenn der Knopf in diesem Moment gefährlich ist.

Technische Zusammenfassung: Anti-Ziel-Schlussfolgerung in der nicht-axiomatischen Logik

Problemstellung
Die Arbeit identifiziert eine kritische theoretische Ambiguität in der aktuellen Implementierung des Ziel-Reasoning innerhalb der nicht-axiomatischen Logik (Non-Axiomatic Logic, NAL), der logischen Grundlage des Non-Axiomatic Reasoning Systems (NARS). Während NAL die Realisierung erwünschter Ereignisse unter unzureichendem Wissen und Ressourcen (AIKR) effektiv handhabt, ist die Repräsentation von Vermeidung unzureichend definiert. Die vorherrschende Konvention behandelt das „Vermeiden eines Ereignisses $G$ “ als das Ziel-Satz „ $\neg G!$ “ (Verfolgung des negierten Ereignisses). Der Autor zeigt auf, dass diese Konflation zu einem Paradoxon führt: Ein System kann ein positives Ziel zur Ausführung einer Aktion ableiten, nur weil diese Aktion normalerweise mit dem Ausbleiben eines negativen Ergebnisses einhergeht, selbst wenn die Aktion unter spezifischen Bedingungen auch eine bekannte Ursache dieses negativen Ergebnisses ist.

Dieses Paradoxon entsteht aus der semantischen Ambiguität der „Ziel-Negation“. Die Notation „ $\neg G!$ “ wird verwendet, um zwei unterschiedliche logische Lesarten darzustellen:

Verfolgung eines negierten Ereignisses: Das System wünscht sich den Zustand, in dem $G$ nicht eintritt (d. h. $(\neg G) \Rightarrow \tilde{D}$ ).
Vermeidung eines positiven Ereignisses: Das System wünscht sich zu verhindern, dass $G$ eintritt (d. h. $G \Rightarrow \neg \tilde{D}$ ).

In der Fallstudie „Light-Press“ (leichter Druck) stellt das System fälschlicherweise fest, dass das Drücken eines Knopfes ein Mittel ist, um „keinen Schmerz“ ( $\neg \text{hurt}!$ ) zu erreichen, da das Drücken im Allgemeinen zu keinem Schmerz führt. Diese Schlussfolgerung ignoriert jedoch den spezifischen Kontext, in dem das Drücken (unter einem Lichtsignal) Schmerz verursacht. Das System entscheidet paradoxerweise, den Knopf zu drücken, um „Schmerz zu vermeiden“, was der praktischen Erwartung widerspricht, dass es die Handlung unterlassen sollte.

Methodik
Die Arbeit schlägt eine minimale Erweiterung der NAL vor, die die Repräsentation von Zielen und Anti-Zielen trennt und damit von einem idealisierten Inheritance Logic (IL)-Framework zu der evidenzbasierten Semantik der NAL übergeht.

Formale Trennung:
- Ziel ( $G!$ ): Definiert als ein Ereignis, das das System realisieren möchte, formal repräsentiert als $G \Rightarrow \tilde{D}$ , wobei $\tilde{D}$ ein virtueller Term ist, der den gewünschten Zustand des Systems zusammenfasst.
- Anti-Ziel ( $G¡$ ): Definiert als ein Ereignis, das das System vermeiden möchte. Dies wird formal als $G \Rightarrow \neg \tilde{D}$ repräsentiert, wobei $\neg \tilde{D}$ das Gegenteil des gewünschten Zustands darstellt.
- Die Arbeit klärt, dass „das Vermeiden von $G$ “ nicht äquivalent zum „Verfolgen von $\neg G$ “ ist. Stattdessen ist das Vermeiden von $G$ die logische Negation der Ziel-Aussage selbst: $\neg(G \Rightarrow \tilde{D})$ .
Desire-Value- und Aversion-Value-Funktionen:
- Die Arbeit definiert die Desire-Value-Funktionen für die Rückwärts-Inferenz neu. Für ein Ziel ist der Desire-Value der Wahrheitswert von $G \Rightarrow \tilde{D}$ . Für ein Anti-Ziel ist der Aversion-Value der Wahrheitswert von $G \Rightarrow \neg \tilde{D}$ .
- Die Inferenzregeln für Anti-Ziele werden symmetrisch zu den Ziel-Regeln konstruiert. Wenn eine Vorwärts-Inferenzregel existiert (z. B. Deduktion), übernimmt die entsprechende Rückwärts-Regel für Anti-Ziele dieselbe Berechnungsformel wie die Vorwärts-Wahrheitswertfunktion.
Aktive Prävention ( $\uparrow\text{prevent}$ ):
- Um die Lücke zwischen passiver Vermeidung und aktiver Intervention zu schließen, führt die Arbeit eine mentale Operation $\uparrow\text{prevent}$ ein.
- Wenn $G$ ein Anti-Ziel ist, wird das Verhindern von $G$ zu einem positiven Ziel ( $\uparrow\text{prevent}(G)! \equiv G¡$ ).
- Diese Operation stützt sich auf kontrastive Evidenz: Das System muss lernen, dass eine Aktion dazu führt, dass ein Ereignis, das ansonsten eintreten würde, ausbleibt (z. B. Drücken verhindert Schmerz, während Nicht-Drücken zu Schmerz führt). Dies wird über eine spezifische Objekt-Ebene-Regel (Gl. 13) formalisiert, die negative Beobachtungen und kontrastive Induktion erfordert.

Wesentliche Beiträge
Die Arbeit leistet drei primäre theoretische Beiträge:

Auflösung der semantischen Ambiguität: Sie unterscheidet zwischen der Verfolgung eines negierten Ereignisses und der Vermeidung eines positiven Ereignisses. Durch die Einführung der expliziten Anti-Ziel-Form ( $G¡$ ) verhindert das Framework das Paradoxon, bei dem Vermeidungsintentionen fälschlicherweise aufgrund allgemeiner statistischer Korrelationen in positive Handlungsziele umgewandelt werden.
Prinzip für Desire-Value-Funktionen: Sie etabliert ein allgemeines Prinzip für die Ableitung von Desire-Value-Funktionen in der motivatorischen Rückwärts-Inferenz. Anstatt Funktionen willkürlich zuzuweisen, argumentiert die Arbeit, dass Rückwärts-Regeln ihre Berechnungsformeln von den entsprechenden Vorwärts-Inferenzregeln erben sollten, um die logische Konsistenz zwischen Wahrheitswert- und Desire-Value-Propagation zu gewährleisten.
Integration der aktiven Prävention: Sie formalisiert den Mechanismus, durch den ein Anti-Ziel einen positiven Aktionsplan generieren kann. Durch die $\uparrow\text{prevent}$ -Operation und kontrastive Inferenz kann das System lernen, gezielt zu handeln, um ein unerwünschtes Ereignis zu verhindern, wodurch es sich von der bloßen Unterlassung einer Handlung unterscheidet.

Ergebnisse
Der vorgeschlagene Rahmen wurde durch vier minimale Fallstudien validiert, die ein simuliertes System mit motorischem Babbling und kumulativer Belohnungsevaluierung umfassten:

Tun, um zu realisieren (Do to Realize): Das System leitet korrekt ein Ziel ab, einen Knopf zu drücken, um Nahrung zu erhalten.
Nicht tun, um zu vermeiden (Not Do to Avoid): Das System leitet korrekt ein Anti-Ziel ab, einen Knopf nicht zu drücken, um Schmerz zu vermeiden (passive Vermeidung).
Tun, um zu vermeiden (Do to Avoid): Das System lernt eine Präventionsrelation (Drücken verhindert Schmerz) und leitet korrekt ein positives Ziel ab, den Knopf zu drücken, um Schmerz aktiv zu vermeiden.
Nicht tun, um zu realisieren (Not Do to Realize): Das System lernt, dass Drücken Nahrung verhindert, und leitet korrekt ein Anti-Ziel ab, den Knopf nicht zu drücken, um das gewünschte Ereignis zu bewahren.

In allen Fällen entsprach das Verhalten des Systems den theoretischen Erwartungen. Insbesondere in den Fällen „Do to Avoid“ und „Not Do to Realize“ konnte das System erfolgreich zwischen passiver Vermeidung und aktiver Intervention oder Unterdrückung wechseln – eine Fähigkeit, die unter der vorherigen „negierter Ziel“-Konvention paradox gewesen wäre.

Bedeutung
Die Arbeit behauptet, dass diese Erweiterung den Ziel-Reasoning-Rahmen der NAL vervollständigt, ohne bestehende Theorien zu ersetzen. Durch die Trennung von Zielen und Anti-Zielen kann das System Vermeidung nun mit derselben evidenzbasierten Präzision wie das Verfolgen handhaben. Die Unterscheidung ermöglicht es dem System:

Zwischen „Nichts tun“ (Unterlassen einer Handlung) und „Etwas tun, um zu verhindern“ zu unterscheiden.
Den logischen Fehler zu vermeiden, bei dem eine allgemeine Korrelation (Aktion $\to$ kein Schmerz) eine spezifische kausale Gefahr (Aktion unter Bedingung $X \to$ Schmerz) überschreibt.
Eine formale Basis für aktive Prävention zu bieten, die für kausale Entdeckung und adaptives Verhalten in offenen Umgebungen, in denen Motivationen unvollständig und revidierbar sind, essenziell ist.

Der Autor merkt an, dass, während das Framework die beobachteten Asymmetrien im menschlichen Lernen erklärt (z. B. Handeln für Belohnung vs. Zurückhalten für Bestrafung), sich die vorliegende Arbeit strikt auf die logische Erweiterung der NAL konzentriert und die detaillierte Modellierung des Erwerbs von Motivationen der zukünftigen Forschung überlässt.

Das große „Tu es nicht“-Missverständnis

Die Lösung: „Anti-Ziele“ und der „Verhindern“-Knopf

Das Testen des neuen Gehirns

Warum das wichtig ist

Mehr davon