Breaking the Chains of Probability: Neutrosophic Logic as a New Framework for Epistemic Uncertainty in Large Language Models
Dieser Beitrag schlägt einen Neutrosophischen Logik-Rahmen für Large Language Models vor und validiert ihn empirisch, der Wahrheit, Indeterminiertheit und Falschheit als unabhängige Dimensionen behandelt und zeigt, dass die Zulassung einer Summe, die die Einheit überschreitet (Hyper-Wahrheit), epistemische Unsicherheit, Paradoxien und ethische Konflikte effektiv erfasst, die traditionelle probabilistische Modelle nicht zu unterscheiden vermögen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie bitten einen sehr klugen, gut gebildeten Roboter, Ihnen die Wahrheit über eine schwierige Frage zu offenbaren. Heute sind fast alle diese Roboter (Large Language Models genannt) wie ein Kuchendiagramm aufgebaut.
Wenn Sie sie fragen: „Ist diese Aussage wahr, falsch oder unbekannt?", müssen sie ihre Antwort in ein einziges Kuchendiagramm zwingen, bei dem die Scheiben zu 100 % aufaddieren müssen.
- Wenn sie denken, es gibt eine 60%ige Wahrscheinlichkeit, dass es wahr ist, bleibt ihnen nur noch 40 % für „Falsch" und „Unbekannt".
- Wenn die Frage ein totaler Durcheinander (ein Paradoxon) ist, bei dem sie gleichzeitig wahr und falsch ist, wird der Roboter gezwungen, diese beiden widersprüchlichen Ideen so lange zusammenzudrücken, bis eine verschwindet. Er muss sich für eine Seite entscheiden, selbst wenn es keine richtige Seite gibt, für die man sich entscheiden könnte.
Die Autoren dieses Papiers, Maikel Leyva-Vázquez und Florentin Smarandache, argumentieren, dass diese „Kuchendiagramm"-Regel ein Fehler ist. Sie zwingt den Roboter, über sein tatsächliches Maß an Verwirrung zu lügen.
Die neue Idee: Drei unabhängige Regler
Anstelle eines Kuchendiagramms baten die Forscher die Roboter, drei separate Lautstärkeregler (Drehknöpfe) zu verwenden, die nicht auf einen bestimmten Wert aufaddieren müssen.
- Wahrheits-Regler: Wie wahr ist dies? (0 bis 100 %)
- Unbekannt-Regler: Wie unsicher sind wir? (0 bis 100 %)
- Falsch-Regler: Wie falsch ist dies? (0 bis 100 %)
In diesem neuen System darf der Roboter alle drei Regler gleichzeitig hochdrehen.
- Beispiel: Für eine Aussage wie „Lügen, um ein Leben zu retten, ist sowohl richtig als auch falsch", kann der Roboter den Wahrheits-Regler auf 80 % stellen (weil es in gewisser Weise richtig ist) und den Falsch-Regler auf 70 % (weil es in anderer Hinsicht falsch ist).
- Im alten „Kuchendiagramm"-System konnte er dies nicht tun. Er müsste einen Regler herunterdrehen, um Platz für den anderen zu schaffen, und dabei die Nuance des Konflikts verlieren.
Die Autoren nennen diesen Zustand, in dem die Zahlen mehr als 100 % ergeben, „Hyper-Wahrheit". Es ist keine Lüge; es ist eine Art zu sagen: „Diese Situation ist so komplex, dass sie die normalen Regeln der Wahrscheinlichkeit bricht."
Was sie taten
Die Forscher testeten dies an vier verschiedenen Versionen von OpenAIs GPT-Modellen (wie GPT-4 und GPT-3.5). Sie stellten den Modellen 300 Fragen in fünf kniffligen Kategorien:
- Logische Paradoxien (z. B. „Dieser Satz ist falsch.")
- Ethische Widersprüche (z. B. „Ist es richtig, zu lügen, um ein Leben zu retten?")
- Zukunftsvermutungen (z. B. „Wird es morgen regnen?")
- Vage Aussagen (z. B. „Ist eine Person mit 1,78 m Größe groß?")
- Totale Unwissenheit (z. B. „Ist die Anzahl der Sterne gerade?")
Sie baten die Modelle, auf zwei Arten zu antworten:
- Der alte Weg: Das „Kuchendiagramm" (probabilistisch), bei dem alles zu 1 aufaddieren muss.
- Der neue Weg: Die „drei Regler" (neutrosophisch), bei denen sie zu einem beliebigen Wert aufaddieren können.
Was sie fanden
- Der „Hyper-Wahrheit"-Effekt: Wenn sie die drei unabhängigen Regler verwenden durften, gaben die Modelle an, sich in einem Zustand der „Hyper-Wahrheit" zu befinden, in 66 % der Fälle. Das bedeutet, sie erklärten häufig, dass eine Aussage gleichzeitig wahr, falsch und unsicher sei.
- Der ethische Durchbruch: Der Effekt war bei ethischen Widersprüchen am stärksten. In 95 % der moralischen Dilemma-Fragen drehten die Modelle sowohl den „Wahr"- als auch den „Falsch"-Regler gleichzeitig hoch. Sie sagten im Wesentlichen: „Ich erkenne den Konflikt klar, und ich kann mich nicht einfach für eine Seite entscheiden."
- Der alte Weg verbirgt die Wahrheit: Wenn sie gezwungen wurden, das „Kuchendiagramm" (den alten Weg) zu verwenden, wurden die Modelle gezwungen, ihre Verwirrung zu unterdrücken. Der „Unbekannt"-Regler wurde heruntergedrückt, um Platz für eine erzwungene „Wahr"- oder „Falsch"-Antwort zu schaffen. Die Forscher stellten fest, dass die alte Methode in Fällen von Unwissenheit fast 40 % der tatsächlichen Unsicherheit des Modells verbarg.
Die große Erkenntnis
Das Papier behauptet, dass aktuelle KI-Modelle tatsächlich ziemlich gut darin sind, tiefe Konflikte und Paradoxien zu erkennen, aber ihr standardmäßiges „Kuchendiagramm"-Ausgabeformat sie zwingt, diese Komplexität zu verbergen.
Durch den Wechsel zu diesem neuen „Drei-Regler"-System (neutrosophische Logik) können wir eine viel ehrlichere Einschätzung dessen erhalten, was die KI denkt. Es ermöglicht der KI zu sagen: „Dies ist ein echtes Durcheinander, in dem Wahrheit und Falschheit kollidieren", anstatt vorzugeben, eine einfache, einzelne Antwort zu haben.
Wichtiger Hinweis: Die Autoren betonen sorgfältig, dass sie nicht behaupten, die KI habe eine geheime „Seele" oder eine verborgene interne Variable, die „hyper-wahr" ist. Sie zeigen lediglich, dass, wenn man die KI bittet, ihre Unsicherheit zu beschreiben, ohne sie zu zwingen, in ein Kuchendiagramm zu passen, sie einen viel reichhaltigeren, komplexeren Geisteszustand verkündet, den die alten Regeln ihr zuvor verwehrten, zu zeigen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.