Position: Logical Soundness is not a Reliable Criterion for Neurosymbolic Fact-Checking with LLMs

Titel: Logische Korrektheit ist kein zuverlässiges Kriterium für neurosymbolische Faktenprüfung mit LLMs

Autoren: Jason Chan, Robert Gaizauskas & Zhixue Zhao (University of Sheffield)

1. Problemstellung

Die Integration von Large Language Models (LLMs) in Pipelines zur automatisierten Faktenprüfung (Fact-Checking) hat zwar Fortschritte gebracht, birgt jedoch weiterhin Risiken wie Halluzinationen, Bias und logische Inkonsistenzen. Um diese Mängel zu beheben, wurde ein wachsender Ansatz der neurosymbolischen KI vorgeschlagen.

• Der aktuelle Paradigmen: In diesem Ansatz werden LLMs als semantische Parser verwendet, um natürliche Sprache in formale logische Formeln (z. B. Prädikatenlogik erster Stufe, FOL) zu übersetzen. Diese Formeln werden dann gegen eine verifizierte Wissensbasis geprüft.
• Die Annahme: Es wird angenommen, dass eine Behauptung, die logisch korrekt (sound) aus wahren Prämissen abgeleitet werden kann, automatisch als wahr und akzeptabel gilt.
• Das Kernproblem: Die Autoren argumentieren, dass diese Annahme einen kritischen Blindspot aufweist. Logische Korrektheit ist kein zuverlässiges Kriterium zur Erkennung irreführender Informationen. Der Grund liegt in der systematischen Diskrepanz zwischen formal-logischen Operationen und den Schlussfolgerungen, die Menschen tatsächlich ziehen und akzeptieren. Eine logisch valide Aussage kann für den menschlichen Leser dennoch irreführend sein, weil sie implizite Bedeutungen (Pragmatik) weckt, die logisch nicht gedeckt sind.

2. Methodik und theoretischer Rahmen

Das Papier stützt sich nicht auf neue experimentelle Datensätze, sondern auf eine konzeptionelle Analyse, die Erkenntnisse aus der Kognitionswissenschaft, der Linguistik (Pragmatik) und der Logik synthetisiert.

• Typologie der Diskrepanzen: Die Autoren entwickeln eine Klassifizierung von Fällen, in denen logisch korrekte Schlussfolgerungen zu ungestützten menschlichen Inferenzen führen. Sie nutzen etablierte Theorien wie:

  • Theorie der mentalen Modelle (Johnson-Laird): Menschen interpretieren Disjunktionen ("A oder B") oft als Konjunktion von Möglichkeiten, was zu falschen Annahmen über die Wahrscheinlichkeit von B führt.
  • Grice'sche Maximen: Prinzipien der Konversation (z. B. Quantität, Qualität) führen dazu, dass Menschen Konditionale als "nur dann, wenn" (Bikonditional) interpretieren, obwohl die formale Logik sie als "wenn" (Materialimplication) behandelt.
  • Konjunktions-Stützung (Conjunction Buttressing): Menschen interpretieren zeitliche Abfolgen in Sätzen oft als kausale Zusammenhänge.

• Analysebeispiel:

  • Prämisse (S1): "Die Zölle für Frankreich steigen um 10%."
  • Logisch valide Ableitung (S2): "Die Zölle für Frankreich steigen entweder um 10% oder um 100%." (Regel: Disjunktionseinführung $A \vdash A \lor B$).
  • Logische Bewertung: S2 ist wahr, da S1 wahr ist.
  • Menschliche Inferenz (S2-I): "Es ist möglich, dass die Zölle um 100% steigen."
  • Ergebnis: Die logisch korrekte Aussage S2 suggeriert dem Menschen eine Möglichkeit (100% Anstieg), die in der Prämisse S1 gar nicht existiert. Das System würde S2 als "wahr" markieren, obwohl es irreführend ist.

3. Schlüsselbeiträge

1. Kritik am neurosymbolischen Paradigma: Die Autoren widerlegen die Annahme, dass formale Logik allein ausreicht, um die Zuverlässigkeit von Faktenprüfungen zu garantieren. Sie zeigen auf, dass logische Soundness systematisch versagt, wenn es darum geht, "Halbwahrheiten" oder irreführende Implikationen zu erkennen.
2. Neue Perspektive auf LLM-Fähigkeiten: Statt menschliche Inferenzmuster in LLMs (die oft von der formalen Logik abweichen) als "Bugs" oder Fehler zu betrachten, argumentieren die Autoren, dass diese als Features genutzt werden sollten. LLMs besitzen die Fähigkeit, menschliche pragmatische Schlussfolgerungen zu modellieren.
3. Empfehlung für hybride Architekturen: Statt LLMs zu zwingen, sich strikt an formale Logik zu halten, sollten sie genutzt werden, um die Ausgaben formaler Komponenten auf potenzielle Irreführungen zu überprüfen. Die LLMs sollten als Filter dienen, der erkennt, ob eine formal korrekte Aussage für den Menschen irreführend wirkt.

4. Ergebnisse und Argumentation

Die Analyse führt zu drei zentralen Implikationen:

• A) LLMs haben das Potenzial, menschliche Inferenzen zu modellieren und irreführende Schlussfolgerungen zu erkennen, die rein logische Systeme übersehen.
• B) Die Forschung sollte sich auf die menschlichen Tendenzen von LLMs konzentrieren, nicht nur als Fehlerquellen, sondern als Werkzeuge zur Validierung von pragmatischer Angemessenheit.
• C) Das Training von LLMs für das Reasoning sollte nicht darauf abzielen, strikte formale Logik zu erzwingen, da dies die notwendigen pragmatischen Sensitivitäten unterdrücken würde, die für die Entdeckung von Irreführung nötig sind.

Gegenargumente (und Widerlegungen):

• Einwand: Man könnte einfach ein zusätzliches Kriterium X hinzufügen.
  • Widerlegung: Dies führt zu falsch-positiven Ergebnissen, da viele menschlich akzeptable Schlussfolgerungen formal ungültig sind.
• Einwand: Irreführung erfolgt meist durch einfache Aussagen, nicht durch komplexe logische Verknüpfungen.
  • Widerlegung: LLMs können optimiert werden, um komplexe, logisch valide, aber irreführende Aussagen zu generieren, die Logik-Filter umgehen.
• Einwand: Man kann die Logik-Ableitungen den Nutzern zeigen.
  • Widerlegung: Nutzer können diese oft nicht interpretieren, und wenn LLMs die Interpretation übernehmen, tritt das Problem erneut auf.

5. Bedeutung und Ausblick

Die Arbeit hat weitreichende Konsequenzen für die Entwicklung von KI-Systemen zur Bekämpfung von Desinformation:

• Paradigmenwechsel: Sie fordert einen Wechsel weg von der reinen "Logik-Validierung" hin zu einer "Pragmatik-Validierung".
• Rolle der LLMs: LLMs sollten nicht als reine Übersetzer in formale Logik dienen, sondern als kritische Instanz, die die Lücke zwischen formaler Wahrheit und menschlicher Wahrnehmung schließt.
• Zukünftige Forschung: Es wird gefordert, Trainingsziele und Architekturen neu zu überdenken, um die Fähigkeit von Modellen zu erhalten, menschliche Inferenzmuster (auch wenn sie logisch "falsch" sind) zu erkennen und zu nutzen, um irreführende Inhalte zu identifizieren.

Zusammenfassend argumentieren die Autoren, dass logische Korrektheit notwendig, aber nicht hinreichend für eine zuverlässige Faktenprüfung ist, da sie die menschliche Interpretationsebene ignoriert, auf der Irreführung tatsächlich stattfindet.