Position: Logical Soundness is not a Reliable Criterion for Neurosymbolic Fact-Checking with LLMs

Titel: Logische geldigheid is geen betrouwbare criterium voor neurosymbolische feitencontrole met LLM's

Auteurs: Jason Chan, Robert Gaizauskas & Zhixue Zhao (University of Sheffield)

1. Het Probleem

Grote Taalmodellen (LLM's) worden steeds vaker geïntegreerd in geautomatiseerde systemen voor feitencontrole en claimverificatie. Om de bekende beperkingen van LLM's (zoals hallucinaties, bias en logische inconsistenties) te mitigeren, wordt er een groeiende stroom van onderzoek gepresenteerd die neurosymbolische benaderingen voorstelt.

In deze benaderingen fungeren LLM's vaak als semantische parsers die natuurlijke taal vertalen naar formele logische formules (bijvoorbeeld in eerste-orde logica of FOL). Vervolgens worden deze formules gecontroleerd op logische geldigheid (logical soundness) tegen een verifieerbare kennisbank. De onderliggende aanname is: als een claim logisch geldig is afgeleid uit ware premissen, dan is de claim betrouwbaar en niet misleidend.

De kernproblematiek: De auteurs betogen dat deze aanname fundamenteel flawed is. Er bestaat een systematische divergentie tussen wat formeel logisch geldig is en wat mensen in de praktijk als een geldige inferentie accepteren. Een claim kan formeel logisch correct zijn, maar door de manier waarop mensen taal interpreteren (pragmatische inferenties), toch misleidend zijn. Bestaande systemen die puur vertrouwen op formele logica, missen daarom een kritieke categorie van desinformatie: feitelijke waarheden die een valse implicatie suggereren.

2. Methodologie en Theoretisch Kader

Het paper baseert zich niet op een nieuw experimenteel dataset, maar op een conceptuele analyse en een typologie van gevallen waarin formele logica en menselijke inferentie uit elkaar lopen. De auteurs combineren inzichten uit de cognitieve wetenschap, pragmatica en linguïstiek met de architectuur van neurosymbolische systemen.

Belangrijke theoretische concepten:

• Misleidende informatie: Informatie die feitelijk correct is, maar een impliciete betekenis heeft die onwaar of onondersteund is.
• Cognitieve theorieën:
  • Mental Models Theory (Johnson-Laird): Mensen interpreteren disjuncties ("A of B") als een reeks mogelijke scenario's, terwijl formele logica striktere regels hanteert.
  • Conjunction Buttressing: Mensen interpreteren opeenvolgende gebeurtenissen vaak als causaal gekoppeld, zelfs als de logica dit niet vereist.
  • Grice's Maaximen: Mensen volgen impliciete regels van communicatie (zoals de Maxim van Hoeveelheid of Kwaliteit) die leiden tot inferenties die formeel ongeldig zijn.
  • Conditionele Perfectie: Mensen interpreteren "Als A, dan B" vaak als "Als en slechts als A, dan B", terwijl formele logica (materiële implicatie) dit niet doet.

Analytische aanpak:
De auteurs analyseren specifieke logische operaties (zoals disjunctie-introductie, materiële implicatie en modaliteit) en tonen aan hoe deze, hoewel formeel geldig, leiden tot conclusies die mensen onterecht als feitelijk onderbouwd beschouwen.

3. Key Contributions (Belangrijkste Bijdragen)

1. Deconstructie van het "Logische Geldigheid"-paradigma:
   Het paper demonstreert dat logische geldigheid geen voldoende criterium is voor feitencontrole. Een claim kan logisch geldig zijn (afleidbaar uit ware premissen), maar toch misleidend zijn omdat het een "ongegrond menselijke inferentie" uitlokt.

2. Typologie van Misleidende Logische Derivaties (Tabel 1):
   De auteurs presenteren een gestructureerd overzicht van gevallen waar formele logica faalt om misleiding te detecteren:

   • Disjunctie-introductie: Uit "Tarieven stijgen met 10%" kan logisch worden afgeleid "Tarieven stijgen met 10% OF 100%". Formeel correct, maar mensen infereren hieruit dat een stijging van 100% een reële mogelijkheid is (wat niet in de premisse staat).
   • Conjunctie-introductie: "Tarieven stijgen 10% en 10%" is logisch waar, maar mensen interpreteren de herhaling als twee aparte gebeurtenissen in de tijd.
   • Materiële Implicatie (Positieve paradox): "Als rente niet daalt, stijgen tarieven" is logisch waar als rente daalt (vacuous truth), maar mensen interpreteren dit vaak als een biconditioneel verband ("Als rente daalt, dalen tarieven niet").
   • Modaliteit: Uit "Het is mogelijk dat X gebeurt" infereren mensen vaak "Het is mogelijk dat X niet gebeurt" (onzekerheid), terwijl formele logica dit niet strikt ondersteunt.

3. Herdefinitie van LLM-fouten als "Features":
   De auteurs betogen dat de "menselijke" neigingen van LLM's om ongeldige logische inferenties te maken (die vaak als bugs worden gezien in logische taken), juist een feature moeten worden. LLM's moeten niet worden geoptimaliseerd om strikt te conformeren aan formele logica, maar juist worden gebruikt om te modelleren hoe mensen redeneren en om misleidende conclusies te detecteren die strikte systemen missen.

4. Advies voor Neurosymbolische Architecturen:
   In plaats van LLM's alleen te gebruiken om taal naar logica te vertalen (en vervolgens te controleren), moeten LLM's worden ingezet om de output van formele systemen te valideren op hun potentieel misleidend karakter voor de menselijke lezer.

4. Resultaten en Argumentatie

Hoewel er geen kwantitatieve experimentele resultaten worden gepresenteerd (gezien de aard als position paper), is de argumentatie sterk onderbouwd met bestaande literatuur:

• Het paper toont aan dat bestaande neurosymbolische systemen structureel blind zijn voor "half-truths" (halve waarheden).
• Het bewijst dat het toevoegen van een extra criterium X naast logische geldigheid problematisch is, omdat het leidt tot valse negatieven van acceptabele menselijke inferenties.
• Het weerlegt het idee dat menselijke traceerbaarheid (het tonen van logische afleidingen aan gebruikers) het probleem oplost, omdat gebruikers (en zelfs LLM's die deze taken uitvoeren) niet altijd de pragmatische misleiding kunnen detecteren zonder de juiste cognitieve modellen.

5. Significatie en Implicaties

• Voor Onderzoek: De studie daagt de huidige trend uit om LLM's te trainen op strikte logische consistentie. Het pleit voor onderzoek dat de pragmatische en cognitieve neigingen van LLM's benut om misinformatie te detecteren die door formele logica wordt gemist.
• Voor Ontwikkeling van Systemen: Ontwikkelaars van feitencontrolesystemen moeten erkennen dat "logisch waar" niet gelijkstaat aan "niet misleidend". Systemen moeten hybride worden: formele logica voor feitelijke verificatie, gecombineerd met LLM's die gespecialiseerd zijn in het detecteren van pragmatische implicaties en menselijke inferenties.
• Voor Beleid en Veiligheid: Bij het bestrijden van desinformatie is het cruciaal om te begrijpen dat kwaadaardige actoren (of geautomatiseerde systemen) kunnen leren om formeel correcte, maar semantisch misleidende claims te genereren die door huidige logische filters glippen.

Conclusie:
Logische geldigheid is een noodzakelijk, maar verre van voldoende criterium voor betrouwbare feitencontrole. Om echt effectief te zijn tegen misinformatie, moeten neurosymbolische systemen de menselijke neiging tot pragmatische inferentie omarmen en gebruiken als een detectiemechanisme, in plaats van deze te zien als een fout die moet worden gecorrigeerd.