Conflict-Aware Fusion: Mitigating Logic Inertia in Large Language Models via Structured Cognitive Priors

Probleemstelling: Logische Inertie

Het paper identificeert een fundamentele zwakte in huidige Large Language Models (LLMs): hun kwetsbaarheid voor Logische Inertie. Hoewel modellen uitstekend presteren op standaard benchmarks en taakgebonden redenering, falen ze catastraal wanneer de structurele integriteit van regelsystemen wordt aangetast.

De auteurs definiëren "Logische Inertie" als de neiging van modellen om vast te houden aan geleerde deductieve trajecten, zelfs wanneer de onderliggende premissen onvolledig zijn of expliciete tegenstrijdigheden bevatten. In plaats van de geldigheid van premissen te verifiëren, voltooien modellen inferentieketens op basis van patronen uit de trainingsdata.

• Empirisch bewijs: In stress-tests (waar essentiële regels werden verwijderd of tegenstrijdige feiten werden ingebracht) daalde de nauwkeurigheid van representatieve modellen (BERT, Qwen2, TinyLlama) van 100% naar 0,0000 bij tegenstrijdigheden. Dit toont aan dat ze "logisch blind" zijn voor conflicten.

Methodologie: Conflict-Aware Fusion (Fusion-Conflict)

Om dit probleem op te lossen, stellen de auteurs het Conflict-Aware Fusion framework voor, gebaseerd op de Cognitive Structure Hypothesis. Deze hypothese stelt dat robuust redeneren een expliciete structurele scheiding vereist tussen premissenverificatie en deductieve uitvoering.

Het framework bestaat uit drie kerncomponenten:

1. Structurele Robuustheid Benchmark:
   Een gecontroleerd evaluatiesysteem met vier stress-tests:

   • Regelverwijdering: Onderscheid tussen het verwijderen van redundante versus essentiële regels.
   • Tegenstrijdige injectie: Het detecteren van logische inconsistenties.
   • Logisch behoudende herschrijvingen: Invariantie onder equivalentie.
   • Multi-wet stapeling: Robuustheid onder complexe regelinteracties.

2. Dual-Process Architectuur:
   Het model volgt een Chain-of-Thought (CoT) proces dat is opgedrongen via een structuur-prior:

   • Stap 1 (Systeem 2 - Verificatie): Het model moet expliciet de consistentie en volledigheid van de premissen controleren voordat het tot een conclusie komt.
   • Stap 2 (Systeem 1 - Deductie): Pas na verificatie worden deductieve regels toegepast. Als een tegenstrijdigheid wordt gedetecteerd, moet het redeneringsproces worden gestopt ("Halt").

3. Structuur-gealigneerde Optimalisatie Pipeline:
   Een tweestaps trainingsproces om deze structuur te internaliseren:

   • Fase 1: Structurele SFT (Supervised Fine-Tuning): Het model wordt getraind op een dataset van 11.200 voorbeelden (inclusief tegenstrijdigheden en ontbrekende regels) met een verplichte "Stap 1: Verifieer feiten" preamble. Dit dwingt het model om verificatie als standaardprocedure te zien.
   • Fase 2: Logische Alignering via DPO (Direct Preference Optimization): Het model wordt verder verfijnd door voorkeursparen te creëren. Een "geprefereerd" traject detecteert een tegenstrijdigheid en stopt; een "verworpen" traject gaat door met inferentie ondanks de tegenstrijdigheid. DPO straft de "hallucinerende" voortzetting af en versterkt de discipline om te stoppen bij ongeldige premissen.

Belangrijkste Resultaten

De experimenten, uitgevoerd op modellen zoals Qwen2-1.5B, tonen een dramatische verbetering ten opzichte van bestaande methoden:

• Oplossing van Logische Inertie: Waar basismodellen bij tegenstrijdigheden (Variant 3) een nauwkeurigheid van 0,0000 hadden, bereikte Fusion-Conflict een nauwkeurigheid van 1,0000.
• Herstel van Basisprestaties: Het framework behield ook 100% nauwkeurigheid op de basis-taken, wat aantoont dat de extra verificatiestap de prestaties op standaard taken niet schaadt.
• Vergelijking met andere methoden:
  • Standaard CoT: Faalt bij tegenstrijdigheden (Acc ~0,865, maar faalt bij complexe conflicten).
  • RA-CoT (Redundantie-aware): Valideert te conservatief, wat leidt tot een lage basisnauwkeurigheid (0,263).
  • Fusion-Conflict (SFT + DPO): Bereikt de perfecte balans met 1,0000 op zowel basis- als tegenstrijdigheidstests.
• Ablatie-studies: De studie toont aan dat SFT alleen (Fusion-LRA) de prestaties verbetert (0,705 op tegenstrijdigheden), maar dat DPO essentieel is om de laatste kloof te overbruggen en het model te dwingen echt te stoppen bij conflicten in plaats van oppervlakkig te "aligneren".
• Generalisatie: Het model presteerde ook uitstekend op externe, niet-synthetische datasets (LogicNLI en MNLI), met nauwkeurigheden van respectievelijk 98,2% en 89,4%, wat bewijst dat de leerstrategie generaliseert naar natuurlijke taal.

Bijdragen en Significatie

De paper levert drie cruciale bijdragen aan het veld van AI-onderzoek:

1. Diagnostisch Kader: Het introduceert een benchmark die de "Asymmetrie van Robuustheid" blootlegt: modellen zijn robuust tegen semantische herschrijvingen, maar kwetsbaar voor structurele tegenstrijdigheden.
2. Formalisatie van Logische Inertie: Het benoemt en kwantificeert een fundamentele beperking in huidige LLM's: het ontbreken van een mechanisme om de geldigheid van premissen te verifiëren voordat er wordt geredeneerd.
3. Architecturale Oplossing: Het bewijst dat het integreren van een expliciete verificatiestap (via SFT en DPO) de betrouwbaarheid van redenering drastisch verbetert.

Significante Implicaties:
Het werk daagt de prevailing aanname uit dat schalen van data en modelgrootte op zichzelf voldoende is voor betrouwbaar redeneren. In plaats daarvan suggereert het dat de volgende stap in AI-ontwikkeling ligt in het integreren van structurele verificatiemechanismen. Voor veilige implementaties in juridische, medische of wetenschappelijke domeinen is het cruciaal dat systemen niet alleen "antwoorden", maar ook weten wanneer ze moeten stoppen omdat de logica niet klopt. De "Conflict-Aware Fusion" biedt een blauwdruk voor het bouwen van AI-systemen die niet alleen krachtig zijn, maar ook verifieerbaar betrouwbaar.