Technische Samenvatting: Differentieerbare Logische Programmering om Redeneringsafkortingen in Neurosymbolische Systemen te Mitigeren

1. Probleemstelling

Neurosymbolische (NeSy) systemen beogen de generalisatiekracht van neurale netwerken te combineren met de interpreteerbaarheid van symbolische logica. Recent onderzoek wijst er echter op dat deze systemen gevoelig zijn voor redeneringsafkortingen (shortcut reasoning), waarbij modellen een hoge trainingsnauwkeurigheid bereiken door gebruik te maken van spuriële patronen of te simplistische redeneringspaden, in plaats van de beoogde semantische concepten te leren. De auteurs identificeren twee specifieke manifestaties van dit fenomeen:

1. Constraint Satisfaction Shortcuts (Afkortingen in het voldoen aan restricties): Het model voldoet triviaal aan logische restricties zonder het beoogde concept te leren. Bijvoorbeeld, in een restrictie $P \to Q$, kan een model leren om $P$ altijd onwaar te maken (waardoor de implicatie vacuüm waar wordt) in plaats van de relatie tussen $P$ en $Q$ te leren. Dit komt met name voor in semi-gesuperviseerde settings waar logische restricties de primaire supervisie vormen.
2. Cognitie-afkortingen (Cognition Shortcuts): Het model leert incorrecte mapping tussen inputs en concepten als gevolg van vertekende of verwarrende trainingsdata. Zelfs als de logische regels syntactisch worden voldaan, is de semantische mapping incorrect (bijvoorbeeld het verwarren van cijferconcepten in een vertekende optel-taak).

Bestaande benaderingen vertrouwen vaak op zachte waarschijnlijkheidsverdelingen of fuzzy logic-relaxaties, die het mogelijk maken dat restricties worden voldaan via gedeeltelijke waarheidswaarden. Deze flexibiliteit stelt modellen in staat om de noodzaak voor definitieve conceptclassificaties te omzeilen, wat afkortingsgedrag faciliteert.

2. Methodologie

De auteurs stellen een matrix-gebaseerd differentieerbaar logische programmeringsframework voor om deze problemen aan te pakken. De aanpak bous voort op eerder werk dat logische programma's codeert als matrixoperaties, maar introduceert specifieke ontwerpkeuzes om expliciete gronding af te dwingen.

2.1 Matrix Codering en Semantiek

De kern van de methode bestaat uit het representeren van een propositioneel normaal logisch programma als matrixoperaties:

• Programmamatrix ($Q$): Codeert de regels. Elke rij vertegenwoordigt een regel, en kolommen komen overeen met atomen en hun negaties.
• Head Matrix ($D$): Mapt de lichamen van regels naar de head-atomen.
• Verenigde Constraint Afhandeling: Integriteitsrestricties (bijv. $\leftarrow a \land b$) worden herschreven met behulp van een hulp-atoom $z$ (bijv. $z \leftarrow a \land b \land \neg z$) waarbij $z$ onwaar moet blijven. Dit maakt het mogelijk om restricties identiek te behandelen als implicatie-regels binnen één enkele matrixstructuur, wat de opslagvereisten vermindert vergeleken met eerdere methoden die aparte matrices vereisten.

2.2 Differentieerbare Evaluatie

De outputs van het neurale netwerk worden behandeld als continue waarheidswaarden die een interpretatievector $v$ vormen. Dit wordt uitgebreid naar $w = [v; 1-v]$ om negaties te bevatten. De afleiding van atomen wordt berekend via:
$$h = \min(1, D(1 - \min(1, Q(1 - w))))$$
Deze formulering implementeert impliciet de Łukasiewicz t-norm (bounded sum aggregatie) voor conjuncties. De verliesfunctie wordt gedefinieerd als de Binary Cross-Entropy (BCE) tussen de afgeleide zachte waarden $h$ en de doel-labels $t$.

2.3 Cruciaal Architecturaal Verschil

In tegenstelling tot fuzzy logic-benaderingen (zoals Logic Tensor Networks) of probabilistische compilatie (zoals DeepProbLog) die vertrouwen op zachte relaxaties, vestigt deze methode een één-op-één correspondentie tussen neurale outputs en logische atomen. De matrixstructuur creëert directe gradiëntpaden van schendingen van restricties naar de specifieke neurale voorspellingen die verantwoordelijk zijn, waardoor het model wordt gedwongen zich te committeren aan definitieve conceptclassificaties in plaats van restricties te voldoen via gedeeltelijke waarheidswaarden.

3. Belangrijkste Bijdragen

1. Matrix-gebaseerde Mitigatiemethode: Een nieuwe differentieerbare logische programmeringsaanpak die een verenigde matrixcodering gebruikt om zowel constraint satisfaction- als cognitie-afkortingen te mitigeren.
2. Verenigde Constraint Behandeling: Een coderingstrategie die integriteitsrestricties en implicaties integreert in een enkele matrix met behulp van hulp-atomen, waarbij de ondersteunde modelsemantiek behouden blijft terwijl de opslag wordt verminderd.
3. Empirische Analyse van T-Normen: Een systematische vergelijking van matrixoperaties tegenover fuzzy logic t-normen (Łukasiewicz, Product, Gödel), waarbij de eigenschappen van de gradiëntstroom en de impact op mitigatie van afkortingen worden geanalyseerd.
4. Systematische Evaluatie: Uitgebreide experimenten op MNIST-varianten die aantonen dat één-op-één atoom-gronding aanzienlijk beter presteert dan zachte relaxatiemethoden bij het leren van beoogde concepten onder vertekende of zwakke supervisie.

4. Experimentele Resultaten

De auteurs hebben hun methode (MatLP) geëvalueerd tegen baselines inclusief CNN, Logic Tensor Networks (LTN), Semantic Loss, DeepProbLog, DeepStochLog en NeurASP op twee taken.

4.1 Constraint Satisfaction Shortcuts (MNIST 6/9)

In een semi-gesuperviseerde taak waarbij één cijferklasse (bijv. "6") niet gelabeld is en geleerd moet worden via een logische restrictie met geroteerde afbeeldingen:

• Baselines: Modellen zoals Semantic Loss, LTN en NeurASP behaalden hoge mate van restrictie-voldoening (bijv. 100% voldoen aan de geroteerde restrictie), maar faalden in het leren van het ontbrekende cijferconcept (0% nauwkeurigheid op de ontbrekende klasse). Ze voldeden aan de restricties door de waarschijnlijkheid van de tegenovergestelde klasse te onderdrukken zonder zich te committeren aan de doelklasse.
• MatLP: Behaalde een hoge nauwkeurigheid op het ontbrekende cijfer (92,3% op MNIST, 42,4% op USPS) terwijl de restrictie-voldoening behouden bleef. De matrix-gebaseerde aanpak dwong het model om het cijfer daadwerkelijk te classificeren in plaats van de restrictie vacuüm uit te buiten.

4.2 Cognitie-afkortingen (MNIST-Half)

In een vertekende optel-taak waarbij slechts een subset van cijferparen wordt waargenomen, wat leidt tot ambigue conceptmappings:

• Geval 1 (Hoge Vertekening): Met slechts 4 regels faalden de meeste modellen (inclusief LTX en DeepProbLog) om concepten te onderscheiden, met een nauwkeurigheid die bijna willekeurig was.
• Gevallen 2-5 (Toenemende Restricties): Naarmate er extra regels werden toegevoegd om de mappings te onderscheiden:
  • Soft Relaxation Methoden (LTN, Semantic Loss): Ondervonden moeite om uit de initiële afkortingen te ontsnappen, en toonden minimale verbetering in nauwkeurigheid ondanks de toename van restricties.
  • Explicit Grounding Methoden (NeurASP, MatLP): Toonden progressieve verbetering. NeurASP bereikte snel een bijna perfecte nauwkeurigheid, terwijl MatLP een consistente, robuuste verbetering liet zien (van 41% naar 99,5% nauwkeurigheid) naarmate er meer restricties werden toegevoegd.
• T-Norm Vergelijking: Op de standaard MNIST Addition behaalde de Product t-norm de hoogste nauwkeurigheid (91,7%), gevolgd door de matrix-gebaseerde methode (88,5%). De Gödel t-norm presteerde het slechtst (82,9%) vanwege ijle gradiënten.

5. Betekenis en Claims

Het artikel beweert dat de koppeling tussen symbolische kennis en neuraal leren cruciaal is voor het mitigeren van redeneringsafkortingen. Specifiek:

• Expliciete Gronding is Noodzakelijk maar Niet Voldoende: Hoewel één-op-één atoom-gronding (zoals in NeurASP en MatLP) helpt, is het optimalisatiemechanisme van belang. NeurASP faalde in de restrictie-voldoeningstaken waar MatLP slaagde, wat suggereert dat continue differentieerbare evaluatie gecombineerd met expliciete gronding superieur is aan discrete enumeratie alleen.
• Gradiëntstroom Eigenschappen: De matrix-gebaseerde aanpak creëert directe gradiëntpaden van schendingen naar de verantwoordelijke voorspellingen, waardoor modellen voorkomen dat ze restricties voldoen via "gedeeltelijke" waarheidswaarden die niet overeenkomen met de beoogde semantiek.
• Beperkingen: De auteurs merken op dat hun evaluatie beperkt is tot propositionele programma's op MNIST-gebaseerde taken. Zij beweren geen directe generaliseerbaarheid naar complexe eerste-orde redeneringen of real-world visuele taken, en identificeren schaalbaarheid via ijle matrices en uitbreiding naar eerste-orde logica als toekomstig werk.

Concluderend demonstreren de auteurs dat matrix-gebaseerde differentieerbare logische programmering, door expliciete gronding en directe gradiëntpropagatie af te dwingen, een robuuste architecturale keuze biedt om neurosymbolische systemen te beschermen tegen het uitbuiten van redeneringsafkortingen in de aanwezigheid van vertekende of zwak gesuperviseerde data.