🤖 machine learning

Slice and Explain: Logic-Based Explanations for Neural Networks through Domain Slicing

Dit artikel introduceert een schaalbaar, logica-gebaseerd methode voor het verklaren van neurale netwerken door domein-slicing toe te passen, wat de verklaringstijd met tot 40% verkort.

Oorspronkelijke auteurs: Luiz Fernando Paulino Queiroz, Carlos Henrique Leitão Cavalcante, Thiago Alves Rocha

Gepubliceerd 2026-02-26

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Luiz Fernando Paulino Queiroz, Carlos Henrique Leitão Cavalcante, Thiago Alves Rocha

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Sla en Leg uit: Hoe we neurale netwerken sneller begrijpelijk maken

Stel je voor dat een Neuraal Netwerk (een type kunstmatige intelligentie) een supersterke, maar zeer verwarde kok is. Deze kok kan heerlijke maaltijden (voorspellingen) bereiden, maar als je vraagt: "Waarom heb je juist deze ingrediënten gebruikt?", antwoordt hij alleen maar met een onbegrijpelijk gebaar. Hij is een "black box": je ziet het resultaat, maar niet hoe hij erbij komt.

In de echte wereld, bijvoorbeeld bij het verlenen van een hypotheek of het diagnosticeren van ziektes, willen we niet blindelings vertrouwen op deze kok. We willen weten: "Welke specifieke ingrediënten waren echt nodig om dit resultaat te krijgen?"

Het Probleem: De Rekenmachine is te traag

Wetenschappers hebben al methoden bedacht om deze kok te dwingen zijn recept te verklaren. Ze vertalen de "geheime taal" van de AI naar strikte wiskundige regels (logica). Maar hier zit een addertje onder het gras:

Hoe groter en complexer de AI, hoe meer regels er zijn.
Het controleren van al die regels om een verklaring te vinden, is als het proberen te vinden van één specifiek zandkorreltje in een enorm strand. Het kost enorm veel tijd en rekenkracht.

De Oplossing: "Sla en Leg uit" (Slice and Explain)

De auteurs van dit paper hebben een slimme truc bedacht, die ze "Domain Slicing" noemen. Laten we dit uitleggen met een analogie:

Stel je voor dat je een enorme, rommelige zolder moet opruimen om te zoeken naar een vergeten foto.

De oude methode: Je loopt de hele zolder af, kamer voor kamer, hoek voor hoek. Je moet elke hoek controleren. Dit duurt eeuwen.
De nieuwe methode (Slicing): Je deelt de zolder in kleinere, beheersbare vakken op. Je zegt: "Oké, laten we eerst alleen de zolderkast linksboven controleren."
- Door het gebied te verkleinen, zie je vaak direct dat bepaalde hoeken leeg zijn of dat bepaalde objecten (regels) daar niet nodig zijn.
- Je kunt de zoekopdracht versnellen omdat je niet de hele zolder tegelijk hoeft te scannen, maar alleen het kleine vakje waar de foto waarschijnlijk ligt.

In de taal van de AI betekent dit: ze splitsen het bereik van de invoer (bijvoorbeeld: "leeftijd tussen 18 en 100") op in kleinere stukjes (bijvoorbeeld: "leeftijd tussen 18 en 50" en "leeftijd tussen 50 en 100").

Wat gebeurt er nu?

Wanneer ze een klein stukje van de "zolder" (een sub-domein) bekijken, merken ze dat de regels voor de AI vaak eenvoudiger worden.

Voorbeeld: In het hele domein moet de AI rekening houden met een ingewikkelde regel over leeftijd. Maar in het stukje "leeftijd 18-30" is die regel misschien helemaal niet meer nodig, of hij wordt heel simpel.
Dit betekent dat de computer minder "vragen" hoeft te stellen aan de rekenmachine. Het zijn minder logische puzzels om op te lossen.

De Resultaten: Snelheidswinst, maar met een voorwaarde

De auteurs hebben dit getest op verschillende soorten AI-modellen en datasets (zoals medische gegevens en financiële data).

Voor kleine AI's: Het werkt soms niet zo goed. Het is alsof je een hele zolder in stukjes verdeelt voor een kamer die al zo klein is dat je hem gewoon in één keer kunt overzien. Het verdelen kost dan alleen maar extra tijd.
Voor grote, complexe AI's: Hier is het een game-changer! Bij diepgaande netwerken (AI's met veel lagen) konden ze de tijd om een verklaring te vinden met tot wel 40% verkorten.

Waarom werkt het zo goed?
Het geheim zit hem in het verwijderen van "onnodige variabelen". Door het domein te splitsen, vallen sommige complexe regels weg. Het is alsof je tijdens het opruimen van de zolder merkt dat je in dat specifieke vakje geen ladders of dozen nodig hebt om te kijken. De computer hoeft die dan niet meer te berekenen.

Conclusie

Dit onderzoek laat zien dat we grote, ondoorzichtige AI-systemen sneller en efficiënter kunnen laten verklaren door ze in kleinere, overzichtelijke stukjes op te delen. Het is geen magische oplossing die altijd werkt, maar voor de zware, complexe systemen van vandaag is het een cruciale stap om AI betrouwbaarder en sneller begrijpelijk te maken.

Kort samengevat: In plaats van de hele oceaan te doorzoeken om een vis te vinden, kijken we eerst in een klein emmertje water. Soms vinden we de vis daar direct, en als dat niet zo is, weten we in ieder geval dat we in dat stukje water niet hoeven te zoeken, wat ons veel tijd bespaart.

Probleemstelling

Neurale netwerken (NN's) worden op grote schaal ingezet, maar hun "black-box"-karakter maakt ze moeilijk interpreteerbaar. Hoewel er heuristische methoden bestaan (zoals LIME en Anchors) om uitleg te genereren, ontbreekt het hieraan aan formele correctheidsgaranties. Logica-gebaseerde benaderingen bieden wel garanties voor correctheid en minimaliteit (geen overbodige informatie), maar ze kampen met ernstige schaalbaarheidsproblemen. Het omzetten van een NN naar een set logische beperkingen (vaak gemodelleerd als Mixed Integer Linear Programming of MILP) wordt computationeel onhaalbaar naarmate het netwerk groter wordt of de inputruimte complexer.

Methodologie

Het paper introduceert een nieuwe techniek genaamd Domain Slicing (domeinsnijding) om de schaalbaarheid van logica-gebaseerde uitleg voor NN's te verbeteren. De aanpak bouwt voort op het werk van Ignatiev et al. [9], waarbij NN's worden gecodeerd als logische beperkingen.

De kern van de methode bestaat uit de volgende stappen:

Domeinverdeling: De inputruimte van specifieke kenmerken (features) wordt opgesplitst in kleinere subdomeinen (bijvoorbeeld door een feature $x_i$ met bereik $[l_i, u_i]$ te delen in $[l_i, m_i]$ en $[m_i, u_i]$ , waarbij $m_i$ het midden is).
Vereenvoudiging van Beperkingen: Binnen elk subdomein worden de grenzen van de neuronen in het NN strakker. Omdat de inputvariabelen beperkter zijn, kunnen de berekende boven- en ondergrenzen voor de output van de neuronen (en de bijbehorende ReLU-activaties) worden verkleind.
Vermindering van Binair Variabelen: Een cruciaal aspect is dat strakkere grenzen soms leiden tot het volledig elimineren van de noodzaak voor binaire variabelen (die de ReLU-activatie moduleren) in de MILP-formulering voor dat specifieke subdomein. Als een neuron in een subdomein altijd positief (of altijd negatief) blijft, kunnen de bijbehorende logische implicaties worden vereenvoudigd tot lineaire ongelijkheden zonder binaire variabelen.
Logische Correctheid: De auteurs bewijzen wiskundig (via Propositie 1 en 2) dat het controleren van logische gevolgtrekking (entailment) over het volledige domein equivalent is aan het controleren van deze eigenschap over de gesplitste subdomeinen. Als een uitleg geldig is in alle subdomeinen, is deze geldig voor het hele domein.
Implementatie: De auteurs beperken het aantal gesliceerde features in hun experimenten tot maximaal drie om de exponentiële groei van het aantal subdomeinen te beheersen. Ze gebruiken een MILP-oplosser (IBM CPLEX) om de uitleggen te berekenen.

Belangrijkste Bijdragen

Innovatieve Toepassing: Dit is, naar weten van de auteurs, de eerste toepassing van "slicing" (een techniek die eerder werd gebruikt voor NN-simplificatie) in de context van Explainable AI (XAI).
Schaalbaarheid: De methode biedt een strategie om de berekeningstijd voor abductieve uitleggen (minimale sets van features die de voorspelling garanderen) aanzienlijk te verkorten voor diepere netwerken.
Garantiebehoud: In tegenstelling tot heuristische methoden behoudt de techniek de garanties voor correctheid en minimaliteit van de uitleg.
Empirisch Bewijs: Uitgebreide experimenten tonen aan dat de efficiëntie winst sterk afhankelijk is van de dataset en de mate waarin binaire variabelen kunnen worden verwijderd.

Resultaten

De auteurs testten hun methode op vijf datasets (Auto, Hepatitis, Australian, Heart-Statlog, Glass) met neurale netwerken van 2, 3 en 4 verborgen lagen.

Kleine Netwerken (2 lagen): Slicing leverde geen tijdwinst op; de overhead van het verwerken van meerdere subdomeinen was groter dan de winst door vereenvoudiging. De tijd nam zelfs toe.
Middelgrote Netwerken (3 lagen): Er was gemengde prestatie. Op de Australian en Heart-Statlog datasets werden tijdsreducties van ongeveer 11-15% behaald, gekoppeld aan een verwijdering van 12-16% van de binaire variabelen.
Grote Netwerken (4 lagen): Hier werd de grootste winst behaald.
- Op de Australian dataset werd de uitlegtijd met 37,20% gereduceerd (van ~6156s naar ~3867s) met drie slices, gepaard gaande met een verwijdering van 23,38% van de binaire variabelen.
- Op de Heart-Statlog dataset werd een reductie van 40,46% bereikt (van ~3317s naar ~1974s) met drie slices.
- Op de Auto dataset (25 features) leverde slicing geen winst op; de tijd nam toe omdat er geen binaire variabelen werden verwijderd.
Correlatie: De resultaten tonen een sterke correlatie aan tussen het percentage verwijderde binaire variabelen en de tijdsreductie. Als slicing leidt tot minder binaire variabelen in het MILP-probleem, verbetert de prestatie aanzienlijk. Als dit niet gebeurt, overheerst de overhead.

Betekenis en Conclusie

Het paper demonstreert dat Domain Slicing een veelbelovende strategie is om logica-gebaseerde XAI schaalbaar te maken voor grotere neurale netwerken. De techniek maakt het mogelijk om complexe verklaringen sneller te genereren zonder in te leveren op de nauwkeurigheid.

De belangrijkste inzichten zijn:

De methode is het meest effectief voor diepere netwerken waar de complexiteit van de MILP-oplossing hoog is.
De prestatieverbetering is niet universeel; deze hangt af van de karakteristieken van de dataset en welke features worden geselecteerd om te slicen.
De kern van de efficiëntie ligt in het verminderen van de zoekruimte voor de MILP-oplosser door het elimineren van binaire variabelen via strakkere grenzen.

Voor toekomstig werk suggereren de auteurs het ontwikkelen van slimme strategieën om automatisch de meest effectieve features te selecteren voor slicing, gebaseerd op de specifieke eigenschappen van de dataset en het netwerk.