In de moderne digitale wereld verbinden enorme netwerken van informatie alles met elkaar, van wetenschappelijke artikelen tot sociale mediaprofielen. Om zin te geven aan deze verstrengelde webben, gebruiken computerwetenschappers een krachtig type kunstmatige intelligentie genaamd een graph neural network (grafiek neuraal netwerk). Deze systemen fungeren als deskundige navigatoren die leren om de aard van individuele items binnen een netwerk te voorspellen door te kijken naar hun buren en de verbindingen tussen hen. Hoewel deze instrumenten ongelooflijk accuraat zijn geworden bij taken zoals het sorteren van documenten of het identificeren van entiteiten, werken ze vaak als een 'black box'. Ze produceren een correct antwoord, maar leggen zelden uit hoe ze tot dat antwoord zijn gekomen. Dit gebrek aan transparantie is een groeiend probleem; naarmate deze systemen meer invloed krijgen op reële beslissingen, van wetenschappelijk onderzoek tot operationele logistiek, is het begrijpen van hun redenering net zo belangrijk geworden als de voorspellingen zelf. Onderzoekers strijden nu een race om methoden te bouwen die de complexe, interne logica van deze netwerken kunnen vertalen naar heldere, voor mensen leesbare regels.

Een team van onderzoekers van het Federal Institute of Ceará in Brazilië heeft een belangrijke stap voorwaarts gezet in deze zoektocht door een nieuw framework te ontwikkelen genaamd AXSGC. Hun werk richt zich op een specifieke, gestroomlijnde versie van graph neural networks, bekend als Simple Graph Convolution. In tegenstelling tot complexere modellen die meerdere niet-lineaire transformaties in lagen aanbrengen, verplaatst deze eenvoudigere versie informatie op een directe, lineaire manier door het netwerk. De onderzoekers realiseerden zich dat deze eenvoud een unieke kans bood: omdat de wiskunde achter het model zo rechttoe rechtaan is, konden zij precies traceren welke stukjes informatie absoluut noodzakelijk waren om een specifieke voorspelling te doen. Ze begonnen door individuele nodes, of punten, binnen het netwerk te onderzoeken en stelden een precieze vraag: wat is de kleinste, meest essentiële set kenmerken en verbindingen die dit specifieke resultaat garandeert?

Om dit te beantwoorden, maakten de onderzoekers gebruik van een techniek genaamd abductief redeneren, waarbij wordt gezocht naar de minimale set feiten die nodig zijn om een observatie te verklaren. Voor elke enkele node in hun testnetwerken verwijderden ze alle overbodige data, waardoor alleen de kritieke "node-feature paren" overbleven — specifieke combinaties van een locatie in het netwerk en een stukje informatie dat eraan verbonden is — die voldoende waren om de voorspelde klasse vast te leggen. Stel je een netwerk voor waar een document wordt geclassificeerd als "biologie", niet vanwege elk woord dat het bevat, maar vanwege een specifieke handvol termen die in de directe omgeving verschijnen en de documenten die ermee verbonden zijn. De onderzoekers ontdekten dat ze voor veel nodes de uitleg konden reduceren tot een verrassend klein aantal van deze kritieke paren, waarbij de rest als redundant werd weggegooid.

Zodra ze deze minimale, essentiële verklaringen voor duizenden individuele nodes hadden, werden de onderzoekers geconfronteerd met een nieuwe uitdaging: hoe verander je duizenden van deze kleine, specifieke verhalen in een enkele, globale set regels die het gedrag van het gehele netwerk kan beschrijven? Ze bereikten dit door de specifieke identiteiten van de buren te abstraheren. In plaats van te zeggen "het document van node 42", beschreven ze het patroon als "een kenmerk dat verschijnt op een afstand van één hop". Door deze duizenden individuele verklaringen om te zetten naar een gestandaardiseerd formaat gebaseerd op afstand en type kenmerk, creëerden ze een schone, georganiseerde dataset. Ze voedden deze gegevens vervolgens aan een decision tree (beslisboom), een eenvoudig algoritme dat leert beslissingen te nemen door een reeks ja-of-nee-vragen te stellen. De paden door deze boom onthulden de globale logische regels die de voorspellingen van het netwerk beheersen.

De resultaten van deze aanpak waren opvallend wanneer ze werden vergeleken met bestaande methoden. In tests over vier verschillende benchmark-datasets, variërend van kleine synthetische grafieken tot grote citatienetwerken van wetenschappelijke artikelen, produceerde het nieuwe framework regels die zowel nauwkeuriger als veel compacter waren. Op een grote dataset met bijna twintig duizend nodes bereikte de nieuwe methode een getrouwheid (fidelity) van 99,9 procent, wat betekent dat de regels de voorspellingen van het originele model bijna perfect matchen, terwijl er slechts 31 regels werden gebruikt. In contrast hiermee bereikte een leidende concurrerende methode een getrouwheid van slechts 69,7 procent en had 153 regels nodig om dat te doen. De onderzoekers ontdekten dat hun aanpak tot 83,8 procent minder regels kon verklaren dan eerdere technieken, terwijl een hoger niveau van betrouwbaarheid werd behouden. Deze efficiëntie suggereert dat door te focussen op de minimale, voldoende oorzaken voor een voorspelling, het systeem de ruis en redundantie vermijdt die andere verklaringen vaak vertroebelen.

De studie onthulde ook dat de omvang van deze minimale verklaringen varieerde afhankelijk van de complexiteit van de data. In eenvoudigere netwerken waren de essentiële verklaringen vaak slechts enkele items lang, terwijl ze in dichtere netwerken met meer kenmerken groter werden, maar nog steeds beheersbaar bleven. Cruciaal was dat de onderzoekers aantoonden dat deze compacte regels niet slechts wiskundige artefacten waren; ze droegen een duidelijke structurele betekenis met zich mee. Zo identificeerden de geëxtraheerde regels in een synthetisch netwerk dat ontworpen was met specifieke vormen, correct de aanwezigheid van verbindingen met een hoge graad en de afwezigheid van specifieke lokale patronen, waardoor het onderliggende ontwerp van het netwerk effectief werd herontdekt. Dit vermogen om complex, hoogdimensioneel gedrag te destilleren tot een paar korte, logische verklaringen biedt een veelbelovend pad naar het transparanter en verantwoordelijker maken van kunstmatige intelligentie. De onderzoekers zijn van plan dit werk uit te breiden naar complexere netwerkarchitecturen, in de hoop dat de principes van het vinden van de minimale, voldoende oorzaak kunnen worden toegepast op een breder scala aan intelligente systemen.