🤖 machine learning

A New Technique for AI Explainability using Feature Association Map

Dit artikel introduceert FAMeX, een nieuw op Feature Association Maps gebaseerd, graph-theoretisch uitlegbaar AI-algoritme dat een superieure prestatie aantoont bij het meten van feature-importantie voor classificatie in vergelijking met bestaande methoden zoals PFI en SHAP.

Oorspronkelijke auteurs: Sayantani Ghosh, Amit Kumar Das, Amlan Chakrabarti

Gepubliceerd 2026-05-13

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Sayantani Ghosh, Amit Kumar Das, Amlan Chakrabarti

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een superintelligente robot voor die dingen kan voorspellen, zoals of een patiënt een ziekte heeft of of een aandelenprijs zal stijgen. Deze robot is ongelooflijk nauwkeurig, maar het is een "black box". Je vraagt hem: "Waarom heb je die beslissing genomen?" en hij zegt gewoon: "Omdat ik het zeg." Dat is eng, vooral als de beslissing echte levens beïnvloedt. We moeten weten waarom de robot denkt wat hij denkt.

Dit artikel introduceert een nieuw hulpmiddel genaamd FAMeX (Feature Association Map based eXplainability) om dat probleem op te lossen. Hieronder wordt uitgelegd hoe het werkt, met eenvoudige analogieën:

Het probleem: De "volle kamer" van data

Stel je voor dat de robot een beslissing moet nemen op basis van een kamer vol mensen (de data-kenmerken). Sommige mensen schreeuwen belangrijke feiten, terwijl anderen gewoon herhalen wat hun buren zeggen.

Relevantie: Hoeveel bruikbare informatie een persoon aan het gesprek toevoegt.
Redundantie: Hoeveel een persoon iemand anders gewoon nabootst.

Oude methoden om AI uit te leggen (zoals PFI en SHAP) zijn als het vragen aan iedereen in de kamer om één voor één hun hand op te steken om te zien wie belangrijk is. Ze missen misschien het feit dat drie mensen precies hetzelfde herhalen, waardoor het lijkt alsof er drie belangrijke stemmen zijn, terwijl er eigenlijk maar één is.

De oplossing: De "FAMeX"-feestplanner

De auteurs stellen FAMeX voor, dat fungeert als een slimme feestplanner die een kaart van de kamer tekent voordat het feest begint.

De kaart tekenen (De Feature Association Map):
FAMeX bekijkt elk paar mensen (kenmerken) en tekent een lijn tussen hen als ze over hetzelfde praten.
- Als twee mensen precies hetzelfde geheim fluisteren (hoge gelijkenis), tekent FAMeX een dikke lijn tussen hen.
- Als iemand een uniek verhaal vertelt dat niemand anders kent (lage gelijkenis), staat hij alleen.
De gasten beoordelen:
Het algoritme geeft iedereen een "cijfer" op basis van hoeveel ze anderen nabootsen:
- Cijfer 1 (De Originalen): Mensen die niemand anders nabootsen. Ze krijgen een hoge score voor hun uniciteit.
- Cijfer 2 (De Echo's): Mensen die één of twee anderen nabootsen. Ze krijgen een gemiddelde score.
- Cijfer 3 (Het Koor): Mensen die veel anderen nabootsen of iemand heel luid nabootsen. Ze krijgen een lage score vanwege hun redundantie.
De eindscore:
FAMeX berekent een uiteindelijke "Belangrijkheidsscore" voor elke persoon.
- Als je unieke, waardevolle informatie brengt (Hoge Relevantie) EN je niet gewoon anderen nabootst (Lage Redundantie), krijg je een supergoede score.
- Als je gewoon anderen nabootst, daalt je score, zelfs als wat je zegt waar is.

Werkte het?

De auteurs testten deze nieuwe "feestplanner" tegen twee andere beroemde methoden (PFI en SHAP) met acht verschillende real-world datasets (zoals medische dossiers, wijnkwaliteit en voertuigdata).

Ze speelden een spel:

Ze vroegen elke methode om de top 30% van de belangrijkste mensen (kenmerken) te kiezen.
Ze voerden alleen die topmensen in een standaardclassificator (een eenvoudige beslisser) in om te zien hoe goed deze het resultaat kon voorspellen.
Ze testten ook de bodem 30% (de minst belangrijke mensen) om te zien of de voorspelling faalde.

De resultaten:

FAMeX won. Toen ze de top 30% van de kenmerken gebruikten die door FAMeX waren gekozen, was de voorspellingsnauwkeurigheid consequent hoger dan bij het gebruik van de topkeuzes van PFI of SHAP.
Het verschil was duidelijk. Voor FAMeX was het verschil tussen het gebruik van de "beste" kenmerken en de "slechtste" kenmerken enorm (vaak meer dan 10% betere nauwkeurigheid). Dit bewijst dat FAMeX echt weet wie de belangrijke mensen zijn.
De concurrenten struikelden. Soms kozen PFI en SHAP "belangrijke" kenmerken die de voorspelling eigenlijk slechter maakten dan het kiezen van de minst belangrijke.

Het hulpmiddel

De auteurs schreven niet alleen code; ze bouwden een visueel hulpmiddel (een GUI) dat iedereen kan gebruiken. Je kunt je data uploaden en het toont je een kleurrijke kaart (zoals in Figuur 3 van het artikel) waar de belangrijkste kenmerken oplichten, waardoor je precies begrijpt wat de beslissing van de AI drijft.

In het kort

FAMeX is een nieuwe manier om AI uit te leggen die niet alleen vraagt "Wat is belangrijk?", maar ook "Wie kopieert anderen gewoon?". Door het ruis (redundantie) te filteren en de unieke, waardevolle signalen (relevantie) te benadrukken, geeft het een helderdere, nauwkeurigere uitleg van waarom een AI een specifieke beslissing heeft genomen. Het artikel beweert dat deze methode betrouwbaarder is dan de huidige topconcurrenten.

Technische Samenvatting: FAMeX – Een Nieuwe Techniek voor AI-Verklaring met Gebruik van Feature Association Map

Probleemstelling
De toenemende adoptie van Kunstmatige Intelligentie (KI) in kritieke toepassingen uit het dagelijks leven – variërend van ziektedetectie en weersvoorspelling tot voorspelling van aandelenprijzen – heeft een aanzienlijke uitdaging blootgelegd: de ondoorzichtigheid van "black-box"-systemen. Hoewel complexe leeralgoritmen vaak een hoge voorspellende nauwkeurigheid opleveren, ontbreekt het aan transparantie in hun besluitvormingsprocessen. Dit gebrek aan interpreteerbaarheid maakt het moeilijk om te bepalen of beslissingen gebaseerd zijn op wetenschappelijke feiten of op toevallige samenhangen, waardoor vertrouwen, verantwoordingsplicht en betrouwbaarheid in hoog-risico omgevingen worden belemmerd. Bestaande methoden voor Verklarende KI (XAI), zoals Permutatie Feature Importance (PFI) en SHapley Additive exPlanations (SHAP), proberen dit aan te pakken door feature-importantie te rangschikken. De auteurs betogen echter dat deze methoden vaak falen in het uitvoeren van een holistische analyse van kritieke feature-aspecten, specifiek relevantie (informatiebijdrage aan het doel) en redundantie (gelijkenis/overlap met andere features).

Methodologie: Het FAMeX-algoritme
Het artikel stelt FAMeX (Feature Association Map based eXplainability) voor, een nieuw algoritme dat is ontworpen om feature-importantie te evalueren door gelijktijdig relevantie en redundantie te overwegen via een grafentheoretische formulering.

Feature Association Map (FAM): De kern van de methodologie is de FAM, een graaf waarin features worden gemodelleerd als hoekpunten en associaties tussen hen worden weergegeven als randen.
Feature-gelijkenis (Redundantie): Redundantie wordt gemeten met de correlatiecoëfficiënt van Pearson. Features worden ingedeeld op basis van hun correlatie met andere features:
- Graad 1: Lage redundantie (correlatie < 0,67 met alle andere features).
- Graad 2: Matige redundantie (correlatie > 0,67 maar < 0,9 met ten minste één feature, maar minder dan drie).
- Graad 3: Hoge redundantie (correlatie > 0,9 met ten minste één feature OF > 0,67 met drie of meer features).
  Een Similarity Score wordt berekend op basis van deze graden, waarbij hogere graden (die een hogere redundantie aangeven) resulteren in een hogere score.
Feature-relevantie: Relevantie wordt gemeten met Mutual Information (MI) tussen een feature en de doelklassevariabele, genormaliseerd om een Relevance Score te berekenen.
Feature-importancescore: De uiteindelijke importancescore wordt afgeleid door de twee metrieken te integreren. Het algoritme stelt dat een feature belangrijker is als het een hoge relevantie en lage redundantie heeft. Bijgevolg wordt de score berekend als:
$\text{Feature Importance Score} = \frac{\text{Relevance Score}}{\text{Similarity Score}}$
Deze inverse relatie zorgt ervoor dat sterk redundante features (hoge similarity score) worden bestraft, terwijl sterk relevante features worden beloond.

Het algoritme werkt met een tijdscomplexiteit van $O(n^2)$ , waarbij $n$ het aantal features is.

Belangrijkste Bijdragen

Holistische Feature-analyse: In tegenstelling tot concurrerende methoden die zich mogelijk voornamelijk richten op marginale bijdrage, modelleert FAMeX expliciet de afweging tussen feature-relevantie en feature-redundantie.
Grafentheoretische Formulering: De introductie van de Feature Association Map biedt een visueel en wiskundig kader om feature-afhankelijkheden te begrijpen.
Algoritmische Implementatie: De auteurs bieden een compleet algoritme (Algoritme 1) en een platformonafhankelijk Graphical User Interface (GUI)-hulpmiddel om de toepassing van FAMeX op verschillende datasets te faciliteren.

Experimentele Resultaten
De auteurs hebben FAMeX geëvalueerd tegen PFI en SHAP met behulp van acht benchmarkdatasets uit het UCI Machine Learning-repository (bijvoorbeeld Wisconsin, ILPD, WineQuality, WBDC). De evaluatie omvatte:

Opstelling: 10-voudige cross-validatie herhaald voor 100 iteraties.
Metrieken: Classificienauwkeurigheid werd gemeten met vier standaardclassificatoren: Support Vector Machine (SVM), Random Forest (RF), Naive Bayes (NB) en Decision Tree (DT).
Validatiestrategie: De top 30% en de onderste 30% van de features geïdentificeerd door elk algoritme werden gebruikt om de classificatoren te trainen. Een superieure XAI-algoritme zou aanzienlijk hogere nauwkeurigheid moeten opleveren bij gebruik van zijn best gerangschikte features in vergelijking met zijn slechtst gerangschikte features.

Vondsten:

Superieure Prestaties: Over alle vier classificatoren en acht datasets heen genereerde FAMeX consistent hogere classificienauwkeurigheid met behulp van de top 30% van de features in vergelijking met PFI en SHAP. Bijvoorbeeld, met de Random Forest-classificator bereikte FAMeX een gemiddelde nauwkeurigheid van 80,16%, vergeleken met 71,47% voor PFI en 71,82% voor SHAP.
Consistentie: FAMeX toonde een duidelijk onderscheid tussen belangrijke en onbelangrijke features. In de meeste gevallen was de daling in nauwkeurigheid bij gebruik van de onderste 30% van de features significant (vaak >10% verschil).
Beperkingen van Concurrenten: Daarentegen toonden PFI en SHAP inconsistente resultaten. In verschillende gevallen (bijvoorbeeld WBDC-dataset met SVM) leverden de "onderste 30%" features geselecteerd door PFI of SHAP een hogere nauwkeurigheid op dan de "top 30%" features, wat wijst op een falen om kritieke features correct te identificeren in die contexten.

Betekenis en Claims
Het artikel beweert dat FAMeX een veelbelovend algoritme is voor het verklaren van KI-voorspellingen omdat het effectief feature-importantie inschat in de context van classificatie door rekening te houden met zowel relevantie als redundantie. De auteurs stellen dat de experimentele resultaten de doeltreffendheid van FAMeX boven PFI en SHAP bevestigen. Het werk wordt gepresenteerd als een stap in de richting van het kweken van vertrouwen in KI-systemen door een transparante, holistische uitleg van besluitvormingsprocessen te bieden. De auteurs concluderen bescheiden en suggereren dat toekomstig werk zou moeten bestaan uit het toepassen van FAMeX op complexere, grootschalige datasets en het vergelijken ervan met aanvullende state-of-the-art XAI-algoritmen.