cc-Shapley: Measuring Multivariate Feature Importance Needs Causal Context

Dit artikel introduceert cc-Shapley, een methode die causale kennis integreert in Shapley-waarden om misleidende multivariate feature-importances veroorzaakt door collider-bias te corrigeren en zo betrouwbare inzichten voor explainable AI te garanderen.

De kern

Hier is een uitleg van het artikel "cc-Shapley" in eenvoudig Nederlands, met behulp van alledaagse vergelijkingen.

Het Probleem: De "Valse Vriend" in de Data

Stel je voor dat je een detective bent die probeert uit te vinden waarom iemand ziek is (bijvoorbeeld diabetes). Je hebt een lijst met aanwijzingen: bloedsuikergehalte, hoeveelheid koolhydraten gegeten, en BMI.

In de wereld van kunstmatige intelligentie (AI) gebruiken we vaak een slimme rekenmethode genaamd Shapley-waarden. Deze methode probeert te zeggen: "Welke aanwijzing is het belangrijkst?"

Het probleem is echter: Deze methode kijkt alleen naar de data zoals die er is, zonder te begrijpen hoe de wereld werkt. Dit leidt tot rare conclusies.

Het Ontbijt-voorbeeld (De "Valse Vriend")

Stel je voor:

1. Een patiënt eet veel koolhydraten (ontbijt).
2. De patiënt heeft diabetes.
3. Beide factoren zorgen ervoor dat de bloedsuiker (G) hoog is.

Als de AI alleen naar de data kijkt, ziet hij dit: "Wanneer iemand veel koolhydraten eet, is de bloedsuiker vaak hoog. Maar als de bloedsuiker niet extreem hoog is, terwijl er wel veel koolhydraten zijn, dan moet de diabetes wel ontbreken."

De AI denkt dan: "Ah, veel koolhydraten eten maakt diabetes minder waarschijnlijk!"
Dit is natuurlijk belachelijk. Koolhydraten maken diabetes niet beter. Maar de AI wordt "geblufft" door een statistisch trucje. Omdat de bloedsuiker (G) het resultaat is van beide factoren, werkt het als een valstrik. Als je kijkt naar de bloedsuiker, "verdwijnt" de invloed van de koolhydraten op de diabetes uit beeld. De AI noemt dit een "suppressie-effect".

In het dagelijks leven is dit alsof je denkt: "Mensen met een paraplu lopen minder vaak nat."
Nee, mensen met een paraplu lopen niet minder vaak nat; ze lopen juist vaak in de regen (waarom ze een paraplu hebben). Als je kijkt naar mensen die nat zijn, en je ziet dat ze een paraplu hebben, denk je misschien dat de paraplu ze droog houdt. Maar nee, de regen (de oorzaak) is de echte boosdoener. De paraplu is alleen een symptoom van de regen.

De Oplossing: cc-Shapley (De "Causale Detective")

De auteurs van dit papier zeggen: "We moeten stoppen met alleen naar de data te kijken en beginnen met begrijpen wat de oorzaak is van wat."

Ze introduceren een nieuwe methode: cc-Shapley (causal context Shapley).

In plaats van te zeggen: "Wat gebeurt er met de ziekte als we kijken naar mensen met veel koolhydraten en een hoge bloedsuiker?" (wat de AI verwart), zeggen ze:

"Wat gebeurt er met de ziekte als we fysiek ingrijpen en iedereen een normaal ontbijt geven, ongeacht wat ze normaal eten?"

Dit noemen ze een interventie. Het is alsof je in een film de regisseur bent en je zegt: "Stop met de regen, laat de zon schijnen." Dan zie je pas echt wat de paraplu doet (niets, want hij is niet nodig) en wat de zon doet.

De Vergelijking: Kijken vs. Doen

• De oude methode (Shapley): Kijkt naar een foto. "Oh, die man met de paraplu staat in de regen. De paraplu is dus belangrijk voor de regen!" (Fout: De paraplu is een reactie, geen oorzaak).
• De nieuwe methode (cc-Shapley): Doet alsof hij de paraplu weghaalt of toevoegt in een experiment. "Als ik deze man een paraplu geef, wordt hij dan minder nat?" Nee. "Als ik de regen stop, wordt hij dan minder nat?" Ja.

Door deze "ingreep" (interventie) te simuleren, ziet de AI dat koolhydraten (de paraplu) niets te maken hebben met het risico op diabetes, tenzij ze direct de oorzaak zijn. De valse conclusie verdwijnt.

Waarom is dit belangrijk?

1. Geen valse hoop: Als een arts een AI gebruikt die denkt dat "veel koolhydraten eten" diabetes voorkomt, zou die arts misschien verkeerde adviezen geven. cc-Shapley voorkomt dit.
2. Wetenschappelijke ontdekking: Als we AI gebruiken om nieuwe medicijnen te vinden, willen we weten wat echt werkt. Als de AI door statistische trucs (zoals de paraplu) wordt misleid, vinden we de verkeerde medicijnen.
3. Vertrouwen: Mensen kunnen AI beter vertrouwen als de uitleg logisch is en overeenkomt met hoe de echte wereld werkt, niet alleen met hoe de cijfers eruitzien.

Conclusie

De boodschap van dit artikel is simpel: AI kan niet alleen naar cijfers kijken om de waarheid te vinden. Het heeft een beetje "verstand van oorzaak en gevolg" nodig.

Zonder deze kennis kan AI denken dat een paraplu regen stopt. Met de nieuwe cc-Shapley-methode, die gebruikmaakt van kennis over hoe de wereld in elkaar zit, ziet de AI dat de paraplu alleen maar een reactie is op de regen, en dat de regen de echte oorzaak is. Dit maakt de uitleg van AI veel betrouwbaarder en nuttiger voor echte mensen.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het paper "cc-Shapley: Measuring Multivariate Feature Importance Needs Causal Context" in het Nederlands.

Titel: cc-Shapley: Het Meten van Multivariate Feature Importance Vereist Causale Context

Auteurs: Jörg Martin en Stefan Haufe
Publicatiedatum: 6 maart 2026 (voorgesteld)

---

1. Het Probleem: De Illusie van Puur Data-Gedreven XAI

Het paper adresseert een fundamenteel tekortkoming in de huidige Explainable Artificial Intelligence (XAI), specifiek bij het gebruik van Shapley-waarden voor het toekennen van belang (feature attribution) aan variabelen in machine learning-modellen.

• De Kern van het Probleem: Traditionele Shapley-waarden zijn puur observationeel. Ze berekenen de bijdrage van een feature $X_j$ aan de voorspelling door te kijken naar de verandering in de verwachting van het doel $Y$ wanneer $X_j$ wordt toegevoegd aan een set van andere geobserveerde features $S$.
• Collider Bias en Suppression: Het paper toont aan dat deze observationele benadering vatbaar is voor collider bias. Wanneer een feature (de "suppressor") wordt geconditioneerd op een andere variabele die een gemeenschappelijk effect heeft op zowel de suppressor als het doel (een "collider" in het causale graf), ontstaan er schijnbare associaties.
  • Voorbeeld: In een scenario met diabetes ($Y$), koolhydraatopname ($C$) en bloedglucose ($G$), waarbij $G$ wordt bepaald door zowel $Y$ als $C$, leidt het conditioneren op $G$ ertoe dat $C$ een negatieve correlatie met diabetes lijkt te hebben. Dit is een statistisch artefact (suppression) en geen echte causale relatie.
• Gevolg: Zonder causale kennis kunnen XAI-methoden features ten onrechte als belangrijk markeren (met een verkeerd teken, bijvoorbeeld negatief in plaats van positief) of irrelevant features als relevant presenteren. Dit ondermijnt de betrouwbaarheid van XAI voor modeldebugging en wetenschappelijke ontdekking.

2. Methodologie: cc-Shapley (Causal Context Shapley)

De auteurs introduceren cc-Shapley, een interventie-gedreven modificatie van de klassieke Shapley-waarden die causale kennis integreert om spurious associaties te elimineren.

• Conceptuele Verschil:
  • Klassiek Shapley: Conditioneert op de context $S$ (observationeel): $E[Y | X_j, S] - E[Y | S]$.
  • cc-Shapley: Voert een interventie uit op de context $S$ (causaal): $E[Y | X_j, do(S)] - E[Y | do(S)]$.
• Definitie: De cc-Shapley-waarde voor een feature $X_j$ wordt gedefinieerd als:
  $$\phi_{cc}(X_j) = \sum_{S \subseteq F \setminus \{X_j\}} \gamma(S) \left( E[Y | X_j, do(S)] - E[Y | do(S)] \right)$$
  waarbij $\gamma(S)$ de gebruikelijke combinatorische gewichten zijn.
• Werking: Door $do(S)$ te gebruiken in plaats van $S$, worden de pijlen die naar $S$ leiden in het causale graf gesneden. Dit voorkomt dat $S$ fungeert als een collider die paden tussen $X_j$ en $Y$ onbedoeld opent. Hierdoor wordt de "suppression" effectief verwijderd.
• Estimatie:
  • Als de Structural Causal Model (SCM) bekend is, kan $E[Y | X_j, do(S)]$ direct worden gesimuleerd.
  • Als de SCM onbekend is maar de causale graaf wel, kan de backdoor-adjustment (van Pearl) worden toegepast of kunnen assignment-functies worden geschat via regressie op de ouders van de variabelen.
  • Het paper presenteert Algoritme 1 voor het berekenen van deze waarden door een gestochtische interventie op de contextvariabelen toe te passen en vervolgens machine learning-modellen (zoals XGBoost) te trainen op de gegenereerde data.

3. Belangrijkste Bijdragen

1. Identificatie van een Fundamenteel Tekortkoming: Het paper demonstreert dat niet-causale XAI-methoden inherent vatbaar zijn voor collider bias en suppression, zelfs in eenvoudige tweedimensionale problemen, wat leidt tot misleidende conclusies.
2. Introductie van cc-Shapley: Een nieuwe methode die Shapley-waarden combineert met causale inferentie. Het is de eerste aanpak die ontworpen is om collider bias te elimineren zonder zich te beperken tot univariate feature importance (wat vaak te simpel is voor interacties).
3. Theoretische Validatie: Bewijs dat cc-Shapley voldoet aan de Statistical Association Property (SAP): als een feature causaal onafhankelijk is van het doel, krijgt deze een waarde van nul, zelfs in multivariate contexten.
4. Experimentele Validatie: Uitgebreide tests op synthetische data (lineaire en niet-lineaire SCMs) en een real-world dataset (proteïne-signaleringsnetwerken) tonen aan dat cc-Shapley de verkeerde attributies van standaard Shapley corrigeert.

4. Resultaten

De auteurs vergelijken standaard Shapley-waarden met cc-Shapley-waarden in verschillende scenario's:

• Synthetisch Lineair Voorbeeld: In een experiment met 3.000 willekeurige lineaire SCMs, bleek dat bij hoge "collider impact" de observationele Shapley-waarden sterk afweken van de ware causale relatie (vaak met een omgekeerd teken). De cc-Shapley-waarden bleven daarentegen consistent met de ware causale effecten.
• Diabetes en BMI (Niet-lineair):
  • Observationeel: BMI ($B$) kreeg een negatieve Shapley-waarde, wat suggereerde dat een hoge BMI het diabetesrisico verlaagt (een absurditeit). Dit kwam door collider bias via glucose ($G$) en gemiddelde suiker ($H$).
  • cc-Shapley: De negatieve waarde verdween; BMI kreeg een positieve waarde die overeenkwam met medische kennis (hoge BMI verhoogt risico).
• Real-world Dataset (Sachs et al., 2005): Bij het voorspellen van de concentratie van het eiwit PKA, toonden standaard Shapley-waarden voor eiwitten zoals PKC en P38 negatieve of gemengde relaties door collider bias. cc-Shapley herstelde de verwachte positieve relaties die consistent waren met de univariate analyse en de bekende biologische causaliteit.

5. Betekenis en Conclusie

Het paper concludeert dat XAI zonder causale context een "blinde vlek" heeft. Het is onmogelijk om spurious associaties veroorzaakt door collider bias volledig te elimineren puur op basis van observationele data en modeloutput.

• Paradigmaverschuiving: Om betrouwbare feature attributies te krijgen, moet XAI opstijgen naar de "interventie"-ladder van causale inferentie (Pearl's ladder of causation).
• Praktische Implicatie: cc-Shapley biedt een framework om de "explain away" effecten te corrigeren. Hoewel het vereist dat de causale structuur (of een goede schatting daarvan) bekend is, is dit noodzakelijk om XAI bruikbaar te maken voor wetenschappelijke ontdekking en robuuste modeldebugging.
• Beperkingen: De methode is momenteel niet schaalbaar voor zeer grote feature-sets zonder benaderingen, en vereist kennis van de causale graaf, wat in de praktijk soms lastig te verkrijgen is zonder expertkennis.

Kortom, cc-Shapley is een cruciale stap naar een meer robuuste en causaal correcte interpretatie van machine learning-modellen, waarbij het onderscheid maakt tussen echte causale invloed en statistische artefacten.