Synthesising Counterfactual Explanations via Label-Conditional Gaussian Mixture Variational Autoencoders

Deze paper introduceert LAPACE, een model-agnostisch framework dat gebruikmaakt van een Label-conditional Gaussian Mixture VAE om robuuste, diverse en plausibele tegenstootverklaringen te genereren door trajecten te synthetiseren in een gestructureerde latente ruimte.

De kern

Stel je voor dat je een auto hebt gekocht, maar de bank weigert je een lening voor de onderhoudskosten. De computer van de bank zegt: "Nee." Je vraagt: "Waarom?" De computer antwoordt: "Omdat je inkomen te laag is en je schulden te hoog."

Een tegenfeitelijke verklaring (Counterfactual Explanation) is als een slimme adviseur die zegt: "Als je je inkomen met €500 per maand zou verhogen, of je schulden met €2000 zou verlagen, dan zou je lening wel worden goedgekeurd." Het is een advies over wat je anders had kunnen doen om een ander resultaat te krijgen.

Deze nieuwe paper, getiteld "Synthesising Counterfactual Explanations via Label-Conditional Gaussian Mixture Variational Autoencoders" (een mondvol, maar we noemen het LAPACE), introduceert een slimme nieuwe manier om zulke adviezen te geven. Hier is hoe het werkt, vertaald naar alledaags taal:

1. Het Probleem: De "Gok" van de Huidige Methode

Huidige methoden om deze adviezen te geven, zijn vaak als een blinde zoektocht. Ze proberen willekeurig kleine veranderingen in je gegevens te maken om te zien of de bank dan "Ja" zegt.

• Het risico: Soms geven ze een advies dat technisch wel werkt, maar in de echte wereld onmogelijk is (bijvoorbeeld: "Verander je geboortedatum").
• Het stabiliteitsprobleem: Als de bank morgen zijn computerprogramma iets aanpast (een update), kan het advies van vandaag plotseling waardeloos zijn. Of als je een heel klein detail in je gegevens verandert (een typfoutje), kan het advies volledig anders zijn. Dat maakt mensen wantrouwig.

2. De Oplossing: De "Landkaart" van de Bank

De auteurs van dit paper bouwen eerst een L-GMVAE. Laten we dit zien als het bouwen van een 3D-landkaart van alle mogelijke klanten.

• In plaats van willekeurig rond te lopen, leert dit systeem de "stijlen" van succesvolle klanten.
• Het maakt voor elke categorie (bijvoorbeeld "Goedgekeurd") een paar ideale voorbeelden (noem ze de "Sterke Sterren").
  • Sterke Ster 1: Een klant met een hoog inkomen en geen schulden.
  • Sterke Ster 2: Een klant met een gemiddeld inkomen maar een zeer lange werkgeschiedenis.
  • Sterke Ster 3: Een klant met een iets lager inkomen maar een enorme spaarrekening.
• Deze "Sterke Sterren" zijn geen echte mensen uit de database (dus geen privacyprobleem), maar perfecte, synthetische voorbeelden van wat een "goedgekeurde klant" eruitziet.

3. De Reis: LAPACE (De Routeplanner)

Nu komt LAPACE in beeld. Dit is de routeplanner die jou van je huidige situatie naar een van die "Sterke Sterren" leidt.

• De Route: In plaats van alleen het eindpunt te geven, tekent LAPACE een gladde lijn (een pad) van jouw huidige gegevens naar de "Sterke Ster".
• Waarom een pad? Stel je voor dat je van Amsterdam naar een bergtop loopt. Je wilt niet alleen weten hoe de top eruitziet, maar ook hoe je er komt. Het pad toont je stap voor stap: "Eerst verhoog je je inkomen een beetje, dan los je wat schulden op, en dan ben je daar."
• De keuze: Omdat er meerdere "Sterke Sterren" zijn, krijg je meerdere paden. Je kunt kiezen:
  • Pad A: Een korte route, maar je moet je inkomen heel hard verhogen (dichtbij, maar moeilijk).
  • Pad B: Een langere route, maar je moet alleen je spaargeld aanpassen (verder weg, maar makkelijker).
  • Je kiest zelf wat voor jou het beste werkt.

4. Waarom is dit zo slim? (De Voordelen)

• Stabiliteit (Niet meer wankelen): Omdat alle paden naar dezelfde, vaste "Sterke Sterren" leiden, maakt het niet uit of de bank zijn computerprogramma morgen aanpast. Het doel (de Ster) blijft hetzelfde. Als je vandaag een pad volgt, werkt dat pad morgen nog steeds.
• Veiligheid (Geen echte data lekken): De "Sterke Sterren" zijn synthetisch gemaakt door de computer. Ze lijken op echte mensen, maar zijn niet echt. Dus de bank hoeft geen echte klantgegevens te delen om een goed voorbeeld te geven.
• Regels inbouwen (Actievere adviezen): Soms wil je zeggen: "Ik kan mijn inkomen niet verhogen, maar ik kan wel mijn auto verkopen." Het systeem kan dit als een regel opnemen. Het pad wordt dan automatisch aangepast zodat je nooit een stap maakt die je niet kunt doen (bijvoorbeeld: het pad vermijdt het verhogen van het inkomen en focust alleen op het verkopen van de auto).

Samenvatting in één zin

LAPACE is als een slimme GPS die je niet alleen vertelt waar je moet zijn om een lening te krijgen, maar je ook een veilige, stabiele en realistische route geeft met verschillende opties, zodat je precies weet welke stappen je moet zetten, zonder dat de regels morgen veranderen.

Het is een manier om AI-adviezen te maken die niet alleen technisch correct zijn, maar ook betrouwbaar, veilig en menselijk aanvoelen.

Technische samenvatting

Probleemstelling

Counterfactual explanations (CE's) zijn een cruciale methode in Explainable AI (XAI) om aan individuen aanbevelingen te geven voor algoritmische beslissingen (recourse). Een ideale CE moet voldoen aan meerdere eigenschappen:

1. Validiteit: De gewenste uitkomst wordt bereikt.
2. Proximaliteit: De verandering is minimaal ten opzichte van de oorspronkelijke invoer.
3. Plausibiliteit: De CE ligt binnen de data-manifold (is realistisch).
4. Diversiteit: Er worden meerdere, verschillende opties geboden.
5. Robuustheid: De uitleg moet stabiel blijven bij kleine veranderingen in de invoer (input perturbations) en bij updates van het model (model perturbations/retraining).

Huidige methoden worstelen vaak om al deze eigenschappen in één raamwerk te verenigen. Bestaande benaderingen zijn vaak heuristisch, niet-model-agnostisch, of slagen er niet in om zowel plausibiliteit als robuustheid tegen modelwijzigingen te garanderen zonder gevoelige trainingsdata bloot te leggen.

Methodologie

De auteurs stellen een nieuw generatief raamwerk voor dat bestaat uit twee hoofdcomponenten: het L-GMVAE-model en het LAPACE-algoritme.

1. Label-conditional Gaussian Mixture Variational Autoencoder (L-GMVAE)

Dit is een generatief model dat is aangepast van de standaard GMVAE. Het doel is het leren van een gestructureerde latente ruimte waar elke klasse-label wordt vertegenwoordigd door een set van Gaussische componenten.

• Label-conditionaliteit: In plaats van een enkele verdeling voor alle data, worden de Gaussische clusters ($C$) gepartitioneerd op basis van de voorspelde labels ($Y$). Voor een label $y$ is er een specifieke subset van clusters $C_y$.
• Generatief proces: Het model leert een prior $p(z|c)$ waarbij elke cluster $c$ een eigen centroid (middelpunt) heeft. Omdat het model getraind wordt op de voorspellingen van de classifier, worden deze centroids representatieve, plausibele prototypes voor die klasse.
• Doel: De decodede centroids fungeren als "veilige" doelpunten voor recourse. Omdat ze in de kern van de data-manifold liggen, zijn ze robuust tegen modelupdates.

2. LAPACE (LAtent PAth Counterfactual Explanations)

LAPACE is een model-agnostisch algoritme dat gebruikmaakt van de getrainde L-GMVAE om paden van CE's te genereren.

• Werking: Voor een invoer $x$ met een ongewenste voorspelling, wordt de latente representatie $z_x$ bepaald via de encoder. Vervolgens worden lineaire interpolaties uitgevoerd in de latente ruimte tussen $z_x$ en de centroids van de gewenste doelklasse ($z_{c_j}$).
• Paden genereren: Deze interpolaties worden gedecodeerd naar de invoerruimte, wat resulteert in een pad van punten dat de oorspronkelijke invoer verbindt met de synthetische prototypes.
• Voordelen:
  • Robuustheid: Omdat alle paden voor een bepaalde doelklasse convergeren naar dezelfde vaste centroids, is de output perfect stabiel tegen invoerperturbaties.
  • Validiteit & Plausibiliteit: De eindpunten (centroids) zijn gegarandeerd geldige en realistische voorbeelden van de doelklasse.
  • Diversiteit: Door te interpoleren naar verschillende clusters binnen dezelfde klasse, ontstaan er diverse recourse-opties.
• Actionability Constraints: Het algoritme ondersteunt gebruikersopdrachten (bijv. "leeftijd mag niet veranderen"). Dit wordt opgelost door een lichte gradiënt-optimatie via de decoder van de L-GMVAE tijdens de interpolatiestappen, zonder de validiteit te schaden.

Belangrijkste Bijdragen

1. L-GMVAE: Een nieuw generatief model dat label-informatie expliciet koppelt aan cluster-toewijzingen in de latente ruimte, waardoor diverse en plausibele prototypes voor elke klasse worden gegenereerd.
2. LAPACE: Een model-agnostische methode die paden van CE's genereert door te interpoleren naar deze prototypes. Dit lost het compromis op tussen proximaliteit en plausibiliteit en garandeert robuustheid tegen zowel input- als modelveranderingen.
3. Integratie van Constraints: Een efficiënte manier om actievere beperkingen (actionability) op te nemen via gradiënt-afstijging door de decoder.
4. Uitgebreide Evaluatie: Een benchmark tegen state-of-the-art methoden op acht kwantitatieve metrieken.

Resultaten

De auteurs hebben LAPACE getest op vier datasets (Heloc, Wine, Adult, Compas) met twee soorten classifiers (Random Forest en Neural Networks).

• Validiteit & Robuustheid: LAPACE (specifiek de variant die de centroids bereikt, "LAPACE-Last") bereikt 100% robuustheid tegen modelveranderingen en inputveranderingen. Dit is een uniek kenmerk vergeleken met bestaande methoden.
• Plausibiliteit: LAPACE presteert consistent het beste op plausibiliteit (gemeten via Local Outlier Factor), wat aangeeft dat de gegenereerde CE's zeer dicht bij de echte data-manifold liggen.
• Proximaliteit & Diversiteit: De methode biedt een spectrum van opties. "LAPACE-First" (het eerste punt dat de voorspelling verandert) biedt goede proximaliteit, terwijl latere punten meer diversiteit en robuustheid bieden.
• Efficiëntie: Omdat LAPACE geen complexe gradiënt-optimatie in de latente ruimte vereist tijdens de inferentie (alleen forward passes), is het computatief zeer efficiënt, tweede alleen in snelheid tot NNCE.
• Actionability: In experimenten met constraints (bijv. op de Wine en Heloc datasets) slaagde LAPACE erin om in 100% van de gevallen een geldige CE te vinden die aan alle constraints voldeed, terwijl baseline-methoden hier vaak faalden.

Betekenis en Impact

Dit werk is significant omdat het een gebrek in de huidige literatuur oplost: het ontbreken van een unified framework dat validiteit, plausibiliteit, diversiteit én meerdere vormen van robuustheid combineert.

• Vertrouwen: Door robuuste en plausibele CE's te garanderen, wordt het vertrouwen in algoritmische recourse vergroot. Gebruikers krijgen geen willekeurige of instabiele aanbevelingen.
• Privacy: In tegenstelling tot methoden die dichte buren uit de trainingsset gebruiken, genereert LAPACE synthetische punten, waardoor de privacy van de oorspronkelijke dataset wordt beschermd.
• Toekomstperspectief: De gestructureerde latente ruimte biedt een basis voor verdere onderzoeksvragen, zoals region-based explanations (in plaats van punt-gebaseerde) en het integreren van causale beperkingen.

Kortom, LAPACE biedt een praktische, snelle en theoretisch onderbouwde oplossing voor het genereren van hoogwaardige counterfactual explanations in complexe, real-world scenario's.