Technische Samenvatting: Contrafactuele Verklaringen onder Conceptdrift

1. Probleemstelling

Contrafactuele verklaringen (CFE's) zijn actievere terugkoppelmехanismen die beantwoorden wat er moet veranderen opdat het resultaat anders wordt. Hoewel de bestaande literatuur CFE-generatie voor statische data en vaste classifiers uitvoerig behandelt, identificeert dit artikel een kritieke lacune: CFE-onderhoud onder conceptdrift.

In evoluerende dataomgevingen (bijvoorbeeld datastromen) worden classifiers frequent online bijgewerkt om zich aan te passen aan veranderende data-distributies. De auteurs betogen dat een CFE die op het moment van generatie geldig was, stilzwijgend ongeldig kan worden naarmate het model evolueert, zelfs als de oorspronkelijke verklaring robuust was tegenover begrenste, enkelvoudige modelwijzigingen. In tegenstelling tot eerdere robuustheidsonderzoeken, die erop gericht zijn een enkele verklaring te verstevigen tegenover een begrensd hertrainingsgebeurtenis, behandelt dit werk de continue degradatie van een populatie CFE's naarmate een classifier over tijd herhaaldelijk wordt bijgewerkt. De kernuitdaging is om de geldigheid en lokale plausibiliteit van bestaande CFE's te behouden zonder de rekenkosten van het opnieuw genereren vanaf nul na elke modelupdate.

2. Methodologie

De auteurs stellen een lichtgewicht, modelonafhankelijk onderhoudsschema voor dat bestaande CFE's repareert met behulp van lokaal bemonsteren en een schuifend venster van recente observaties.

2.1 Staatrepresentatie en Triggering

Het systeem onderhoudt een staat $s = (x_0, x', c', a)$ voor elke query-instantie $x_0$, waarbij $x'$ de huidige CFE is, $c'$ de doelklasse is en $a$ een actieve vlag is.

• Uitdienstneming: Een staat wordt uit dienst genomen als de huidige classifier $f_t$ al de doelklasse voorspelt voor $x_0$ (d.w.z. de drift heeft de terugkoppelbehoefte natuurlijk opgelost).
• Update-trigger: Een update wordt getriggerd als de huidige CFE ongeldig is ($f_t(x') \neq c'$) of een lage betrouwbaarheid heeft voor de doelklasse ($p_t(c' | x') < \tau_{low}$).

2.2 Het Update-mechanisme

De methode past een correctievector toe op de huidige CFE $x'$, waarbij drie doelstellingen in evenwicht worden gebracht:

1. Geldigheidsrichting ($v$): Verhoogt de waarschijnlijkheid van de doelklasse. Voor niet-differentieerbare modellen (bijvoorbeeld Hoeffding-bomen) wordt dit geschat door lokale perturbaties rond $x'$ te bemonsteren, de classifier te bevragen en lokaal gewogen lineaire surrogaten (vergelijkbaar met LIME) te fitten om de gradiënt te benaderen.
2. Plausibiliteitsrichting ($p$): Beweegt de CFE naar dichte gebieden van de doelklasse in de recente datastroom. Dit wordt berekend met behulp van een kernel-gewogen mean-shift-richting gebaseerd op de $k$-naaste buren van de doelklasse binnen een schuivende buffer $B_t$.
3. Proximate Trek ($r$): Een vector die $x'$ terugtrekt naar de oorspronkelijke instantie $x_0$ om onnodige afwijking te minimaliseren.

De update-richting $d$ is een genormaliseerde lineaire combinatie van de geselecteerde correctievector ($u \in \{v, p\}$) en de proximiteitstrek:
$$d = \frac{\lambda_u \hat{u} + \lambda_r \hat{r}}{\|\lambda_u \hat{u} + \lambda_r \hat{r}\|}$$
waarbij $\lambda_u$ en $\lambda_r$ de relatieve sterkte van de correctie en de proximiteit respectievelijk controleren.

2.3 Onderhoudsvarianten

Het artikel evalueert twee specifieke strategieën:

• Geldigheid–Plausibiliteit (Ours-VP): Gebruikt de geldigheidsrichting $v$ wanneer de CFE ongeldig is of een lage betrouwbaarheid heeft. Daarnaast past het periodiek (elke $K$ stappen) de plausibiliteitsrichting $p$ toe om geldige CFE's uitgelijnd te houden met recente data-distributies.
• Alleen Plausibiliteit (Ours-P): Schat de geldigheidsrichting niet in. In plaats daarvan vertrouwt het uitsluitend op de plausibiliteitsrichting $p$ om ongeldige of laag-betrouwbaarheids CFE's te repareren, en test het of het bewegen naar dichte doelgebieden voldoende is om geldigheid te herstellen onder geleidelijke drift.

3. Experimentele Opzet en Resultaten

Experimenten werden uitgevoerd op synthetische driftende stromen (Rotating Hyperplane, Sine, SEA) met behulp van online classifiers (Logistische Regressie en Adaptieve Hoeffding-bomen).

3.1 Belangrijkste Bevindingen

• Degradatie van Statieke CFE's: "Bevroren" CFE's (inclusief die gegenereerd door robuuste methoden zoals RobX) verliezen snel geldigheid naarmate conceptdrift zich ophoopt. Bijvoorbeeld, op de Rotating Hyperplane-stroom daalde de geldigheid tot ongeveer 0,29–0,35 voor bevroren CFE's.
• Behoud van Geldigheid: Beide onderhoudsvarianten (Ours-P en Ours-VP) slaagden erin om bijna perfecte geldigheid (vaak 1,0) te behouden gedurende de stroom, wat een significant betere prestatie was dan bevroren baselines.
• Verbetering van Plausibiliteit: Onderhouden CFE's behaalden aanzienlijk hogere lokale plausibiliteitsscores (kNN en KDE) in vergelijking met regeneratie-baselines zoals Nearest Neighbor (NN) en Growing Spheres (GS). Dit komt doordat het onderhoudsschema expliciet de recente databuffer integreert, terwijl regeneratiemethoden vaak alleen optimaliseren voor geldigheid en proximiteit.
• Proximate Trade-off: De onderhouden CFE's vertoonden grotere $L_2$-afstanden (proximiteit) in vergelijking met regeneratiemethoden. De auteurs schrijven dit toe aan de kosten van het behoud van lokale plausibiliteit; de CFE's worden verplaatst naar recente doelklasse-gebieden die mogelijk iets verder van de oorspronkelijke instantie verwijderd zijn dan het dichtstbijzijnde geldige punt dat door regeneratie wordt gevonden.
• Rekenkundige Efficiëntie: Ondanks het uitvoeren van 200 onderhoudsupdates, waren de voorgestelde methoden concurrerend met of sneller dan regeneratie-baselines (bijvoorbeeld RobX) die slechts één keer aan het einde van de stroom worden uitgevoerd. Ours-P was opvallend sneller dan Ours-VP door het schatten van de geldigheidsrichting te vermijden.

4. Bijdragen

Het artikel claimt de volgende bijdragen:

1. Probleemdefinitie: Het introduceert CFE-onderhoud onder conceptdrift als een aparte probleemklasse, en onderscheidt dit van statische robuustheidssituaties. Het doel is om een populatie verklaringen geldig en plausibel te houden naarmate de classifier evolueert, in plaats van een enkele verklaring te verstevigen tegenover een enkele wijziging.
2. Voorgestelde Methode: Een lichtgewicht, modelonafhankelijk schema dat CFE's repareert met behulp van lokaal bemonsteren om geldigheids- en plausibiliteitsrichtingen te schatten, terwijl de proximiteit wordt behouden.
3. Empirisch Bewijs: Demonstratie dat standaard en robuuste CFE's systematisch geldigheid verliezen onder continue drift, terwijl het voorgestelde schema geldigheid en lokale plausibiliteit behoudt tegen lagere rekenkosten dan herhaalde regeneratie.

5. Betekenis en Beperkingen

De auteurs positioneren dit werk als een initiële bewijs van concept. De betekenis ligt in het verschuiven van het paradigma van XAI in streaming-omgevingen van het behandelen van verklaringen als statische artefacten naar het zien ervan als dynamische objecten die onderhoud vereisen. Dit is bijzonder relevant wanneer de oorspronkelijke CFE-generator rekenkundig duur is, niet beschikbaar, of ongeschikt voor frequente heruitvoering.

Het artikel erkent bescheiden zijn beperkingen:

• De evaluatie is beperkt tot synthetische, laag-dimensionale stromen met gecontroleerde geleidelijke drift.
• Het stelt nog geen prestaties vast in complexe real-world scenario's, hoog-dimensionale data of data van gemengde typen.
• Toekomstig werk wordt voorgesteld om echte datastromen, differentieerbare classifiers en het uitbreiden van onderhoud van individuele CFE's naar groepsniveau contrafactuelen te verkennen.

De auteurs concluderen dat het onderhouden van verklaringen in de tijd een praktisch alternatief is voor herhaalde regeneratie, en een balans biedt tussen geldigheid, plausibiliteit en rekenkosten in evoluerende omgevingen.