🤖 machine learning

Backward Compatibility in Tree-Based Explanations and Enhanced CART Algorithm

Dit artikel introduceert de Backward Compatibility Loss in Tree-based eXplanations (BCLTX)-metriek en een bijbehorend lichtgewicht algoritme, CART-BCTX, om ervoor te zorgen dat updates van beslisboommodellen consistente structurele verklaringen behouden terwijl de voorspellingsnauwkeurigheid en computationele efficiëntie worden gewaarborgd.

Oorspronkelijke auteurs: Hirofumi Suzuki

Gepubliceerd 2026-08-11

📖 7 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Hirofumi Suzuki

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een detective bent die een mysterie oplost. Je hebt een notitieblok vol aanwijzingen en een set regels die je hebt opgeschreven om de dader te achterhalen. Deze regels zijn als een landkaart: "Als de verdachte in de buurt van de bakkerij is gezien, controleer dan het alibi; als ze in het park waren, controleer dan het weer." Dit is hoe een Decision Tree (beslisboom) werkt in de wereld van computers. Het is een populair hulpmiddel voor het nemen van beslissingen omdat het zeer transparant is; je kunt naar de boom kijken en precies zien waarom het een bepaalde keuze heeft gemaakt. Het is als een stroomdiagram dat iedereen kan lezen.

Maar hier komt het lastige deel: de wereld verandert. Nieuwe aanwijzingen verschijnen, oude worden vaag, en soms veranderen de gewoonten van de dader. De detective moet dan zijn notitieblok bijwerken met nieuwe regels. Dit wordt Model Updating genoemd. Het probleem is: als je het oude notitieblok gewoon weggooit en een gloednieuw exemplaar vanaf nul schrijft, kunnen de regels compleet veranderen. Plotseling is de verdachte die ooit werd vrijgesproken omdat hij bij de bakkerij was, nu de hoofdverdachte omdat de nieuwe regels zeggen: "controleer eerst de bakkerij." Dit ver verwart de mensen die op de detective vertrouwen. Ze vertrouwden op de oude logica, en nu voelt de nieuwe logica als een verraad. Dit is het probleem van Backward Compatibility (achterwaartse compatibiliteit): ervoor zorgen dat wanneer je je systeem bijwerkt, je niet de logica of het vertrouwen verbreekt waar gebruikers al op vertrouwden.

Het Puzzelstuk van de Verschuivende Regels

In het artikel "Backward Compatibility in Tree-Based Explanations and Enhanced CART Algorithm" pakt Hirofumi Suzuki precies dit hoofdpijndossier aan. De auteur stelt een eenvoudige maar vitale vraag: Wanneer we een beslisboom bijwerken met nieuwe gegevens, hoe kunnen we er dan voor zorgen dat de redenen die de boom geeft voor zijn beslissingen niet wild veranderen?

Beschouw een beslisboom als een spelletje "20 Vragen". De boom stelt vragen zoals "Is het getal groter dan 5?" om het antwoord te verfijnen. De "uitleg" is het specifieke pad van vragen dat de boom heeft afgelegd om tot het antwoord te komen. Als je de boom bijwerkt, verander je misschien de vragen volledig. Misschien vraagt de nieuwe boom in plaats daarvan: "Is het getal even?" Voor de computer kunnen beide correct zijn, maar voor een mens die de logica probeert te begrijpen, is die verschuiving schokkend.

De auteur betoogt dat het simpelweg bijwerken van een boom om nauwkeuriger te zijn niet genoeg is. Als de nieuwe boom een andere "verhaallijn" geeft voor waarom hij een keuze maakte, kan dat gevaarlijk zijn, vooral in sectoren met hoge inzet zoals de gezondheidszorg of de financiële sector, waar mensen de logica moeten kunnen vertrouwen. De auteur suggereert dat we een manier nodig hebben om te meten hoeveel het "verhaal" verandert en vervolgens een nieuwe boom moeten bouwen die het verhaal grotendeels hetzelfde houdt, zelfs terwijl het nieuwe dingen leert.

Het Nieuwe Instrument: Een "Compatibiliteits"-scorekaart

Om dit op te lossen, heeft de auteur een nieuw meetinstrument uitgevonden genaamd BCLTX (Backward Compatibility Loss in Tree-based eXplanations). Stel je voor dat je twee kaarten van dezelfde stad hebt: de oude en de nieuwe. BCLTX is een score die aangeeft hoe verschillend de straten tussen de twee kaarten zijn.

Het artikel stelt vier verschillende manieren voor om deze score te berekenen, maar het komt allemaal neer op het controleren van twee zaken:

Welke kenmerken doen ertoe? Is de nieuwe boom aandacht gaan schenken aan andere aanwijzingen (zoals de overstap van "bakkerij" naar "park")?
Hoe breed zijn de regels? Zijn de grenzen van de regels verschoven? (Bijvoorbeeld: veranderde de regel van "bakkerijen binnen 1 mijl" naar "bakkerijen binnen 5 mijl"?)

De auteur noemt dit een "loss metric", wat gewoon een chique manier is om te zeggen: "een score voor hoeveel we de oude logica hebben verpest." Het doel is om deze score zo laag mogelijk te houden.

De Oplossing: CART-BCTX

Het artikel introduceert vervolgens een nieuw algoritme genaamd CART-BCTX. Als je weet hoe computers leren, ken je misschien CART (Classification and Regression Trees), de standaardmethode voor het bouwen van deze beslisbomen. Het is als het standaardrecept voor het bakken van een cake.

CART-BCTX is als een "supergeladen" versie van dat recept. Het is dezelfde cake, maar de bakker (het algoritme) heeft een nieuwe regel: "Terwijl je bakt, zorg je ervoor dat je de vorm van de cake niet te veel verandert ten opzicht van de vorige."

Het algoritme werkt door elke mogelijke splitsing in de boom te bekijken en te vragen: "Als ik deze snede maak, helpt dat dan om beter te voorspellen, maar zal het ook de uitleg vergelijkbaar houden met de oude boom?" Het balanceert deze twee doelen met behulp van een knop genaamd $\lambda$ (lambda).

Als je de knop naar nul draait, werkt het als de normale CART en negeert het de oude boom volledig.
Als je de knop omhoog draait, wordt het heel koppig in het behouden van de oude logica, zelfs als dat betekent dat de nieuwe voorspellingen niet precies zo perfect zijn.

De auteur heeft dit getest op 10 real-world datasets, variërend van het classificeren van e-mails als spam tot het voorspellen van de hoeveelheid wijn in een fles. De resultaten waren veelbelovend. Het artikel suggereert dat CART-BCTX een "sweet spot" kan vinden waarbij de boom beter wordt in het voorspellen van zaken zonder zijn eigen verhaal volledig te herschrijven.

Wat het Papier Zegt (en Niet Zegt)

De experimenten laten zien dat deze nieuwe methode goed werkt. Specifiek stelt het artikel vast dat:

Het werkt snel: Het nieuwe algoritme kost ongeveer evenveel tijd om uit te voeren als de standaard CART. Het vertraagt de boel niet significant, zelfs niet met de extra wiskunde.
Het houdt het verhaal consistent: Door gebruik te maken van de nieuwe "loss metric", blijven de verklaringen (de paden door de boom) veel stabieler dan wanneer je de boom normaal zou bijwerken.
Het helpt ook bij voorspellingen: Interessant genoeg zorgt het feit dat de verklaringen stabiel blijven, ervoor dat de nieuwe boom ook de neiging heeft om zijn voorspellingen stabiel te houden voor de zaken die hij eerder goed had. Dit is een gunstig bijeffect.

Het artikel vergelijkt deze methode ook met Incremental Decision Trees (zoals VFDT en HAT), die ontworpen zijn om één stukje data tegelijk te leren, zoals een stroom. De resultaten suggereren dat hoewel deze streaming-bomen goed zijn in het verwerken van nieuwe data die binnenkomt, ze niet noodzakelijkerwijs het "verhaal" op de lange termijn consistent houden wanneer je naar batches van data kijkt. CART-BCTX lijkt beter te presteren in het handhaven van die achterwaartse compatibiliteit wanneer je het hele model in één keer bijwerkt.

De auteur is echter voorzichtig om niet te beweren dat dit een wondermiddel is. Het artikel merkt op dat het wiskundig onmogelijk is om de perfecte boom snel te vinden, dus gebruikt deze methode een "greedy" benadering (het maken van de beste lokale keuze op elk punt). Het geeft ook toe dat ze niet volledig hebben getest hoe dit werkt wanneer de wereld drastisch verandert (concept drift) of hoe echte mensen daadwerkelijk op deze veranderingen reageren in een gebruikersstudie.

De Kernboodschap

Kortom, dit artikel biedt een praktische manier om de "logische kaarten" die computers gebruiken bij te werken, zodat wanneer de kaart verandert, de oriëntatiepunten niet verdwijnen. Het suggereert dat we door een eenvoudige "compatibiliteitscontrole" toe te voegen aan het standaard proces van boomopbouw, onze AI-modellen kunnen bijwerken zonder de mensen die erop vertrouwen te verwarren. Het is een stap naar het maken van machine learning-updates die minder aanvoelen als een verrassing en meer als een natuurlijke evolutie.

Technische Samenvatting: Achterwaartse Compatibiliteit in Boomgebaseerde Verklaringen en het Verbeterde CART-Algoritme

1. Probleemstelling

In de operationele levenscyclus van machine learning-systemen zijn modelupdates noodzakelijk om de prestaties te behouden naarmate datadistributies verschuiven. Standaard modelupdates veranderen echter vaak de gedragingen van het model aanzienlijk, wat het downstream besluitvormingsproces kan verstoren en het vertrouwen van de gebruiker kan ondermijnen. Dit probleem is bijzonder kritiek in risicosensitieve domeinen (bijv. gezondheidszorg, financiën) waar Explainable AI (XAI) wordt toegepast.

Hoewel bestaand onderzoek naar achterwaartse compatibiliteit (het kwantificeren van de stabiliteit van modelgedrag over updates heen) zich heeft gericht op voorspellingsconsistentie of SHAP-gebaseerde feature-bijdragen, schieten deze benaderingen tekort bij het adresseren van boomgebaseerde verklaringen. Beslissingsbomen bieden transparantie via if-then-else regels afgeleid van feature-intervallen. Wanneer een beslissingsboom wordt opnieuw getraind op nieuwe data, kunnen de splitsingspunten en de resulterende feature-subruimtes (verklaringen) drastisch veranderen, zelfs als de voorspellende nauwkeurigheid verbetert. Dit gebrek aan achterwaartse compatibiliteit in verklaringen kan gebruikers verwarren die vertrouwen op consistente logische regels voor besluitvormingsondersteuning. Huidige methoden kunnen niet effectief optimaliseren voor de stabiliteit van deze boomgestructureerde verklaringen.

2. Methodologie

2.1 Voorgestelde Metriek: BCLTX

De auteur stelt Backward Compatibility Loss in Tree-based eXplanations (BCLTX) voor, een verliesmetriek die ontworpen is om de divergentie te kwantificeren tussen de verklaringen van een oude beslissingsboom ( $T_1$ ) en een nieuwe beslissingsboom ( $T_2$ ) voor monsters waarbij het oude model correct was.

Een beslissingsboomverklaring voor een input $\mathbf{x}$ wordt gedefinieerd als een conjunctie van intervallen voor specifieke features, gerepresenteerd door een vector van lagere ( $l$ ) en hogere ( $u$ ) grenzen. BCLTX meet het verschil tussen $T_1$ en $T_2$ met behulp van vier varianten:

$\delta_{JAC}$ (Jaccard-gebaseerd): Meet het symmetrische verschil in de set features die bijdragen aan de verklaring (waar grenzen eindig zijn).
$\delta_{JLU}$ (Jaccard Lower/Upper): Meet afzonderlijk het symmetrische verschil in features die bijdragen aan lagere grenzen en hogere grenzen.
$\delta_{MAE}$ (Mean Absolute Error): Kwantificeert het verschil in feature-gewijze intervallen met behulp van absolute fout, genormaliseerd door de standaarddeviatie van de feature en begrensd door de databereiken.
$\delta_{MSE}$ (Mean Squared Error): Kwantificeert intervalverschillen met behulp van gekwadrateerde fout, op vergelijkbare wijze genormaliseerd.

2.2 Algoritme: CART-BCTX

Om te optimaliseren voor BCLTX, stelt de auteur CART met Backward Compatibility in Tree-based eXplanations (CART-BCTX) voor. Dit is een lichtgewicht, gulzig (greedy) algoritme dat het standaard CART-algoritme uitbreidt.

Doelfunctie: Het algoritme minimaliseert een gecombineerde doelfunctie:
$f(T_1, T_2, D_2, \lambda) = \frac{1}{|D_2|} \sum \ell(T_2(\mathbf{x}), y) + \frac{\lambda}{|D_s|} \sum \delta(T_1, T_2, \mathbf{x})$
Waarbij $\ell$ de taakspecifieke loss is (bijv. 0-1 loss of kwadratische fout), $D_s$ de set monsters is die door het oude model $T_1$ correct zijn voorspeld, en $\delta$ de gekozen BCLTX-variant is, en $\lambda$ de afweging tussen voorspellende prestaties en verklaringstabiliteit regelt.
Gulzige Splitsingsselectie: Tijdens de boomgroei houdt CART-BCTX de huidige feature-subruimte grenzen ( $\hat{l}, \hat{u}$ ) voor elke node bij. Bij het evalueren van kandidaat-splitsingen berekent het een "winst" (gain) voor zowel de taak-loss ( $Gain_\ell$ ) als de achterwaartse compatibiliteitsverlies ( $Gain_\delta$ ). De splitsing die de gewogen som van deze winsten maximaliseert, wordt geselecteerd.
- Voor $\delta_{JAC}$ en $\delta_{JLU}$ is de winstberekening constant met betrekking tot de keuze van het splitsingspunt voor een gegeven feature.
- Voor $\delta_{MAE}$ en $\delta_{MSE}$ berekent het algoritme efficiënt de veranderingen in winst met behulp van zelfbalancerende binaire zoekbomen (voor MAE) of eenvoudige sommatie-updates (voor MSE) terwijl de monsters worden gepartitioneerd.
Complexiteit: De computationele complexiteit van CART-BCTX is vergelijkbaar met standaard CART. Het is $O(n m d_2)$ voor de Jaccard, JLU en MSE varianten (waarbij $n$ het aantal monsters is, $m$ het aantal features, en $d_2$ de boomdiepte) en $O(n m d_2 \log n)$ voor de MAE variant.
Snoeien (Pruning): De auteur breidt Cost Complexity Pruning (CCP) uit om BCLTX te verwerken door de gecombineerde verliesfunctie in het snoeicriterium op te nemen, waardoor subbomen kunnen worden verwijderd die de afweging niet voldoende verbeteren.

3. Belangrijkste Bijdragen

Definitie van BCLTX: Het artikel introduceert de eerste metrieken voor achterwaartse compatibiliteit die specifiek zijn ontworpen voor boomgebaseerde verklaringen, waarbij verschillen in feature-sets en intervalgrenzen worden gevangen.
CART-BCTX Algoritme: Een efficiënt, gulzig update-algoritme dat BCLTX integreert in het standaard CART-framework zonder de schaalbaarheid op te offeren.
Theoretische Analyse: Bewijs dat het algoritme een computationele complexiteit behoudt die vergelijkbaar is met standaard CART, met maximaal een logaritmische factor toename voor specifieke verliesvarianten.
Empirische Validatie: Uitgebreide experimenten op 10 real-world datasets (5 classificatie, 5 regressie) die de effectiviteit van het algoritme aantonen.

4. Experimentele Resultaten

Experimenten werden uitgevoerd op 10 datasets uit de UCI en KEEL repositories, waarbij CART-BCTX werd vergeleken met standaard CART-updates en incrementele beslissingsbomen (VFDT en HAT).

Voorspelling-BCLTX Afweging: CART-BCTX bereikt een gunstige afweging tussen voorspellende prestaties (error rate/RMSE) en BCLTX-waarden. Naarmate de regularisatieparameter $\lambda$ toeneemt, verbeteren de BCLTX-waarden (wat duidt op stabielere verklaringen) terwijl de degradatie van de voorspellende prestaties minimaal is voor kleine $\lambda$ .
Impact op Voorspellingscompatibiliteit: Het gebruik van $\delta_{MAE}$ of $\delta_{MSE}$ verbetert de Achterwaartse Compatibiliteit in Voorspellingen (BCP) aanzienlijk, wat suggereert dat het stabiliseren van verklaringen ook de voorspellingen stabiliseert voor monsters die het oude model correct afhandelde.
Computatietijd: CART-BCTX werkt met computationele tijden die vergelijkbaar zijn met standaard CART (maximaal ongeveer 2x trager in worst-case scenario's), wat de praktische efficiëntie bevestigt.
Vergelijking met Incrementele Bomen: Wanneer geëvalueerd op een batch-gewijze basis, presteert CART-BCTX beter dan incrementele bomen (VFDT, HAT) in zowel voorspellende nauwkeurigheid als BCLTX-waarden. Hoewel incrementele bomen enige voorspellingscompatibiliteit behouden, slagen ze er niet in om de stabiliteit van boomgebaseerde verklaringen over de middellange tot lange termijn te bewaren in vergelijking met de batch-geüpdatete CART-BCTX.

5. Betekenis en Claims

Het artikel beweert dat CART-BCTX een praktische oplossing biedt voor het updaten van beslissingsbomen in omgevingen waar de stabiliteit van verklaringen even cruciaal is als de voorspellende nauwkeurigheid. Door drastische veranderingen in beslissingsgrenzen en feature-intervallen te onderdrukken, ondersteunt de methode een betrouwbare inzet (trustworthy deployment) in risicosensitieve toepassingen.

De auteur benadrukt dat:

Bestaande metrieken voor achterwaartse compatibiliteit (gericht op SHAP of voorspellingsnauwkeurigheid) onvoldoende zijn voor beslissingsbomen.
Het voorgestelde framework toestaat achterwaarts compatibele updates zonder dat een volledige herontwerp van het leeralgoritme nodig is.
Hoewel het huidige werk uitgaat van een batch-learning omgeving, kan het concept van achterwaartse compatibiliteit ook op batch-gewijze wijze worden geëvalueerd binnen incrementele leercontexten, waar standaard incrementele bomen mogelijk falen in het behouden van de lange-termijn consistentie van verklaringen.

Door de auteur genoemde beperkingen:

Het algoritme is gulzig (greedy); het vinden van de globaal optimale boom onder BCLTX is computationeel onhandelbaar.
De huidige formulering behandelt niet expliciet concept drift scenario's waarbij de definitie van "correcte" voorspellingen fundamenteel kan verschuiven.
De praktische betekenis van de voorgestelde metrieken vereist verdere validatie door middel van gebruikersstudies in realistische implementatiesettingen.