Accumulated Aggregated D-Optimal Designs for Estimating Main Effects in Black-Box Models

1. Het Probleem

In het veld van explainable machine learning (XAI) is het schatten van de hoofdeffecten (main effects) van individuele invoervariabelen op de uitvoer van een "black-box" model een centrale taak. Bestaande methoden, zoals Partial Dependence (PD) plots en Accumulated Local Effects (ALE) plots, hebben echter twee fundamentele beperkingen:

• Gevoeligheid voor Out-of-Distribution (OOD) evaluaties: Wanneer query-punten worden geplaatst die ver weg liggen van de data-manifold (bijvoorbeeld door correlatie tussen variabelen), leiden methoden zoals PD tot misleidende resultaten door extrapolatie.
• Instabiliteit onder feature-correlatie: Bestaande methoden gebruiken vaak heuristische evaluatiepunten (zoals twee punten per observatie) die niet optimaal zijn voor het minimaliseren van de variantie van de schatting. Dit leidt tot onbetrouwbare effect-schattingen, vooral bij hoge correlaties tussen invoervariabelen.

Er is behoefte aan een algemene aanpak die zowel stabiel is ongeacht feature-correlatie als toepasbaar op elk type voorspellend model, inclusief niet-differentieerbare modellen (zoals K-NN).

2. Methodologie: A2D2E

De auteurs introduceren een nieuwe methode genaamd A2D2E (Estimator based on Accumulated Aggregated D-Optimal Designs). De kern van de methode ligt in een herformulering van het hoofdeffect-probleem als een experimenteel ontwerpprobleem.

Unificatie als Ontwerpprobleem:
De paper toont aan dat het schatten van een hoofdeffect $f_d$ fundamenteel neerkomt op het schatten van lokale hellingen (slopes) over een reeks intervallen (bins). Bestaande methoden (PD, ALE) verschillen slechts in de keuze van de locaties waar het model $\hat{f}$ wordt geëvalueerd.

De A2D2E Aanpak:
In plaats van de heuristische twee-punts design (zoals bij ALE) te gebruiken, vervangt A2D2E dit door een D-optimale hyperkubus-design voor elke lokale regressie:

1. Lokale Design Constructie: Voor elke observatie $x_i$ binnen een bin wordt een lokaal design $S_i$ opgebouwd. Dit bestaat uit de $2p$ hoekpunten van een hyperkubus met straal $\delta/2$ rondom $x_i$.
2. D-Optimaliteit: Dit ontwerp maximaliseert de determinant van de informatie-matrix ($V^T V$), wat resulteert in de minimale variantie voor de schatting van de lokale helling $\beta_{k,i}$ onder een lokaal lineair model.
3. Aggregatie en Accumulatie: De geschatte lokale hellingen worden geaggregeerd binnen elke bin en vervolgens opgeteld (accumulatie) om de totale hoofdeffect-curve te reconstrueren.
4. Model-onafhankelijkheid: De methode vereist geen differentieerbaarheid van het model, omdat het puur gebaseerd is op model-evaluaties op de geselecteerde punten.

Theoretische Eigenschappen:

• Consistentie: De auteurs bewijzen dat A2D2E consistent is met de populatiedoelstelling van ALE naarmate de bins fijner worden.
• Surrogaat-model: De methode is consistent zelfs wanneer alleen een geschat model $\hat{f}$ (surrogaat) beschikbaar is, mits dit model convergeert naar de waarheid.
• OOD-robustheid: Omdat het maximale verplaatsingsafstand van de evaluatiepunten kleiner is dan bij ALE (afhankelijk van $\delta$), is A2D2E minder gevoelig voor extrapolatie naar OOD-gebieden.

3. Belangrijkste Bijdragen

• Unificerend Kader: De auteurs bieden een unificerend perspectief dat bestaande methoden (PD, ALE, M-plot) als speciale gevallen van een ontwerpprobleem beschouwt.
• Nieuwe Schatter (A2D2E): Introductie van een schatter die D-optimale designs gebruikt om de variantie van de lokale hellingsschatting te minimaliseren.
• Theoretische Garantie: Bewijzen van consistentie voor zowel de populatiedoelstelling als in het realistische scenario met een surrogaatmodel.
• Efficiëntie: De methode heeft een gesloten-vorm schatter met een complexiteit vergelijkbaar met bestaande methoden. Bij het schatten van alle dimensies tegelijkertijd biedt het een significant voordeel door het hergebruiken van model-evaluaties (vertex caching).

4. Resultaten

Uitgebreide simulaties zijn uitgevoerd over verschillende voorspellende modellen (o.a. K-NN, Gaussian Process Regression) en afhankelijkheidssettings (onafhankelijk, lage en hoge correlatie).

• Prestatie: A2D2E presteert over het algemeen beter dan ALE en DALE, met name bij hoge feature-correlatie. In deze scenario's vertoont A2D2E de grootste winst in nauwkeurigheid (gemeten via ORMSE - Overall Root Mean Squared Error).
• Stabiliteit: Bij hoge correlatie vertoont A2D2E veel minder variabiliteit tussen replications dan ALE en vermijdt het de spurious trends (schijnbare effecten) die PD vaak produceert door extrapolatie.
• Robustheid: De methode blijft stabiel over een breed scala aan hyperparameters (aantal bins $K$ en straal $\delta$), zelfs bij grove binnings.
• Case Studies: Toepassingen op K-NN en Gaussian Process Regression tonen aan dat A2D2E het meest stabiel is, zelfs wanneer het surrogaatmodel gevoelig is voor OOD-inputs (bijvoorbeeld bij kleine lengteschalen in GP).

5. Betekenis en Conclusie

De paper introduceert een fundamentele verbetering in de interpretatie van black-box modellen. A2D2E lost het dilemma op tussen de simpliciteit van PD en de robuustheid van ALE, maar voegt hieraan een statistisch optimale ontwerpcomponent toe.

• Praktische Impact: Voor datawetenschappers die werken met gecorreleerde variabelen (een veelvoorkomend probleem in de praktijk) biedt A2D2E een betrouwbaarder alternatief voor het visualiseren van variabele-importantie.
• Toekomstperspectief: De auteurs suggereren dat de keuze tussen PD, ALE en A2D2E in de toekomst kan worden gestuurd door een principieel kader dat kijkt naar de sterkte van de correlatie en de OOD-gevoeligheid van het model.
• Beperkingen: De huidige optimaliteit rust op de aanname van een lokaal lineair model en homoscedastische ruis. Toekomstig werk kan zich richten op het uitbreiden van dit kader naar niet-lineaire lokale modellen.

Kortom, A2D2E biedt een model-agnostische, wiskundig onderbouwde en empirisch superieure methode voor het schatten van hoofdeffecten, vooral in complexe, gecorreleerde data-omgevingen.