Alike Parts: A Feature-Informed Approach to Local and Global Prototype Explanations

Technische Samenvatting: GELIJKE DELEN: EEN OP KENMERKEN GEBASEERDE AANPAK VOOR LOKALE EN GLOBALE PROTOTYPVERKLARINGEN

Probleemstelling
Prototypgebaseerde verklaringen bieden een intuïtieve, voorbeeldgebaseerde methode voor het interpreteren van black-box machine learning-classificatoren door voorspellingen te koppelen aan representatieve trainingsinstanties. Er bestaat echter een aanzienlijke beperking: hoewel prototypen een holistisch beeld bieden, ontbreekt het vaak aan granulariteit op kenmerkniveau. Gebruikers hebben moeite om te identificeren welke specifieke kenmerken binnen een prototype het meest relevant zijn voor een voorspelling, wat leidt tot cognitieve overbelasting bij het omgaan met hoogdimensionale tabulaire data. Bovendien prioriteert de globale prototype-selectie vaak de ruimtelijke verdeling of minimalisatie van afstand zonder diversiteit in de kenmerktoeschrijvingen van de geselecteerde prototypen te waarborgen, waardoor kritieke, diverse beslissingsgrenzen mogelijk worden gemist.

Methodologie
De auteurs stellen een raamwerk voor dat belangrijkheidsscores voor kenmerken integreert op twee distincte niveaus om deze gaten op te vullen: verfijning van lokale verklaringen en versterking van de globale prototype-selectie.

1. Lokale Verklaringen: "Gelijke Delen"
   Het artikel introduceert een methode om "gelijke delen" te identificeren, gedefinieerd als de meest relevante, gedeelde subsets van kenmerken tussen een geclassificeerde instantie ($x_i$) en zijn dichtstbijzijnde prototype ($p_j$).

   • Proces: Belangrijkheidsscores voor kenmerken ($\phi$) worden berekend voor zowel de instantie als het prototype met behulp van model-agnostische of modelspecifieke schatters (bijv. Tree SHAP, Tree Interpreter).
   • Alignering: De methode berekent een gewichtsvector ($w$) die de gelijkenis in belangrijkheid tussen de instantie en het prototype weergeeft. Dit wordt bereikt via een vergelijkingsoperator ($\circ$), zoals het Hadamard-product (elementsgewijze vermenigvuldiging), elementsgewijze $l_1$- of $l_2$-afstanden.
   • Maskering: Er wordt een binaire masker gegenereerd om kenmerken te markeren waar de alignering in belangrijkheid een drempelwaarde overschrijdt. Strategieën omvatten gemiddelde drempelwaarde of adaptieve Top-$k$ selectie (bijv. $k = \lceil\sqrt{d}\rceil$ of $k = \lceil\log(d)\rceil$).
   • Output: Dit richt de aandacht van de gebruiker op een beperkte subset van kenmerken met hoge relevantie die door zowel de instantie als het prototype worden gedeeld, in plaats van de volledige kenmerkvector te presenteren.

2. Globale Verklaringen: Geavanceerde Doelfunctie
   De auteurs wijzigen de standaard doelfunctie voor prototype-selectie om actief diversiteit in kenmerktoeschrijvingen te bevorderen.

   • Standaard Doel: Traditionele $k$-medoids-benaderingen minimaliseren de afstand $d(x_i, p_j)$ tussen trainingsinstanties en hun dichtstbijzijnde prototypen.
   • Geavanceerde Doel: De auteurs introduceren een term voor kenmerkbelang ($f_i$) afgeleid van de aligneringsscores die in de lokale methode worden gebruikt. De nieuwe doelfunctie is:
     $$f(P) = \sum_{i=1}^{|S|} \min_{p_j \in P} (d(x_i, p_j) + \beta \cdot f_i(x_i, p_j))$$
     Hierbij fungeert $\beta$ als een afwegingsparameter tussen metriekafstand en alignering van kenmerkbelang. Dit moedigt de selectie van prototypen aan die niet alleen de data-ruimte bestrijken, maar ook diverse subsets van belangrijke kenmerken vertegenwoordigen.

Belangrijkste Bijdragen

• Identificatie van Gelijke Delen: Een nieuwe methode om binaire maskers te genereren die gedeelde, hoogbelangrijke kenmerken tussen een instantie en zijn dichtstbijzijnde prototype markeren, waardoor de lokale interpreteerbaarheid wordt verbeterd.
• Kenmerk-Diverse Prototype-Selectie: Een uitbreiding van algoritmen voor prototypgeneratie (specifiek G-KM, SM-A en A-PETE) die kenmerkbelang integreert in de optimalisatielus om globale diversiteit in kenmerktoeschrijvingen te waarborgen.
• Uitgebreide Evaluatie: De studie evalueert meerdere algoritmen voor prototypgeneratie naast nieuwe evaluatiefuncties, onderzoekt een bredere reeks algoritmen voor kenmerkbelang (Tree SHAP, Tree Interpreter) en voert uitgebreide gevoeligheidsanalyses uit op hyperparameters (bijv. $\beta$, vergelijkingsoperatoren, maskeringstrategieën).
• Model-Agnosticisme: Het raamwerk is ontworpen om compatibel te zijn met diverse onderliggende componenten, hoewel de experimenten zich richten op Random Forest-ensembles en op bomen gebaseerde afstandsmetingen.

Experimentele Resultaten
Experimenten werden uitgevoerd op zes benchmarkdatasets (Apple Quality, Australia Rain, Breast Cancer, Diabetes, Passenger Satisfaction, Wine Quality) met Random Forest als black-box model.

• Fideliteit: Het geavanceerde selectieproces behield, en in enkele gevallen verhoogde, de voorspellingsfideliteit van het surrogate 1-Nearest Neighbor (1-NN) model in vergelijking met de oorspronkelijke (ruwe) prototype-selectie. Statistische analyse (Wilcoxon signed-rank test) gaf een positieve trend naar verbeterde fideliteit aan ($p \approx 0.068$) en een significante verbetering ten opzichte van standaard interpreteerbare baselines zoals Naive Bayes, Logistische Regressie en Beslissingsbomen ($p < 0.05$).
• Kenmerkdiversiteit: De op kenmerkbelang gebaseerde aanpak slaagde erin prototypen te identificeren met een grotere diversificatie van kenmerken. Bijvoorbeeld, in de Diabetes-dataset benadrukte de methode op basis van kenmerkbelang klinisch relevante kenmerken (Leeftijd, Diabetes Pedigree Functie) die door de ruwe methode die alleen op afstand baseerde werden gemist.
• Gevoeligheid voor Hyperparameters: Het Hadamard-product bleek de meest effectieve vergelijkingsmetriek over de datasets heen. De studie merkte op dat hoewel sommige trends globaal waren, maatwerk tuning van hyperparameters (zoals het negeren van richting of normalisatie) noodzakelijk bleef voor specifieke datasets.
• Activatiefrequentie: Analyse van de activatiefrequenties van kenmerken bevestigde dat de doelfunctie op basis van kenmerkbelang de variantie in kenmerkgebruik vermindert, waardoor de selectie van een diverser set prototypen wordt afgedwongen.

Betekenis en Claims
Het artikel claimt dat het integreren van kenmerkbelang in de prototype-selectie de fideliteit van het model niet in gevaar brengt; eerder kan het zoeken naar diverse kenmerktoeschrijvingen complementair zijn aan op afstand gebaseerde dekking. De primaire betekenis ligt in het overbruggen van de kloof tussen hoogwaardige prototypevoorbeelden en laagwaardige redenering op kenmerkniveau. Door "gelijke delen" te identificeren, leidt de methode de aandacht van de gebruiker naar de specifieke rationale die wordt gedeeld tussen een instantie en zijn prototype, waarmee de uitdagingen voor interpreteerbaarheid van hoogdimensionale tabulaire data worden aangepakt. De auteurs benadrukken dat deze aanpak een evenwicht vindt tussen interpreteerbaarheid en diversiteit, waardoor zowel lokale verklaringen als het globale prototype-selectieproces worden verbeterd zonder dat modificaties nodig zijn aan de interne logica van het onderliggende black-box model.

De auteurs merken bescheiden op dat hoewel de methode de kwaliteit van de verklaring verbetert (via proxy-metrieken zoals fideliteit en kenmerkdiversiteit), de centrale hypothese dat "gelijke delen" het daadwerkelijke begrip van de gebruiker verbeteren, toekomstige validatie vereist via formele studies op het gebied van mens-computerinteractie. Bovendien, hoewel de huidige implementatie zich richt op boom-ensembles, maakt het modulaire ontwerp aanpassing mogelijk aan andere architecturen (bijv. neurale netwerken) door de componenten voor afstand en belangrijkheidsschatting te vervangen.