Enhancing Visual Feature Attribution via Weighted Integrated Gradients

Probleemstelling

Integrated Gradients (IG) is een fundamentele methode voor feature-attributie in Explainable AI (XAI), met name voor computer vision. De effectiviteit ervan is echter sterk afhankelijk van de keuze van een baseline (referentiebeeld). In hoogdimensionale visie-taken bestaat er geen universeel "neutrale" baseline; veelvoorkomende keuzes (bijv. zwart, wit of willekeurige ruis) leveren vaak inconsistente of ruizige verklaringen op.

Om dit te mitigeren, middelt Expected Gradients (EG) de IG-attributies over meerdere baselines. Hoewel EG de gevoeligheid voor de keuze van een enkele baseline vermindert, rust het op een cruciale beperking: het wijst uniforme gewichten toe aan alle baselines, wat impliciet aanneemt dat ze even informatief zijn. De auteurs stellen dat baselines in complexe visiemodellen aanzienlijk variëren in hun relevantie voor een specifieke input. Uniform middelen kan ervoor zorgen dat kwalitatief minder goede of ruizige baselines de uiteindelijke attributie verwateren, wat leidt tot instabiele en minder getrouwe verklaringen.

Methodologie: Weighted Integrated Gradients (WG)

Het artikel stelt Weighted Integrated Gradients (WG) voor, een gefundeerde uitbreiding van IG die input-afhankelijke gewichten toekent aan verschillende baselines op basis van hun geschiktheid voor een specifieke input.

1. Ongesuperviseerde Fitness-maatstaf ($D_\alpha$):
WG introduceert een ongesuperviseerd criterium om de geschiktheid van een baseline te evalueren zonder dat handmatige annotaties of domeinkennis vereist zijn. Het definieert een "fitness"-score gebaseerd op perturbatie:

• Definitie: $D_\alpha$ is het minimale aantal features dat gemaskeerd moet worden om de output-score van het model te reduceren tot $\alpha\%$ van de oorspronkelijke waarde.
• Logica: Een baseline met een lagere $D_\alpha$ wordt als meer "fit" beschouwd omdat er minder features verwijderd hoeven te worden om de zekerheid van het model significant te beïnvloeden. Dit impliceert dat de baseline de invloedrijke features effectief accentueert.
• Weging: Het gewicht $w_k$ voor de $k$-de baseline is omgekeerd evenredig aan deze fitness-score ($w_k \propto 1/D_\alpha$). Baselines die getrouwere verklaringen opleveren (lagere $D_\alpha$), ontvangen hogere gewichten.

2. Efficiënte Berekening (Algoritme 1):
Het berekenen van $D_\alpha$ via een uitputtende zoektocht is computationeel onhaalbaar ($O(n)$). De auteurs stellen een binaire zoekstrategie voor die gebruikmaakt van de monotoniciteit van score-reductie bij het verwijderen van features. Door features iteratief te maskeren op basis van belangscores (bijv. IG-attributies), bereikt het algoritme een tijdscomplexiteit van $O(\log n)$ per baseline.

3. Theoretische Rechtvaardiging:

• Axiomatische Eigenschappen: WG behoudt de kernaxioma's van IG (Implementation Invariance en Sensitivity) en voldoet aan een gegeneraliseerde volledigheidseigenschap.
• Probabilistische Analyse: Onder de aanname van Expected Proxy Fitness–Relevance Monotonicity (d.w.z. dat baselines met betere fitness-scores de neiging hebben om meer waarschijnlijkheidsmassa op werkelijk relevante features te plaatsen), bewijzen de auteurs dat WG de verwachte relevantie van de geaggregeerde attributie verhoogt vergeleken met uniform middelen (EG).
• Eindige-steekproef Garanties: Het artikel biedt een theorema dat aantoont dat wanneer WG een positieve relevantie-marge bereikt ten opzichte van de gemiddelde EG-relevantie, de empirische relevantie-fractie met een exponentiële snelheid concentreert boven het EG-gemiddelde.

Belangrijkste Bijdragen

1. Formulering: De auteurs herformuleren de baseline-selectie in IG als een input-afhankelijk weegingsprobleem, waarmee ze verder gaan dan de uniforme aanname van EG.
2. Mechanisme: Ze stellen een perturbatie-gebaseerde, ongesuperviseerde fitness-score ($D_\alpha$) voor om de bruikbaarheid van een baseline te schatten en adaptieve gewichten af te leiden.
3. Analyse: Ze bieden een theoretische analyse die aantoont dat, onder specifieke monotoniciteitsaannames, fitness-gewogen aggregatie een hogere verwachte relevantie-massa oplevert dan uniform middelen.
4. Empirische Evaluatie: Ze evalueren WG over diverse architecturen (Convolutional en Transformer) op standaard datasets (ImageNet, COCO), waarbij zowel winsten in attributie-getrouwheid als de computationele overhead worden gerapporteerd.

Experimentele Resultaten

De auteurs evalueerden WG tegenover EG met zeven backbone-modellen (DenseNet121, MobileNetV2, ResNet50/101, VGG16/19, en ViT-B/16).

• Metrics:
  • AUC van Deletie (Lager is beter): Meet hoe snel de modelzekerheid daalt wanneer de meest belangrijke features worden verwijderd. WG presteerde consistent beter dan EG, met relatieve verbeteringen variërend van 19,36% tot 36,01% over de modellen heen.
  • AUC van Overlap (Hoger is beter): Een gesuperviseerde metriek die de ruimtelijke uitlijning met grondwaarheid segmentatie-masks meet. WG toonde verbeteringen van 5,69% tot 18,55%.
• Visuele Kwaliteit: Kwalitatieve analyse (saliency maps) geeft aan dat WG scherpere en meer gefocuste attributies produceert op de hoofdobjecten vergeleken met EG.
• Trade-off: De auteurs merken expliciet op dat WG extra computationele kosten met zich meebrengt door de stap van de fitness-evaluatie (ongeveer 5,7$\times$ trager dan EG in hun metingen).

Betekenis en Claims

Het artikel positioneert WG niet als een sneller alternatief voor EG, maar als een trade-off tussen attributie-getrouwheid en snelheid. De primaire betekenis ligt in:

• Betrouwbaarheid: Door kwalitatief minder goede baselines adaptief te verlagen in gewicht, zorgt WG voor betrouwbaardere attributies zonder handmatige baseline-curatie.
• Gefundeerde Aanpak: Het biedt een datagestuurde methode om het "baseline-probleem" in pad-gebaseerde attributie aan te pakken, waarbij de aanname dat alle baselines evenveel bijdragen wordt losgelaten.
• Toepasbaarheid: De methode is bijzonder geschikt voor situaties waarin verbeterde uitlegkwaliteit de extra looptijd rechtvaardigt, wat de bruikbaarheid van XAI in kritieke visie-toepassingen vergroot.

De auteurs hanteren een bescheiden toon met betrekking tot hun theoretische claims, waarbij ze erkennen dat de probabilistische garanties rusten op een "verwachte, proxy-gebaseerde" aanname en dat de fitness-relevantie-monotoniciteit empirisch wordt geverifieerd maar niet voor elk individueel input-instance gegarandeerd is. Ze concluderen dat WG een stap is naar duidelijkere en betrouwbaardere verklaringen voor deep learning-systemen, mits de computationele overhead acceptabel is voor het specifieke gebruiksgeval.