Towards Faithful Multimodal Concept Bottleneck Models

Probleemstelling

Concept Bottleneck Models (CBM's) zijn interpreteerbare modellen die voorspellingen doen via een tussenlaag van menselijk begrijpbare concepten. Hoewel CBM's veel bestudeerd zijn in computer vision en NLP, blijven ze onderontwikkeld in multimodale settings (combinatie van afbeeldingen en tekst).

De kernuitdaging voor CBM's is trouw (faithfulness): de uitleg moet de daadwerkelijke redenering van het model nauwkeurig weerspiegelen. Voor een trouwe CBM moeten twee voorwaarden gelden:

1. Nauwkeurige conceptdetectie: De concepten moeten correct worden herkend.
2. Afwezigheid van lekkage (leakage): De conceptrepresentaties mogen geen onbedoelde informatie bevatten die direct relevant is voor de taak of andere concepten, buiten hun beoogde semantiek om.

Bestaande methoden behandelen conceptdetectie en lekkage-reductie vaak als gescheiden problemen, wat leidt tot een afweging waarbij het verbeteren van het ene ten koste gaat van het andere (bijvoorbeeld lagere taaknauwkeurigheid of slechtere interpretatie).

Methodologie: f-CBM

De auteurs introduceren f-CBM (faithful Multimodal Concept Bottleneck Model), een framework gebaseerd op een vision-language backbone (CLIP) dat beide aspecten gelijktijdig aanpakt via twee complementaire strategieën:

1. Differentieerbare Leaks Loss (Lleak):

   • Om lekkage te minimaliseren, gebruiken de auteurs een differentieerbare schatter voor Task Leakage (informatie over de taak die niet door de concepten zelf wordt gedekt).
   • In plaats van discrete binning (wat gradiënten vernietigt), gebruiken ze Kernel Density Estimation (KDE) om de wederzijdse informatie (mutual information) tussen de voorspelde concepten en de taaklabels te schatten.
   • Deze loss-functie straft het model af als conceptrepresentaties extra taakrelevante signalen "smokkelen" die niet tot de ware concepten behoren.

2. Kolmogorov-Arnold Network (KAN) als Predictive Head:

   • Traditionele CBM's gebruiken een lineaire laag om concepten naar klassen te vertalen. De auteurs vervangen deze door een KAN-laag.
   • KAN's plaatsen leerbare univariate functies op de randen van het netwerk in plaats van vaste activeringsfuncties op de knooppunten.
   • Dit biedt meer expressiviteit voor de eindvoorspelling, waardoor het concept-bottleneck minder onder druk staat om extra informatie te coderen om de taak op te lossen. Dit verbetert indirect de conceptdetectie en vermindert lekkage.

Training: Het model wordt getraind met een gezamenlijke loss-functie:
$$L = L_{cls} + \tilde{\lambda} L_C + \tilde{\lambda}_{leak} \alpha L_{leak}$$
Waarbij $L_{cls}$ de classificatie-loss is, $L_C$ de loss voor conceptdetectie, en $L_{leak}$ de lekkage-loss. De parameter $\alpha$ volgt een cosine-annealing schema om de lekkage-loss geleidelijk te activeren.

Belangrijkste Bijdragen

1. Architectuur: Introductie van een CLIP-gebaseerde multimodale CBM-architectuur die zowel tekst als afbeeldingen verwerkt.
2. Analyse: Een voorlopige analyse die aantoont dat er een sterke correlatie bestaat tussen conceptdetectie-nauwkeurigheid, taak-lekkage en inter-concept lekkage.
3. Differentieerbare Leaks Loss: Een nieuwe, volledig differentieerbare maatstaf voor taak-lekkage die direct in de training kan worden geïntegreerd, wat leidt tot een drastische reductie van lekkage.
4. KAN-laag: Het gebruik van een Kolmogorov-Arnold Network als vervanging voor de lineaire classifier, wat de expressiviteit verhoogt zonder de interpreteerbaarheid te verliezen en de conceptdetectie verbetert.

Resultaten

De auteurs testen f-CBM op diverse datasets, waaronder multimodale datasets (N24News, CUB-200-200 met synthetische tekst) en tekst-only datasets (AGNews, DBpedia), met CLIP-base en CLIP-large als backbones.

• Pareto-optimale prestaties: f-CBM bereikt de beste afweging tussen taaknauwkeurigheid, conceptdetectie en lekkage-reductie. Het presteert qua taaknauwkeurigheid vergelijkbaar met "black-box" fine-tuned modellen.
• Lekkage-reductie: f-CBM overtreft concurrenten (zoals Indep.-CBM, Label-free en CT-CBM) aanzienlijk op de lekkage-metrics (CTL en ICL), vaak met een reductie van tot wel 97% ten opzichte van andere methoden.
• Conceptdetectie: Door de KAN-laag verbetert de conceptdetectie (gemeten in c-RMSE) significant ten opzichte van lineaire baselines.
• Interventie-analyse: Dit is een cruciale test voor trouwheid. Wanneer menselijke correcties worden toegepast op de conceptactivaties (interventie), verbetert de voorspellingsnauwkeurigheid van f-CBM consequent. Andere modellen (zoals CT-CBM) zien hun prestatie juist verslechteren bij interventie, wat aantoont dat ze afhankelijk waren van "gelekte" informatie die door de correctie werd vernietigd.

Significantie

Dit werk is significant omdat het de interpretatie van multimodale AI-modellen naar een hoger niveau tilt door trouwheid (faithfulness) te garanderen zonder in te leveren op prestaties.

• Het lost het dilemma op tussen hoge nauwkeurigheid en betrouwbare uitleg.
• Het bewijst dat lekkage-reductie essentieel is voor praktische toepassingen, zoals medische diagnose, waar foutieve vertrouwen in een model gevaarlijk kan zijn.
• De KAN-laag biedt niet alleen betere prestaties, maar ook visueel interpreteerbare responscurven die de niet-lineaire relaties tussen concepten en uitkomsten onthullen.

Kortom, f-CBM biedt een robuust framework dat multimodale CBM's bruikbaar maakt voor kritieke domeinen waar zowel hoge prestaties als volledig betrouwbare, menselijke interpretatie vereist zijn.