Conceptualizing Embeddings: Sparse Disentanglement for Vision-Language Models

Technische Samenvatting: Conceptuele Embeddings: Sparse Disentanglement voor Vision-Language Modellen

Probleemstelling
Vision-language modellen (VLM's) zoals CLIP, BLIP en CoCa leren krachtige hoogdimensionale gedeelde embeddings, maar hun interne semantische structuur blijft ondoorzichtig. Bestaande interpretabiliteitsmethoden staan voor aanzienlijke beperkingen:

• Lokale Verklaringen: Technieken zoals salientiekaarten of attributiemethoden identificeren relevante invoergebieden, maar onthullen niet de globale organisatie van de embedding-ruimte.
• Conceptuitlijning: Methoden zoals TCAV of lineaire probing aligneren embeddings met vooraf gedefinieerde concepten, maar gaan er vaak van uit dat betekenisvolle concepten al lineair scheidbaar zijn binnen de oorspronkelijke geometrie, wat de flexibiliteit beperkt.
• Sparse Auto-encoders (SAE's): Hoewel SAE's succesvol interpreteerbare, monosemantische kenmerken extraheren door overcomplete dictionaries te leren, vergroten ze de representatiedimensie. Deze uitbreiding verandert de oorspronkelijke geometrie van de embedding-ruimte, introduceert redundantie en produceert verliesrijke, niet-inverteerbare representaties, waardoor het moeilijk wordt om verklaringen betrouwbaar te relateren aan het onderliggende model.

De auteurs veronderstellen dat de schijnbare verstrengeling in VLM-representaties mogelijk voortkomt uit basis-misalignement in plaats van onvoldoende dimensionaliteit, wat suggereert dat semantische structuur kan worden onthuld door de ruimte binnen zijn oorspronkelijke dimensionaliteit te herorganiseren.

Methodologie: CEDAR
De auteurs stellen CEDAR (Conceptual Embedding Disentanglement via Adaptive Rotation) voor, een post-hoc methode die een inverteerbare herparameterisering van de embedding-ruimte leert zonder de dimensionaliteit te vergroten.

1. Inverteerbare Transformatie: CEDAR zoekt een orthogonale lineaire operator $U$ (geparameteriseerd als $U = \exp(A - A^\top)$) die de oorspronkelijke embedding $z$ transformeert naar een nieuwe ruimte $\tilde{z} = U(z - b)$, waarbij $b$ de gemiddelde embedding is. De orthogonaliteitsbeperking zorgt ervoor dat de transformatie de geometrie en de norm van de oorspronkelijke ruimte behoudt ($\|Uz\|_2 = \|z\|_2$) en strikt inverteerbaar is.
2. Sparse Bottleneck: In de getransformeerde ruimte wordt een top-k operator ($\Pi_k$) toegepast om alleen de $k$ coördinaten met de grootste absolute magnitudes te behouden en de rest op nul te zetten. Dit dwingt een sparse representatie af waarbij semantische informatie geconcentreerd is in een klein subset van dimensies.
3. Reconstructiedoel: Het model wordt getraind om de reconstructiefout te minimaliseren tussen de oorspronkelijke embedding en de sparse versie die terug wordt gemapt naar de oorspronkelijke ruimte:
   $$\min_U \mathbb{E}_z \left[ \| z - (U^{-1}\Pi_k(U(z - b)) + b) \|_1 \right]$$
   Omdat $U$ inverteerbaar is, kan de oorspronkelijke embedding betrouwbaar worden gereconstrueerd, waardoor de geometrische structuur die essentieel is voor taken zoals tekst-afbeelding uitlijning, behouden blijft.
4. Trainingsstrategie: Om de niet-gladde overgang veroorzaakt door de top-k operator te hanteren, passen de auteurs een curriculum learning-benadering toe, beginnend met dichte reconstructies en geleidelijk overgaand naar het beoogde sparse regime. Tijdens het trainen wordt $k$ willekeurig bemonsterd om robuustheid te verbeteren.
5. Interpretabiliteitsmodi:
   • Concept-gebaseerd (CLIP-achtig): Individuele assen in de getransformeerde ruimte worden uitgelijnd met tekstuele concepten met behulp van cosinus-sequentie tegen een tekst-encoder (bijv. CLIP tekst-embeddings).
   • Vrije vorm (Generatief): Voor generatieve modellen (bijv. BLIP) worden de sparse gereconstrueerde embeddings naar de tekst-decoder gestuurd om natuurlijke taalbeschrijvingen te genereren, waardoor zinsniveau-verklaringen mogelijk zijn die zijn afgeleid van een klein aantal actieve coördinaten.

Belangrijkste Bijdragen

• Dimensionaliteitsbehoudende Disentanglement: In tegenstelling tot SAE's bereikt CEDAR sparse, ontwarde representaties zonder de embedding-dimensie uit te breiden, waardoor geometrische vervorming en redundantie worden vermeden.
• Inverteerbaarheid: De methode garandeert een betrouwbare reconstructie van de oorspronkelijke embedding, waardoor verklaringen direct gekoppeld blijven aan de representatieruimte van het oorspronkelijke model.
• Unificerend Kader: CEDAR ondersteunt zowel concept-gebaseerde uitlijning (neuronen afstemmen op tekst) als vrije-vorm generatie (sparse vectoren decoderen naar tekst) binnen één enkel kader.
• Validatie van Hypothese: Het werk levert empirisch bewijs dat semantische structuur in VLM's kan worden blootgelegd door een geschikte basisverandering, wat de noodzaak van overcomplete uitbreidingen voor interpretabiliteit uitdaagt.

Resultaten
De auteurs evalueren CEDAR tegenover varianten van Sparse Auto-encoders (MSAE, TopK, ReLU, BatchTopK) en dichte baselines op standaard benchmarks (ImageNet-1K) en via gebruikersstudies.

• Reconstructie-Sparse Trade-off: CEDAR bereikt een concurrerende trade-off tussen reconstructiefout (FVU) en sparse (aantal actieve kenmerken $K$). In regimes met lage dimensionaliteit vereist het vaak minder actieve componenten om vergelijkbare reconstructie-trouw te bereiken dan andere methoden.
• Semantische Behoud: Metrieken zoals Centered Kernel Nearest Neighbor Alignment (CKNNA) en Lineaire Probing cross-entropy (LP) geven aan dat CEDAR de semantische structuur en prestaties van downstream-taken behoudt, vergelijkbaar met de sterkste baselines (bijv. BatchTopK) en het dichte model.
• Gebruikersstudie:
  • Voorkeur: Deelnemers gaven consequent de voorkeur aan CEDAR's concept-verklaringen boven die van MSAE, omdat ze deze representatievinder vonden voor de inhoud van de afbeelding.
  • Relevantie: De door CEDAR voorgestelde concepten werden door menselijke beoordelaars significant vaker als relevant geselecteerd dan die van MSAE.
  • Kwaliteit Beschrijving: Wanneer ze werden gebruikt om bijschriften te genereren via een tekst-decoder, produceerden CEDAR's sparse representaties beschrijvingen die "de afbeelding beschrijven" met een frequentie die vergelijkbaar was met het volledige dichte model, en presteerden ze ver boven sparse modellen zonder disentanglement.
• Kwalitatieve Analyse: Visuele voorbeelden tonen aan dat CEDAR coherente, hoog-niveau semantische concepten identificeert (bijv. "hond", "husky", "houten") en accurate bijschriften genereert, terwijl baselines vaak ruisende of lager-niveau kenmerken ophaalden.

Betekenis en Claims
Het artikel claimt dat CEDAR aantoont dat de schijnbare verstrengeling in moderne vision-language embeddings grotendeels het gevolg is van basis-misalignement in plaats van een gebrek aan dimensionaliteit. Door een globale, inverteerbare coördinatenstelsel te leren, onthult de methode een compositiestructuur waarbij semantische factoren geconcentreerd zijn in een klein aantal as-georiënteerde dimensies.

De auteurs positioneren CEDAR als een flexibel, model-agnostisch kader dat concept-gebaseerde en vrije-vorm interpretabiliteit verenigt. Ze benadrukken dat hun aanpak de noodzaak van overcomplete uitbreidingen elimineert, en een meer betrouwbare en informatie-efficiënte manier biedt om geleerde representaties te begrijpen en te manipuleren. Het werk suggereert dat geschikte herparameterisering verstrengeling kan oplossen terwijl de geometrische integriteit van het oorspronkelijke model behouden blijft.