Do Sparse Autoencoders Learn Meaningful Concept Hierarchies?

Technische Samenvatting: Leren Sparse Autoencoders Betekenisvolle Conceptuele Hiërarchieën?

Probleemstelling
Sparse Autoencoders (SAEs) zijn opgekomen als een primaire tool voor ongesuperviseerde conceptontdekking in grote taal- en visie-taalmodellen, door modelactivaties te deconstrueren naar hoogdimensionale, ijle (sparse) latente features. Echter, naarmate deze feature-ruimtes groeien, worden ze moeilijk te navigeren en te interpreteren vanwege een gebrek aan inherente structuur. Hoewel mensen van nature concepten hiërarchisch organiseren (bijv. tennis $\to$ tennisracket), produceren huidige SAE-benaderingen vaak ongeordende conceptruimtes. Hoewel recente methoden proberen hiërarchische structuren op te leggen—ofwel expliciet tijdens de training of impliciet via restricties—is er geen overeengekomen kader voor wat een "betekenisvolle" feature-hiërarchie constitueert. Bijgevolg is een rigoureuze vergelijking tussen methoden moeilijk, en is de evaluatie grotendeels gebaseerd op kwalitatieve illustraties of gefragmenteerde kwantitatieve protocollen.

Methodologie
Om het gebrek aan een gestandaardiseerde evaluatie aan te pakken, leiden de auteurs een uitgebreide set vereisten af voor generalisatie-/specialisatiehiërarchieën in ongesuperviseerd conceptleren, voortkomend uit onderzoek naar semantische netwerken, taxonomische evaluatie en recente SAE-literatuur. Deze vereisten worden gecategoriseerd in drie niveaus:

1. Conceptniveau: Richt zich op individuele features.
   • Interpreteerbaarheid (A1): Nodes moeten corresponderen met menselijk begrijpelijke concepten.
2. Structuurniveau: Richt zich op de statische graaftopologie.
   • Hiërarchische Abstractheid (B1): Kind-nodes moeten semantisch specifieker zijn dan hun ouders.
   • Sibling Gelijkenis (B2): Kinderen van dezelfde ouder moeten een coherente, semantisch gerelateerde set vormen.
3. Co-activatieniveau: Richt zich op dynamisch activatiegedrag op concrete inputs.
   • Activatie Implicatie (C1): Een actieve kind-node moet een actieve ouder impliceren (geen "harde" absorptie).
   • Activatie Dominantie (C2): De activatiestärke van de ouder moet minstens even sterk zijn als die van het kind wanneer beiden actief zijn.
   • Frequent Verfijning (C3): Actieve ouders moeten frequent co-activeren met ten minste één actief kind.
   • Conditionele Correlatie (C4): De magnitude van de ouder-activatie moet positief correleren met de maximale activatie van de actieve kinderen (het adresseren van "zachte" absorptie).

Op basis van deze vereisten leiden de auteurs een verenigd, ongesuperviseerd evaluatieprotocol af bestaande uit specifieke metrieken (bijv. Monosemanticiteitsscore, Hiërarchische Abstractheidsscore, Activatie Implicatiescore). Zij passen dit protocol toe om zes SAE-benaderingen te evalueren die getraind zijn op visuele data (CLIP ViT-L/14 en DINOv2 embeddings): een standaard TopK SAE, Matryoshka SAEs (ActMSAE, ArchMSAE), EWG-SAE, Matching-Pursuit SAE (MP-SAE), en H-SAE.

Belangrijkste Resultaten
De evaluatie onthult verschillende cruciale bevindingen met betrekking tot de staat van hiërarchisch conceptleren in SAEs:

• Ondiepe Hiërarchieën: De meeste methoden (TopK, EWG-SAE, ArchMSAE, H-SAE) produceren overwegend twee-niveau hiërarchieën. Alleen ActMSAE genereert consistent diepere structuren (meer dan twee niveaus).
• Semantische Structuur vs. Activatieconsistentie: Hoewel feature-ruimtes over het algemeen een basis bieden voor semantisch gestructureerde grafen (hoge abstractheid en sibling gelijkenis scores), blijft het vaststellen van een consistente hiërarchische activatiegedrag een uitdaging.
• Het Absorptieprobleem: Een centrale bevinding is de systematische compromittering van de kwaliteit van de hiërarchie door feature-absorptie.
  • Harde Absorptie: De onderdrukking van ouder-activatie wanneer een kind actief is.
  • Zachte Absorptie: Een nieuw geïdentificeerd fenomeen waarbij sterkere kind-activaties geleidelijk de ouder-activaties onderdrukken, zelfs wanneer beide actief zijn, wat leidt tot een lage correlatie (lage Conditional Correlation Score) en dominantie-scores.
• Methode-specifieke Prestaties:
  • Matryoshka benaderingen (ActMSAE): Tonen de beste co-activatie metrieken en multi-level structuren, hoewel zachte absorptie persisteert.
  • H-SAE (Expliciete Hiërarchie): Forceert consistentie in co-activatie door ontwerp, maar faalt in het behouden van semantische betekenis; de features missen vaak interpreteerbaarheid, waarbij kinderen soms abstracter lijken dan hun ouders.
  • Standaard TopK SAE: Vormt verrassend genoeg betekenisvolle semantische groeperingen, maar lijdt significant onder inconsistente activatie-sterktes tussen ouders en kinderen.
• Encoder Onafhankelijkheid: De uitdagingen bij het leren van hiërarchische ruimtes lijken gedreven te worden door SAE-trainingsstrategieën in plaats van de onderliggende visie-encoder (CLIP versus DINOv2), mits de embeddings voldoende informatie bevatten.

Betekenis en Claims
Het artikel claimt de eerste algemene set van vereisten en een overeenkomend kwantitatief evaluatieprotocol voor ongesuperviseerde conceptuele hiërarchieën vast te stellen. De primaire bijdrage is het identificeren dat hoewel SAEs features kunnen leren die in staat zijn om betekenisvolle hiërarchieën te vormen, huidige benaderingen moeite hebben met het handhaven van de dynamische consistentie die nodig is om deze hiërarchieën praktisch bruikbaar te maken.

De auteurs stellen dat het vakgebied een fundamentele spanning moet navigeren tussen sparsity (ijlheid) en hiërarchische activatieconsistentie. Zij suggereren dat toekomstige benaderingen mogelijk de harde sparsity-restricties moeten heroverwegen, waarbij zij stellen dat een minder ijle SAE met een consistente hiërarchische activatie gedrag waardevoller zou kunnen zijn dan een ijlere SAE met een gefragmenteerde structuur. Bovendien benadrukken zij dat expliciete structurele restricties alleen onvoldoende zijn zonder het waarborgen van semantische coherentie binnen de hiërarchie.

Het werk concludeert dat hoewel de voorgestelde metrieken en vereisten als trainingsrestricties kunnen dienen voor toekomstige extractoren, er openstaande vragen blijven over de optimale methode voor het extraheren van hiërarchie-grafen uit latente ruimtes en de balans tussen expliciete handhaving en impliciete inductie van structuur.