🤖 machine learning

Universal Sparse Autoencoders: Interpretable Cross-Model Concept Alignment

Deze paper introduceert Universal Sparse Autoencoders (USAEs), een raamwerk dat een gedeelde, interpreteerbare conceptruimte leert om interne activaties van meerdere diepe neurale netwerken tegelijkertijd te reconstrueren en te aligneren, waardoor gemeenschappelijke factoren van variatie over verschillende modellen, taken en architecturen heen worden onthuld.

Oorspronkelijke auteurs: Harrish Thasarathan, Julian Forsyth, Thomas Fel, Matthew Kowal, Konstantinos G. Derpanis

Gepubliceerd 2026-03-20

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Harrish Thasarathan, Julian Forsyth, Thomas Fel, Matthew Kowal, Konstantinos G. Derpanis

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

De "Universele Vertaler" voor AI: Hoe we de gedachten van verschillende robots op één lijn krijgen

Stel je voor dat je drie verschillende kunstenaars hebt:

De Schilder: Die alleen werkt met olieverf en houdt van felle kleuren.
De Beeldhouwer: Die werkt met marmer en denkt in vormen en diepte.
De Fotograaf: Die werkt met licht en schaduw en houdt van details.

Als je hen allemaal vraagt om "een hond" te tekenen, krijg je drie heel verschillende resultaten. Maar wat als je wilt weten: denken ze eigenlijk hetzelfde over wat een hond is? Wat als ze allemaal een stukje van de hond zien dat jij niet ziet?

Tot nu toe was het heel moeilijk om hun "gedachten" (de interne berekeningen van de AI) met elkaar te vergelijken. Het was alsof je probeerde drie mensen te laten praten die drie totaal verschillende talen spreken, zonder vertaler.

De Oplossing: De "Universele Spaar-Decoder" (USAE)

De onderzoekers in dit paper hebben een slimme tool bedacht, een Universele Spaar-Decoder (USAE). Je kunt dit zien als een super-vertaler of een gemeenschappelijk dagboek.

Hier is hoe het werkt, in simpele termen:

1. Het Grote Dagboek (De Universele Woordenlijst)

Stel je een enorm dagboek voor met duizenden pagina's. Elke pagina beschrijft één specifiek idee of concept.

Soms is het een simpel idee: "gele kleur" of "een kromme lijn".
Soms is het complexer: "een hondsnuit" of "een menigte mensen".

De USAE leert dit dagboek tegelijkertijd van alle drie de kunstenaars (de AI-modellen). Het dwingt hen om hun ideeën in dit zelfde dagboek te schrijven.

2. De Vertaaltruc

Normaal gesproken zou AI-model A zeggen: "Ik zie een hond!" en AI-model B zou zeggen: "Ik zie een dier met vier poten!" Ze gebruiken verschillende woorden.

Met de USAE gebeurt er iets magisch:

Als AI-model A een hond ziet, vult hij een specifieke pagina in het dagboek in (bijvoorbeeld pagina 42: "hondsnuit").
Als AI-model B dezelfde hond ziet, vult hij exact dezelfde pagina 42 in.

Door ze samen te laten werken aan één dagboek, leren ze dat hun interne "geheimtaal" eigenlijk over dezelfde dingen gaat. Ze ontdekken dat ze allemaal dezelfde universele bouwstenen gebruiken, zoals kleuren, vormen en objecten, zelfs als ze op verschillende manieren zijn getraind.

3. Wat hebben ze ontdekt?

Toen de onderzoekers dit dagboek bestudeerden, vonden ze verrassende dingen:

Van simpel tot complex: Ze vonden concepten die heel basaal zijn (zoals "blauw" of "ruw oppervlak") en concepten die heel slim zijn (zoals "de neus van een dier" of "een menigte").
De "Unieke" AI: Ze ontdekten dat één van de modellen (DinoV2) een beetje anders denkt. Deze AI is heel goed in het zien van diepte en perspectief (zoals hoe lijnen samenkomen in de verte). De andere modellen zagen dit niet zo goed. Het dagboek maakte dit verschil duidelijk zichtbaar.
De "Tekst-AI": Een ander model (SigLIP) is getraind met tekst en beelden. Het dagboek toonde aan dat dit model ook "tekst" ziet in beelden. Als er een bordje met de letter 'C' op staat, denkt deze AI daar ook aan, terwijl de andere modellen alleen naar de vorm kijken.

4. De "Gecoördineerde Droom" (Coordinated Activation Maximization)

Dit is misschien wel het coolste deel. Stel je voor dat je de AI's vraagt: "Laat me zien wat jullie allemaal zien als ik aan pagina 42 (hondsnuit) denk."

De onderzoekers lieten de AI's "dromen" (een afbeelding genereren) die precies die ene pagina activeert.

Het resultaat? Drie verschillende afbeeldingen die allemaal een hondsnuit tonen, maar elk op hun eigen manier.
Dit laat zien hoe elke AI hetzelfde concept "beleeft". Soms zien ze hetzelfde, soms zien ze iets anders (bijvoorbeeld dat één model denkt dat een hondsnuit ook kan bestaan op een vogel, terwijl de ander dat niet doet).

Waarom is dit belangrijk?

Vroeger keken we naar AI-modellen alsof ze zwarte dozen waren. We wisten niet precies wat er binnenin gebeurde.
Met deze nieuwe methode kunnen we:

Betrouwbare AI maken: Als we weten dat verschillende modellen hetzelfde denken over een concept, kunnen we er zeker van zijn dat het concept echt bestaat en niet alleen een toevalstreffer is.
Risico's detecteren: Als een AI een gevaarlijk concept (bijvoorbeeld "hoe maak ik een bom") leert, kunnen we dit sneller zien als we weten hoe dat concept eruit ziet in het "universele dagboek".
Beter begrijpen: Het helpt ons te zien dat AI's, net als mensen, een universele manier hebben om de wereld te zien, maar dat ze ook unieke "persoonlijkheden" hebben.

Kortom:
De onderzoekers hebben een tool gebouwd die verschillende AI's dwingt om een gemeenschappelijke taal te spreken. Hierdoor kunnen we hun interne gedachten lezen, vergelijken en begrijpen, alsof we eindelijk een gesprek kunnen voeren met drie kunstenaars die eindelijk dezelfde taal spreken.

Probleemstelling

Bestaande methoden voor interpretatie van diepe neurale netwerken (DNN's) focussen doorgaans op het analyseren van één enkel model per keer. Dit leidt tot de volgende beperkingen:

Gebrek aan schaalbaarheid: Het analyseren van individuele modellen in isolatie maakt risicobeheer en vergelijking tussen verschillende architecturen complex en inefficiënt.
Post-hoc beperkingen: Bestaande technieken voor het vinden van universele concepten (concepten die gedeeld worden door verschillende modellen) werken vaak post-hoc. Ze extraheren concepten uit afzonderlijke modellen en proberen deze vervolgens via rekenintensieve filtering of optimalisatie te matchen. Dit verhindert een directe vertaling tussen modellen binnen een uniek conceptueel ruimte.
Polysemantisme: Neuronen in DNN's zijn vaak polysemantisch (activeren voor meerdere, ogenschijnlijk ongerelateerde concepten), wat het moeilijk maakt om mensinterpreteerbare eenheden te identificeren zonder geavanceerde methoden zoals Sparse Autoencoders (SAE's).

Het doel van dit werk is het ontdekken van een universele conceptruimte: een gedeelde, interpreteerbare ruimte van abstracties die de interne activaties van meerdere, verschillende vooraf getrainde visuele modellen tegelijkertijd kan verklaren en reconstrueren.

Methodologie: Universal Sparse Autoencoders (USAE's)

De auteurs introduceren Universal Sparse Autoencoders (USAE's), een framework dat SAE's uitbreidt om meerdere modellen gelijktijdig te verwerken.

Architectuur en Training:

Gedeelde Code Ruimte: In plaats van een SAE te trainen voor één model, leert een USAE een enkele, gedeelde, schaarse code $Z$ (de conceptruimte) die activaties van $M$ verschillende modellen kan coderen en decoderen.
Encoder-Decoder Pairs: Voor elk model $i$ $i$ wordt een specifieke encoder $\Psi^{(i)}_\theta$ $Ψ_{θ}^{(i)}$ gebruikt om de activaties $A^{(i)}$ $A^{(i)}$ van dat model te coderen naar de gedeelde ruimte $Z$ $Z$ . Vervolgens wordt een model-specifieke decoder (woordenboek) $D^{(j)}$ $D^{(j)}$ gebruikt om de activaties van elk model $j$ $j$ te reconstrueren vanuit $Z$ $Z$ .
- Formule: $Z = \Psi^{(i)}_\theta(A^{(i)})$ en $\hat{A}^{(j)} = Z D^{(j)}$ .
Trainingsstrategie: Om de rekenkosten te beheersen, wordt bij elke iteratie willekeurig één model $i$ geselecteerd om de activaties te coderen. De gedeelde code $Z$ wordt vervolgens gebruikt om de activaties van alle $M$ modellen te reconstrueren. De totale loss is de som van de reconstructiefouten (Frobenius-norm) over alle modellen:
$L_{Universal} = \sum_{j=1}^{M} \| A^{(j)} - \hat{A}^{(j)} \|_F$
Alleen de encoder en decoder van het geselecteerde model worden bijgewerkt, maar de gedeelde code $Z$ zorgt voor de alignatie.
TopK SAE: Het framework maakt gebruik van een TopK Sparse Autoencoder, waarbij de latentere representatie wordt gesparseerd door alleen de $K$ grootste activeringen te behouden.

Experimentele Opstelling:

Drie verschillende visuele modellen werden getraind op ImageNet: DinoV2 (zelf-supervisie), SigLIP (contrastief leren beeld-tekst), en ViT (supervised classificatie).
De USAE werd getraind op de activaties van de laatste laag van deze modellen.

Belangrijkste Bijdragen

USAE Framework: Een nieuw framework dat een gedeelde, interpreteerbare conceptruimte leert die over meerdere modellen heen werkt, in plaats van post-hoc matching.
Analyse van Universele vs. Model-specifieke Concepten: Een diepgaande analyse die laat zien hoe grote visuele modellen, getraind op diverse taken, convergeren naar gedeelde concepten, maar ook unieke kenmerken behouden.
Gecoördineerde Activeringsmaximalisatie (Coordinated Activation Maximization): Een nieuwe toepassing waarbij input voor meerdere modellen gelijktijdig wordt geoptimaliseerd om dezelfde concept-dimensie in de USAE te activeren. Dit visualiseert hoe verschillende modellen hetzelfde concept coderen.

Resultaten

De auteurs presenteren zowel kwalitatieve als kwantitatieve resultaten:

1. Kwalitatieve Ontdekkingen:

USAE's ontdekken een breed scala aan universele concepten, variërend van laag-niveau kenmerken (kleuren zoals 'geel' en 'blauw', texturen) tot hoog-niveau structuren (objectdelen zoals 'hondenkop', 'dierenkaken', en groepen zoals 'gezichten van menigten').
Coördinatie: Bij gecoördineerde activeringsmaximalisatie blijkt dat verschillende modellen hetzelfde concept (bijv. 'krommen') activeren, maar met verschillende schalen of nuances. Bijvoorbeeld, DinoV2 reageert sterker op grotere krommen dan de andere modellen.

2. Kwantitatieve Analyse:

Reconstructie: De USAE kan activaties van het ene model succesvol reconstrueren via de code van een ander model (positieve $R^2$ scores in de kruis-reconstructiematrix), wat bewijst dat er gedeelde kenmerken worden gevangen.
Universeelheid en Belang: Er is een sterke correlatie gevonden tussen de universiteit van een concept (gemeten via 'firing entropy' en 'co-firing proportion') en zijn belang (energie bij reconstructie). De meest belangrijke concepten zijn ook de meest universele.
Consistentie met SAE's: Een aanzienlijk deel (23-38%) van de universele concepten komt overeen met concepten die in onafhankelijk getrainde SAE's worden gevonden. Echter, universele training ontdekt ook nieuwe, gedeelde representaties die in model-specifieke training niet naar voren komen.

3. Unieke Model-kenmerken:

DinoV2: Toont unieke, lage-entropie concepten gerelateerd aan perspectief, diepte en geometrische cues (bijv. convergerende lijnen, objectgroepering op verschillende dieptes). Dit wordt toegeschreven aan de zelf-distillatie en iBOT-objective tijdens training.
SigLIP: Toont unieke concepten die zowel visuele als tekstuele elementen combineren (bijv. het woord 'ster' of muzieknoten), wat logisch is gezien de beeld-taal training.

Betekenis en Impact

Deze studie biedt een krachtige nieuwe methode voor interpreteerbare cross-model analyse.

Risicobeperking: Door een universele basis te hebben voor het begrijpen van modelinterne representaties, wordt risicomanagement voor grote verzamelingen DNN's haalbaarder.
Architectuur-inzicht: Het framework onthult dat diverse architecturen (Van Vision Transformers tot contrastieve modellen) convergeren naar een "Platonische" representatie van de wereld, maar ook unieke bias behouden afhankelijk van hun trainingsdoel.
Nieuwe Toepassingen: De methode opent de deur voor technieken zoals gecoördineerde activeringsmaximalisatie, wat dieper inzicht geeft in hoe AI-systemen concepten vormen en hoe ze van elkaar verschillen.

Kortom, USAE's verschuiven de interpretatie van een model-specifieke naar een ecosysteem-benadering, waarbij gemeenschappelijke fundamentele concepten worden geïsoleerd en geanalyseerd over het hele spectrum van moderne visuele modellen.