A quantitative analysis of semantic information in deep representations of text and images

Dit artikel toont aan dat semantische informatie in diepe representaties van tekst en beelden convergeert over talen, modaliteiten en architecturen heen, waarbij de voorspellende kracht sterk varieert afhankelijk van de laagdiepte, modelgrootte en taal, en waarbij schaal mogelijk expliciete multimodale training overtreft.

De kern

Stel je voor dat je twee vrienden hebt die een heel complex geheim delen. De ene vriend praat in het Nederlands, de andere in het Frans. Ze vertellen precies hetzelfde verhaal, maar met andere woorden. De vraag die deze wetenschappers zich stellen, is: Hoe zit dat geheim eigenlijk opgeslagen in hun hersenen (of in dit geval, in de computermodellen)?

In dit onderzoek kijken ze naar de "hersenen" van enorme kunstmatige intelligenties (AI-modellen) om te zien hoe ze betekenis verwerken. Hier is een simpele uitleg van wat ze hebben ontdekt, met wat leuke vergelijkingen.

1. De "Spiegel" van Betekenis

Stel je voor dat je een foto van een hond maakt en die foto in een spiegel houdt. De spiegel toont een afbeelding die er heel veel op lijkt, maar het is niet exact hetzelfde.

In de wereld van AI hebben verschillende modellen (zoals DeepSeek-V3 en Llama) allemaal hun eigen manier om een zin of een plaatje te "zien". De onderzoekers wilden weten: Hoe goed kan het ene model het andere "voorspellen"?

• Als Model A een zin ziet, kan Model B dan precies raden wat Model A denkt?
• Om dit te meten, gebruikten ze een slim meetinstrument genaamd "Information Imbalance". Denk hierbij aan een telefoonlijn: hoe minder statische ruis er op de lijn zit, hoe beter de twee modellen met elkaar communiceren.

2. De "Gouden Middenweg" in de AI

AI-modellen zijn opgebouwd uit lagen, net als een lasagne of een gebouw met veel verdiepingen.

• De onderste lagen zijn als de fundering: daar zit de ruwe data (letters, pixels).
• De bovenste lagen zijn als het dak: daar zit de uiteindelijke beslissing of output.
• De middenlagen zijn de bewoonde verdiepingen.

De ontdekking: De onderzoekers vonden dat de "echte betekenis" van een zin of plaatje niet alleen bovenaan of onderaan zit, maar vooral in de middenlagen.

• Het is alsof de betekenis van een verhaal niet in de eerste zin (de letters) of de laatste zin (het puntje) zit, maar in het hart van het verhaal.
• In deze middenlagen zien de modellen van verschillende talen (bijv. Engels en Italiaans) er bijna hetzelfde uit. Het is alsof ze op die verdiepingen een gemeenschappelijke taal spreken die losstaat van de specifieke woorden die ze gebruiken.

3. Taal is niet altijd eerlijk (De "Engelse Dominantie")

Hoewel de modellen in het midden goed met elkaar overeenkomen, is er een groot verschil in wie de baas is: Het Engels.

• Stel je voor dat Engels een rijke, goed uitgeruste bibliotheek is, en andere talen (zoals Hongaars) een wat kleinere bibliotheek.
• Het bleek dat de Engelse versie van een zin beter kan voorspellen wat de andere taal denkt, dan andersom.
• De Engelse "hersenen" zijn rijker aan informatie. Het is alsof de Engelse vertaler de andere talen perfect begrijpt, maar de andere vertalers soms moeite hebben om de nuances van het Engels volledig te vatten.

4. Grotere modellen zijn slimmer (Maat telt)

Ze vergeleken een gigantisch model (DeepSeek-V3) met een kleiner model (Llama).

• Het grote model is als een universiteitsprofessor en het kleine model als een student.
• De professor kan de gedachten van de student heel goed voorspellen, maar de student heeft moeite om de diepe gedachten van de professor te raden.
• Hoe groter het model, hoe dichter de "middenlagen" bij elkaar komen. Het grote model heeft een duidelijkere, scherpere "gemeenschappelijke taal" ontwikkeld.

5. Tekst vs. Beeld: Hoe zien we de wereld?

Ze keken ook naar hoe modellen platen en teksten met elkaar verbinden.

• Voor teksten (zoals DeepSeek): De betekenis zit in het midden van de "lasagne".
• Voor plaatjes (zoals DinoV2): De betekenis zit juist bovenaan, in de laatste lagen.
• De verrassing: Twee modellen die apart van elkaar zijn getraind (één voor tekst, één voor plaatjes), bleken elkaar beter te begrijpen dan een model dat speciaal is getraind om tekst en plaatjes samen te brengen (zoals CLIP).
• De les: Het is alsof twee mensen die elk hun eigen vak hebben, elkaar beter begrijpen dan een paar dat gedwongen is om samen te werken, zolang ze maar groot genoeg en slim genoeg zijn. Grootte en kwaliteit lijken belangrijker dan het feit dat ze samen zijn getraind.

6. Woorden verspreiden zich

Een laatste interessante punt: waar zit de betekenis in een zin?

• Veel mensen dachten: "De betekenis zit in het laatste woord."
• Maar de onderzoekers vonden dat de betekenis verspreid ligt over veel woorden.
• Het is alsof je een verhaal niet in één zin kunt samenvatten, maar dat je het hele verhaal moet lezen om de betekenis te vatten. Als je alle woorden in een zin "gemiddeld" neemt, krijg je de beste vertaling van de betekenis.

Conclusie

Kortom: AI-modellen, ongeacht of ze tekst of plaatjes zien, of in welke taal ze praten, ontwikkelen op een bepaalde manier een gemeenschappelijke "Platonische" taal in hun midden- of eindlagen. Maar deze taal is niet perfect eerlijk: Engels en grote modellen hebben de "sterkste" versie van deze taal, en ze spreken deze taal het beste in de diepere lagen van hun netwerk.

Het bewijst dat intelligentie, hoe complex ook, op een verrassend vergelijkbare manier werkt, zolang je maar op de juiste verdieping kijkt!

Technische samenvatting

Probleemstelling

Grote transformer-modellen coderen informatie in hoge-dimensionale ruimten. De "Platonische Representatie Hypothese" suggereert dat representaties van semantisch gerelateerde invoer (zoals vertalingen van dezelfde zin in verschillende talen, of een afbeelding en zijn bijschrift) convergeren naar vergelijkbare structuren, ongeacht het specifieke model of de modality. Echter, bestaande methoden om deze convergentie te meten (zoals Central Kernel Alignment - CKA) hebben beperkingen:

1. Ze zijn vaak symmetrisch en kunnen dus geen richtingsafhankelijke voorspelbaarheid (asymmetrie) tussen modellen of lagen detecteren.
2. Ze zijn computatieel moeilijk te schatten in zeer hoge dimensies (duizenden dimensies).
3. Het is onduidelijk waar in het netwerk deze semantische convergentie optreedt (welke lagen) en hoe deze wordt beïnvloed door token-aggregatie (bijv. laatste token vs. gemiddelde van alle tokens).

Het paper stelt de vraag hoe semantische informatie zich verdeelt over lagen, tokens en modellen, en hoe de voorspelbaarheid van de ene representatie door de andere varieert.

Methodologie

De auteurs gebruiken een statistische maatstaf genaamd Information Imbalance (II) (informatie-ongewogenheid) om de relatieve informatie-inhoud tussen representaties te kwantificeren.

• Information Imbalance (II): Dit is een asymmetrische, op rangschikking gebaseerde maatstaf. Hij meet hoe goed de nabije buren van een punt in ruimte $X$ ook nabije buren zijn in ruimte $Y$.
  • Een lage II-waarde betekent dat $X$ goed voorspelt wat $Y$ is (hoge voorspelbaarheid).
  • De asymmetrie ($\Delta(X \to Y) \neq \Delta(Y \to X)$) kwantificeert de gerichte voorspelbaarheid (bijv. is de Engelse representatie informatiever dan de Italiaanse?).
  • In tegenstelling tot CKA of Neighborhood Overlap, blijft II gevoelig in hoge dimensies en kan het de richting van informatieflow detecteren.
• Data en Modellen:
  • Tekst: Gebruik van het DeepSeek-V3 model (671B parameters) en Llama3-familie (1B, 3B, 8B). Data bestaat uit vertalingen van zinnen (Engels vs. Spaans, Italiaans, Duits, Frans, Nederlands, Hongaars) uit de Opus Books dataset.
  • Beeld: Gebruik van ImageNet-1k (paren van afbeeldingen van dezelfde klasse) en Flickr30k (afbeelding-bijschrift paren). Modellen: Image-gpt-large (autoregressief) en DinoV2-large (encoder).
  • Representatiekeuze: De auteurs vergelijken drie manieren om zinnen te representeren: (1) alleen de laatste token, (2) concatenatie van de laatste $T$ tokens, en (3) het gemiddelde van de laatste $T$ tokens.
• Analyse: De II wordt laag-voor-laag berekend om te zien waar semantische convergentie optreedt en waar asymmetrieën bestaan.

Belangrijkste Bijdragen

1. Validatie van Information Imbalance: Het paper toont aan dat II superieur is aan symmetrische maatstaven (CKA, NO) voor het detecteren van gerichte informatieflow en asymmetrie in hoge-dimensionale ruimten.
2. Lag-dependentie van Semantiek: Het identificeert specifiek welke lagen in verschillende modelarchitecturen de meeste semantische informatie bevatten.
3. Token-aggregatie: Het bewijst dat semantische informatie verspreid is over veel tokens en dat het gemiddelde van tokens betere resultaten geeft dan alleen de laatste token.
4. Asymmetrie in Taal en Schaal: Het kwantificeert systematische asymmetrieën waarbij Engelse representaties en grotere modellen voorspelbaarder zijn dan hun tegenhangers.
5. Cross-modale convergentie: Het vergelijkt tekst- en beeldmodellen en toont aan dat schaal belangrijker kan zijn dan expliciete multimodale training.

Resultaten

1. Tekstrepresentaties en Vertalingen

• Token-aggregatie: Het gebruik van het gemiddelde van meerdere tokens levert de beste voorspelbaarheid op (laagste II). Dit suggereert dat semantische informatie niet geconcentreerd is in de laatste token, maar verspreid over de hele zin. Concatenatie werkt minder goed, waarschijnlijk door irrelevante positionele informatie.
• Lag-convergentie: Semantische convergentie tussen vertalingen is het sterkst in de centrale lagen van het netwerk (ongeveer 40-60% diepte). De eerste lagen bevatten te veel taalspecifieke informatie (tokenisatie) en de laatste lagen bevatten taakspecifieke informatie (volgende-token voorspelling).
• Taalasymmetrie: Engelse representaties zijn systematisch informatiever dan die van andere talen (vooral in vroege en late lagen). In de centrale lagen is de voorspelbaarheid echter symmetrisch, wat suggereert dat deze lagen taalonafhankelijke semantiek bevatten.
• Modellasymmetrie: DeepSeek-V3 (groot model) voorspelt de representaties van Llama3-8b (kleiner model) beter dan andersom. Dit geldt vooral voor de diepere lagen van het grote model.

2. Beeldrepresentaties en Cross-modale Alignering

• Architectuurverschil:
  • Autoregressieve modellen (Image-gpt): Semantische informatie is geconcentreerd in de centrale lagen (vergelijkbaar met tekst-LLMs).
  • Encoder-modellen (DinoV2): Semantische informatie is geconcentreerd in de laatste lagen, omdat deze lagen zijn ontworpen voor downstream taken zoals segmentatie.
• Cross-modale voorspelbaarheid: De lagen die de beste semantische informatie bevatten voor beelden (centraal voor autoregressief, eind voor encoder) zijn ook de lagen die het sterkst correleren met tekstrepresentaties (DeepSeek-V3).
• Schaal vs. Training: Een verrassende bevinding is dat twee onafhankelijk getrainde modellen (DeepSeek-V3 voor tekst en DinoV2 voor beeld) een sterkere cross-modale voorspelbaarheid bereiken dan het gezamenlijk getrainde CLIP-model. Dit suggereert dat modelgrootte (schaal) een sterkere factor is voor semantische convergentie dan expliciete multimodale contrastieve training.
• Asymmetrie: Er is een duidelijke asymmetrie waarbij tekstrepresentaties (DeepSeek-V3) voorspelbaarder zijn voor beeldrepresentaties dan andersom.

Significantie

De resultaten ondersteunen de "Platonische Representatie Hypothese" dat semantische informatie convergeert over talen, modaliteiten en architecturen, maar voegen belangrijke nuances toe:

1. Convergentie is niet universeel over het hele netwerk: Het is een eigenschap van specifieke tussenliggende verwerkingsstadia, die verschillen per modeltype (centraal vs. eind).
2. Richting en Asymmetrie: Convergentie betekent niet dat representaties identiek zijn; er bestaan significante asymmetrieën in informatie-inhoud die afhankelijk zijn van modelgrootte, trainingsbronnen en taal.
3. Rol van Schaal: De schaal van het model lijkt cruciaal voor het bereiken van hoge kwaliteit cross-modale alignering, mogelijk belangrijker dan de trainingsmethode (gezamenlijk vs. onafhankelijk).
4. Methodologische vooruitgang: Het paper biedt een robuust kader (Information Imbalance) om semantische informatie in complexe, hoge-dimensionale neurale netwerken te analyseren, wat essentieel is voor het begrijpen van hoe AI semantiek "begrijpt".

Kortom, het paper toont aan dat semantische convergentie echt bestaat, maar dat deze complex is, afhankelijk van de diepte van het netwerk, de schaal van het model en de gekozen representatiestrategie.