Stel je voor dat je een robot probeert te leren hoe hij dieren moet herkennen. Je laat de robot duizenden foto's van katten, honden en vogels zien. In het begin is het brein van de robot een chaotische bende van getallen; hij ziet een kat en een hond slechts als een wirwar van pixels zonder echt verschil. Maar terwijl hij blijft leren, gebeurt er iets magisch in zijn digitale brein. De getallen beginnen zichzelf te organiseren. De "kat"-getallen drijven weg van de "hond"-getallen en vormen nette, afzonderlijke eilanden in een enorme oceaan van data. Dit studieveld wordt machine learning genoemd, en specifiek kijkt het naar hoe "Vision Transformers" (een type superintelligent AI dat naar afbeeldingen kijkt) hun interne denkpatronen veranderen terwijl ze leren. Wetenschappers geven hierom omdat als we begrijpen hoe deze robots hun gedachten organiseren, we betere, betrouwbaardere AI kunnen bouwen die niet alleen gokt, maar de wereld ook echt begrijpt.

Het paper dat je zojuist hebt gelezen, getiteld "TGO-III: Semantic Geometry Observatory," is als een hightech microscoop voor dit digitale brein. De auteurs, Kaustubh Kapil en Kishor Upla, wilden een grote vraag beantwoorden: Wordt de AI tijdens het leren simpelweg willekeuriger en complexer, of begint hij zaken echt te ordenen op basis van betekenis? Ze gebruikten een nieuwe set instrumenten om het "brein" van de AI (specifiek een model genaamd ViT-Small/16) te observeren terwijl het trainde op 100 verschillende soorten afbeeldingen (een dataset genaamd ImageNet-100) gedurende 100 dagen (epochs).

Dit is het verhaal van wat zij ontdekten, verteld door de lens van een groeiende stad.

De Stad van Ideeën

Stel je de interne wereld van de AI voor als een enorme, lege stad. Wanneer de training begint, is deze stad een vlakke, modderige vlakte. Alle ideeën (zoals "kat", "hond", "auto") zijn samengedrukt op dezelfde plek. De AI kan ze niet van elkaar onderscheiden.

Zodra de AI begint te trainen, begint de stad uit te breiden. In eerdere studies (TGO-I en TGO-II) merkten wetenschappers op dat de stad groter en complexer werd, zoals een stad die nieuwe wolkenkrabbers en kronkelende wegen voortbrengt. Ze noemden dit "Manifold Expansion". Maar ze wisten niet waarom de stad groeide. Werd het gewoon rommelig? Of bouwde het een beter buurtplan?

TGO-III is de nieuwe stadsplanner die binnenkomt om die vraag te beantwoorden. Ze keken niet alleen naar de grootte van de stad; ze keken naar hoe de verschillende wijken (de semantische klassen) zichzelf arrangeerden.

De Vier Instrumenten van het Observatorium

Om de lay-out van de stad te begrijpen, gebruikten de auteurs vier speciale meetinstrumenten:

1. De Lineaire Probe (De Simpele Test): Stel je voor dat je een zeer simpele robot vraagt: "Is dit een kat of een hond?" Als het brein van de AI rommelig is, zal de simpele robot vaak fout raden. Maar als de AI zijn gedachten goed heeft georganiseerd, kan de simpele robot een rechte lijn op een kaart trekken en zeggen: "Alles aan de linkerkant is een kat, alles aan de rechterkant is een hond." De auteurs ontdekten dat deze simpele robot gaandeweg de training steeds beter werd. Dit betekent dat de AI zijn ideeën makkelijker onderscheidbaar maakt.
2. De Fisher Ratio (De Menigtemeter): Dit instrument meet hoe dicht een groep vrienden (zoals alle "katten") bij elkaar blijft versus hoe ver ze van andere groepen (zoals "honden") staan. Een hoge score betekent dat de katten in een strakke cirkel bij elkaar staan en dat die cirkel ver van de honden verwijderd is. De auteurs zagen dat deze score steeg, wat betekende dat de groepen compacter en verder uit elkaar kwamen te staan.
3. Centroid Afstanden (De Wandeling op de Kaart): Dit meet de afstand tussen het "zwaartepunt" van elke groep. Als je in het midden van de kattenwijk staat en naar het midden van de hondennijk loopt, hoe ver is dat? De auteurs ontdekten dat deze wijken gaandeweg de training steeds verder uit elkaar bewogen, waardoor er een enorme, open stad ontstond waar geen twee groepen met elkaar in de war raakten.
4. Local PCA Rank (De Kamergrootte): Dit is de meest interessante. Het vraagt: "Hoeveel dimensies heeft een specifieke buurt nodig om te bestaan?" Aan het begin was de "katten"-buurt een rommelige, uitgestrekte bende die een enorme, 3D-loods nodig had om al haar variaties te huisvesten. Maar naarmate de AI leerde, werd de "katten"-buurt georganiseerder. Het had geen enorme loods meer nodig; het kon in een nette, compacte kamer passen. De auteurs ontdekten dat terwijl de hele stad groter werd, de individuele buurten kleiner en efficiënter werden.

De Grote Ontdekking: De Semantische Expansie

Het meest opwindende wat de auteurs ontdekten, is wat zij de Semantic Expansion Hypothesis noemen.

Vóór dit paper dachten sommige mensen dat de AI simpelweg willekeuriger en complexer werd naarmate hij leerde. Maar TGO-III suggereert iets veel doelmatiger. De AI maakt niet alleen een grotere bende; hij bouwt actief een betere kaart.

Denk er zo over na: Wanneer je voor het eerst leert tekenen, zit je schetsboek vol krabbels. Naarmate je oefent, teken je niet alleen meer krabbels; je begint duidelijke vormen te tekenen. Je leert dat een cirkel voor een hoofd is en een lijn voor een lichaam. De "krabbels" (de extra complexiteit) worden eigenlijk gebruikt om duidelijkere, meer onderscheidende categorieën te creëren.

De auteurs observeerden dat de "katten"-ideeën en "honden"-ideeën niet zomaar willekeurig uit elkaar dreven. Ze organiseerden zichzelf in een structuur waarbij ze gemakkelijk van elkaar te onderscheiden waren. De "stad" breidde uit om ruimte te maken voor al deze nieuwe, duidelijke onderscheidingen.

De Verrassing van de "Transitiezone"

Het paper keek ook naar waar in het brein van de AI deze organisatie plaatsvindt. De AI is gebouwd als een stapel lagen, zoals een meerverdiepinggebouw. De auteurs ontdekten dat de onderste verdiepingen (de vroege lagen) nog een beetje rommelig waren. De echte magie gebeurde op de bovenste verdiepingen.

Ze bevestigden een theorie genaamd de Transition Zone Hypothesis, maar dan met een twist. Ze ontdekten dat het "midden" van het gebouw de plek is waar de geometrie begint te veranderen, maar de laatste verdiepingen zijn waar de echte sortering plaatsvindt. De bovenste lagen zijn waar de "katten" en "honden" echt van elkaar scheiden en kristalhelder worden. Het is alsoj de onderste verdiepingen de bouwplaats zijn, en de bovenste verdiepingen de afgewerkte, gepolijste appartementen waar de bewoners in vrede wonen.

Wat dit Betekent (En Wat het Niet Betekent)

De auteurs zijn voorzichtig in hun bewering dat ze dit gedrag hebben geobserveerd en dat het bewijs hun idee ondersteunt. Ze hebben het mysterie van AI niet "opgelost", maar ze hebben wel een zeer sterke kaart geleverd van hoe het werkt.

Ze spraken de gedachte tegen dat de AI simpelweg willekeuriger of chaotischer wordt door het imago van het memoriseren van plaatjes. In plaats daarvan suggereren ze dat de AI actief zijn kennis organiseert in nette, afzonderlijke en efficiënte groepen.

Uiteindelijk vertelt TGO-III ons dat wanneer een Vision Transformer leert, hij niet alleen groter wordt; hij wordt slimmer. Hij neemt een chaotische wolk van data en verandert het in een goed georganiseerde stad waar elk idee zijn eigen plek heeft, ver weg van de anderen, klaar om direct herkend te worden. Het is een prachtig voorbeeld van hoe orde uit chaos kan ontstaan, zelfs binnen een machine.