🤖 machine learning

Sky sphere representation in language models

Dit artikel demonstreert dat grote taalmodellen (~100B parameters) een decodeerbare, hoogdimensionale gekromde manifold-representatie van de nachthemel bezitten binnen hun residual streams, die in staat is om de nabijheid van hemellichamen met aanzienlijke nauwkeurigheid en een lage hoekfout te voorspellen.

Oorspronkelijke auteurs: Aleksandr Berdnikov, Yevgeny Liokumovich

Gepubliceerd 2026-07-30

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Aleksandr Berdnikov, Yevgeny Liokumovich

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een gigantische, onzichtbare bibliotheek hebt waar elk boek een andere gedachte is, en de planken zijn niet gerangschikt op auteur of titel, maar op hoe de ideeën bij elkaar aanvoelen. Dit is de wereld van mechanistische interpreteerbaarheid, een vakgebied waar wetenschappers proberen in de "hersenen" van kunstmatige intelligentie te kijken om te zien hoe het informatie organiseert. We weten dat deze AI-modellen, ook wel Large Language Models (LLM's) genoemd, ongelooflijk goed zijn in het schrijven en beantwoorden van vragen, maar ze zijn vaak als zwarte dozen: we zien de input en de output, maar het middengedeelte is een mysterie.

Om dit mysterie te begrijpen, gebruiken onderzoekers instrumenten zoals lineaire probes, die fungeren als metaaldetectoren die de interne signalen van de AI scannen om te zien of ze eenvoudige, rechte patronen verbergen (zoals een lijst met getallen). Maar soms zijn de patronen geen rechte lijnen; het zijn curven, lussen of vormen. Denk erbij aan het proberen in kaart te brengen van de aarde. Als je probeert de hele wereld op een plat stuk papier te tekenen, krijg je een kaart die dingen uitrekt en vervormt. Maar als je een wereldbol tekent, zijn de afstanden en relaties perfect. Wetenschappers hebben ontdekt dat AI's deze "wereldbol-achtige" vormen gebruiken om concepten te organiseren, zoals het rangschikken van de dagen van de week in een cirkel, zodat het model gemakkelijk kan berekenen dat "vrijdag plus twee dagen" "zondag" is.

De grote vraag is: hoe diep gaat dit geometrische denken? Memoriseert de AI gewoon feiten, of bouwt het een mentale kaart van de wereld die lijkt op een echte bol? Hier komt een nieuwe studie kijken die de nachthemel verkent.

De geheime sterrenkaart van de AI

In een recente paper met de titel "Sky sphere representation in language models" besloten onderzoekers Aleksandr Berdervnikov en Yevgeny Liokumovich te testen of massieve AI-modellen (specifiek die met ongeveer 100 miljard parameters) stiekem een 3D-kaart van de nachthemel in hun hersenen hebben opgebouwd. Ze vroegen de AI niet om coördinaten op te dreunen of een tekening te maken. In plaats daarvan stelden ze eenvoudige, conversationele vragen zoals: "Wat ligt er dicht bij dit object aan de nachthemel?" of "Sterrenkijkers zien X vlak naast..."

Ze voerden deze vragen aan zeven verschillende open-source AI-modellen, waaronder reuzen zoals Mistral Large 2 en Qwen3. Terwijl de AI deze woorden verwerkte, volgden de onderzoekers de "residual stream" — een hogesnelheids datasnelweg binnen het model waar informatie van de ene laag naar de volgende stroomt. Ze zochten naar een specifiek signaal: een patroon dat eruitzag als een sfeer, waarbij sterren en sterrenbeelden precies zo waren gerangschikt als in de echte hemel.

De Ontdekking: Een Verborgen Wereldbol
De resultaten waren verrassend. In bijna elk getest model had de AI wel een representatie van de nachthemel. Toen de onderzoekers naar de bovenste lagen van de AI-verwerking keken, ontdekten ze dat de posities van sterren en sterrenbeelden waren gerangschikt op een gebogen, sferisch oppervlak, net als de echte hemelbol.

Het was niet slechts een zwakke echo. De onderzoekers konden deze verborgen kaart met indrukwekkende nauwkeurigheid decoderen. In de meeste modellen konden ze de locatie van een ster of sterbeeld voorspellen met een foutmarge van slechts 12° tot 21° (ongeveer de breedte van je vuist als je je arm op armlengte houdt). Het model verklaarde tussen de 65% en 85% van de variantie in de data, wat betekent dat de sferische vorm een zeer sterk, dominant kenmerk was in het denkproces van de AI.

Waarom dit bijzonder is
Voorheen hadden wetenschappers ontdekt dat AI's platte kaarten gebruiken (zoals een 2D-kaart van de Amerikaanse staten) of eenvoudige cirkels (zoals de dagen van de week). Dit is de eerste keer dat iemand een gebogen, hoog-dimensionale sfeer heeft gevonden die niet simpelweg een combinatie is van eenvoudigere lijnen. Het is alsof de AI niet alleen een lijst met sterrennamen heeft gememoriseerd; het heeft een mentale "wereldbol" gebouwd om te begrijpen hoe dicht dingen bij elkaar staan in de lucht.

Wat het NIET is
De onderzoekers waren zeer zorgvuldig om andere mogelijkheden uit te sluiten. Ze vroegen zich af: "Herinnert de AI zich gewoon de tekstreeksen 'Rechte Ascensie' en 'Declinatie' (de coördinaten die astronomen gebruiken) en rangschikt het deze in een platte 2D-kaart?"

De Platte Kaart Uitgesloten: Ze testten dit door te zoeken naar een "discontinue" lijn die op een platte kaart zou bestaan (zoals de rand van de wereld op een papieren kaart). Ze vonden geen bewijs hiervan. De AI gebruikte geen platte 2D-kaart; het gebruikte echt een sfeer.
De 3D-afstand Uitgesloten: Ze controleerden ook of de AI de werkelijke afstand van sterren tot de aarde in kaart bracht (sommige zijn lichtjaren ver weg, andere zijn dichterbij). Ze ontdekten dat de kaart van de AI niet gaf om de werkelijke afstand in de wereld. In plaats daarvan leek de "diepte" van de sfeer beïnvloed te worden door hoe vaak een object in tekst wordt genoemd of wat het type object is (sterren werden "dichterbij" in de kaart geplaatst, terwijl sterrenbeelden "verder weg" werden geplaatst).

Het "Gpt-Oss" Mysterie
Er was één vreemde eend in de bijt: een model genaamd gpt-oss-120b. In dit specifieke model was de sterrenkaart veel moeilijker te vinden. De onderzoekers vermoeden dat dit komt doordat dit model getraind is op een speciaal "harmonie"-formaat (een specifieke manier van conversatie formatteren), wat het signaal zou kunnen hebben verstoord. Echter, wanneer er direct naar stercoördinaten werd gevraagd, was dit model nog steeds erg goed in het geven van antwoorden, wat suggereert dat het de feiten kent, maar ze simpelweg niet op dezelfde zichtbare sfeer organiseert als de anderen.

Waarom het ertoe doet
Deze ontdekking suggereert dat wanneer we een AI naar de nachthemel vragen, deze niet simpelweg een database doorzoekt. Het krijgt toegang tot een gestructureerd, geometrisch begrip van nabijheid. De onderzoekers ontdekten dat deze "sterrenkaart" het meest zichtbaar wordt wanneer de AI wordt gevraagd naar nabijheid (bijv. "wat ligt naast X?"). Als je generieke vragen stelt zoals "Wat is de geschiedenis van X?", vervaagt de kaart en zinkt deze dieper weg in de ruis.

Kortom, deze massieve AI-modellen hebben spontaan geleerd om de nachthemel op een sfeer in hun neurale netwerken te rangschikken. Het is een prachtig voorbeeld van hoe AI een eigen interne geometrie kan ontwikkelen om de wereld te begrijpen, waarbij het een gebogen, 3D-kaart van de sterren creëert die verrassend accuraat is, ook al is het nooit expliciet daarvoor onderwezen.

Technische Samenvatting: Hemelbol-representatie in Taalmodellen

Probleemstelling
Mechanistische interpreteerbaarheidsresearch streeft naar begrip van hoe Large Language Models (LLM's) concepten representeren binnen hun hoogdimensionale activatieruimtes. Hoewel lineaire methoden (bijv. probes, sparse autoencoders) en deep learning-gebaseerde methoden (bijv. natuurlijke taal autoencoders) diverse structuren hebben geïdentificeerd, blijft er een gat in het begrijpen van niet-lineaire, gekromde feature-manifolds. Eerdere ontdekkingen van geometrische representaties in LLM's waren grotendeels beperkt tot platte structuren (bijv. continenten, Amerikaanse staten, kleurruimte) of eendimensionale manifolds (bijv. dagen van de week, maanden, zinlengte). Dit paper onderzoekt of LLM's een representatie bezitten van de nachthemel die overeenkomt met de sferische geometrie van hemellichamen, waarbij specifiek wordt getest of de posities van sterren en sterrenbeelden gecodeerd zijn als een gekromde, hoogdimensionale manifold in de residual stream.

Methodologie
De auteurs analyseerden zeven open-source LLM's variërend van 32B tot 235B parameters (inclusief Qwen3, Llama-3.3, Mixtral, Mistral Large 2, GLM-4.5-Air, en gpt-oss-120b). De experimentele pipeline omvatte de volgende stappen:

Data Constructie: Een dataset van 188 astronomische objecten werd gecreëerd, bestaande uit 85 heldere sterren, 88 officiële sterrenbeelden en 15 diverse objecten (stelsels, nevels, clusters).
Prompt Engineering: De objecten werden in de modellen gevoed met behulp van 25 verschillende prompt-templates die gericht waren op nabijheid in de nachthemel (bijv. "het dichtstbijzijnde sterrenbeeld bij X is", "sterrenkijkers zien X vlak naast X"). Cruciaal was dat deze prompts expliciete coördinaat-strings (Rechte Ascensie/Declinatie) vermeden om te garanderen dat het model niet simpelweg de coördinaten uit de trainingsdata herhaalde, maar eerder een conceptueel begrip van nabijheid ophaalde.
Feature Extractie: Voor elke prompt werd de residual stream vector op de laatste token geëxtraheerd over alle lagen. De top 128 Principal Components (PC's) werden voor elke laag berekend.
Decodeerbaarheid Analyse: De auteurs gebruikten een Leave-One-Out (LOO) validatiestrategie. Ze trainden een lineair regressiemodel om de top $n$ PCA-componenten (waarbij $n \in \{4, 8, 128\}$ ) van de residual stream te mappen naar de ware 3D-eenheidsbolcoördinaten van de objecten. Het uitgesloten object werd vervolgens voorspeld, waarbij de prestaties werden gemeten met de $R^2$ -score (verklaarde variantie) en de mediane hoekfout.
Alternatieve Hypothese Testen: Om te verifiëren dat de representatie geen "lek" was van een platte 2D-kaart (RA/Dec) of een 3D-Euclidische kaart, voerden de auteurs een RDM (Representational Dissimilarity Matrix) analyse uit. Ze testten of de discontinue dimensie die inherent is aan platte kaarten of de radiale afstandcomponent van 3D-kaarten aanwezig was in de top PCA-componenten.

Belangrijkste Resultaten

Bestaan van Sferische Manifold: In zes van de zeven geteste modellen was een sferische representatie van de nachthemel succesvol decodeerbaar uit de residual stream. De representatie kwam doorgaans naar voren in de top 8 principal components.
Prestatie-metrieken: Voor de succesvolle modellen leverde LOO-validatie $R^2$ -scores op tussen 65% en 85%. De mediane hoekfout voor het voorspellen van de positie van ongeziene objecten lag tussen de $12^\circ$ en $21^\circ$ .
Laagdiepte: De representatie was zwak en verspreid over vele componenten in vroege lagen, maar werd sterker en geconsolideerd in de top $\sim8$ PC's in diepere lagen (bijv. laag 66 in Mistral Large 2).
Prompt Afhankelijkheid: Het signaal was sterk afhankelijk van de formulering van de prompt. Bij het gebruik van generieke prompts (bijv. "de leeftijd van X is..."), verzwakte de representatie aanzienlijk, waardoor deze niet meer in de top 8 PC's verscheen en in diepere lagen vervaagde.
Uitsluiting van Alternatieven:
- Platte Kaarten: RDM-analyse toonde aan dat de discontinue dimensie die vereist is voor een platte 2D-kaart (Rechte Ascensie) coëfficiënten nabij nul of negatief had in de top-8 PCA-ruimte, wat een representatie als platte kaart uitsluit.
- 3D Euclidische Kaarten: Er werd geen significante correlatie gevonden tussen de radiale component van de representatie en de werkelijke fysieke afstand tot de sterren. In plaats daarvan correleerde de radiale component met het type object (sterrenbeelden verder geplaatst, sterren dichterbij) en tekstuele frequentie.
Model Anomalieën: Het gpt-oss-120b model vertoonde een slechte decodeerbaarheid van de sferische manifold. De auteurs merkten echter op dat dit model goed presteert wanneer er expliciet naar coördinaten wordt gevraagd, wat suggereert dat het probleem ligt bij de specifieke structuur van de representatie in plaats van een gebrek aan kennis.

Betekenis en Claims
Het paper claimt de eerste bekende presentatie te zijn van een gekromde, hoogdimensionale, irreducibele feature-manifold in taalmodellen. In tegenstelling tot eerdere bevindingen van platte of 1D-manifolds, legt deze representatie de intrinsieke sferische geometrie van de nachthemel vast zonder te vertrouwen op expliciete coördinaat-strings in de input.

De auteurs benadrukken dat deze representatie geen triviale echo is van trainingsdata-coördinaten, maar waarschijnlijk een geleerd concept van "nabijheid" voor objecten aan de nachthemel reflecteert. Zij positioneren dit werk als een middenweg in interpretabiliteitstools: het legt niet-lineaire structuren vast terwijl het tegelijkertijd expliciet en menselijk inspecteerbaar blijft via lineaire probes op principal components. De studie laat openstaande vragen over het mechanisme van constructie (memoriseren versus redeneren) en de functionele rol van deze representatie in het redeneerproces van het model, waarbij wordt opgemerkt dat het vermogen van de modellen om directe vragen over coördinaten te beantwoorden, de nauwkeurigheid van de decodeerbare manifold ver overstijgt.

De geheime sterrenkaart van de AI

Technische Samenvatting: Hemelbol-representatie in Taalmodellen

Meer zoals dit