Sparse Autoencoders Map Brain-LLM Alignment onto Cortical Semantic Topography

Technische Samenvatting: Sparse Auto-encoders Mappen de Uitlijning van Hersenen en Groot Taalmodel op de Corticale Semantische Topografie

Probleemstelling
Een robuuste bevinding in de computationele neurolinguïstiek is dat de tussenliggende lagen van Groot Taalmodellen (LLM's) de hersenreacties van mensen op taal het beste voorspellen, wat een "omgekeerde U"-relatie over de modeldiepte vormt. De mechanistische reden voor deze uitlijning blijft echter onverklaard. Bestaande theorieën stellen drie niet-mutueel-uitsluitende verklaringen voor: (1) Voorspellende verwerking, waarbij tussenliggende lagen hersenachtige voorspellingsfouten genereren; (2) Ontdekking van kenmerken, waarbij tussenliggende lagen de rijkste semantische representaties bevatten voordat er specialisatie in de latere lagen optreedt; en (3) Geometrische artefacten, waarbij tussenliggende lagen hogere dimensionele, lineair decodeerbare representaties bezitten. Eerder werk heeft vastgesteld dat semantische inhoud op geaggregeerd niveau de hersenuitlijning domineert, maar het mist de granulariteit om te bepalen welke specifieke semantische kenmerken de uitlijning aandrijven en waar in de cortex ze zich manifesteren.

Methodologie
De auteurs overbruggen mechanistische interpreteerbaarheid en neurale codering door LLM-representaties te decomponeren in interpreteerbare kenmerken met behulp van Sparse Auto-encoders (SAE's).

1. Modeldecompositie: SAE's werden getraind op elke vierde laag van GPT-2 XL (1,5 miljard parameters) en Llama-3.1-8B (8 miljard parameters), waarbij 16.000–32.000 kenmerken per laag werden geëxtraheerd. De modellen werden getraind op 500 miljoen tokens met een reconstructie $R^2 \geq 0,95$.
2. Categorisering van Kenmerken: Een protocol met twee doorgangen categoriseerde kenmerken in vijf types: Semantisch, Syntactisch, Lexicaal, Voorspelling en Overig.
   • Doorgang 1: Geautomatiseerde classificatie via GPT-4.
   • Doorgang 2: Menselijke validatie door twee promovendi (Cohen's $\kappa = 0,81$).
3. Neurale Data & Codering: De studie gebruikte de UTS fMRI-dataset (8 native Engels-sprekers, 27 naturalistische verhalen). Voxelgewijze ridge-regressiemodellen werden gefit om fMRI-antwoorden te voorspellen op basis van subsets van kenmerken. Variantieverdeling werd gebruikt om unieke bijdragen te isoleren ten opzichte van random baselines die waren aangepast voor aantal en variantie.
4. A Priori Topografievoorspelling: Om post-hoc patroonherkenning te vermijden, deriveerden de auteurs vijf semantische subcategorieën (Concretie/Animatie, Eventstructuur, Affect/Emotie, Sociaal/Mentaal, Ruimtelijk/Locatie) en hun voorspelde corticale regio's a priori door bevindingen uit drie onafhankelijke neurowetenschappelijke programma's te kruisen: Binder et al. (2009), Huth et al. (2016) en Deniz et al. (2019).
5. Validatie:
   • Convergentietest: Spearman rangcorrelatie en hypergeometrische overlap-tests vergeleken de waargenomen SAE-kenmerk-naar-regio-mapping met de a priori voorspellingen.
   • Causaal/Gedragsmatig: Activeringspatching (ablatie) en Generalized Linear Mixed Models (GLMM's) op datasets met leestijden (Natural Stories, Provo Corpus) werden gebruikt om de causale rol en gedragsrelevantie van semantische kenmerken te valideren.

Belangrijkste Bijdragen

1. Kenmerk-niveau Decompositie van het Voordeel van Tussenliggende Lagen: De studie toont aan dat alleen semantische kenmerken 94% van de piek-coderingsprestatie ($r=0,285$) herstellen die wordt bereikt door volledige SAE-reconstruerde activeringen, wat aanzienlijk beter presteert dan variantie-gematchte random baselines ($p<0,001, d=1,31$). Dit bevestigt dat semantische inhoud, en niet syntactische structuur of geometrische dimensionaliteit, de primaire drijver is van de hersen-LLM-uitlijning.
2. Formele Validatie van Corticale Semantische Topografie: Het artikel levert het eerste bewijs dat door SAE's ontdekte kenmerken de bekende corticale semantische organisatie reproduceren op een granulariteit die voor eerdere methoden ontoegankelijk was. Een formele convergentietest bevestigde dat de waargenomen mapping van vijf semantische subcategorieën naar vijf hersenregio's significant overeenkomt met a priori voorspellingen die zijn afgeleid uit onafhankelijke neurowetenschappelijke literatuur (Spearman $\rho=0,72, p<0,001$; Hypergeometrisch $p=0,007$).
3. Gedragsmatige en Causale Bewijzen:
   • Leestijden: SAE-semantische kenmerken voorspellen menselijke leestijden beter dan lexicaal gecontroleerde variabelen en standaard woordniveau semantische normen ($\Delta \log Lik = 38,4, p<0,001$).
   • Activeringspatching: Het ableren van semantische kenmerken op de pieklaag (L24 voor GPT-2 XL) veroorzaakte een significante daling in coderingsprestatie ($\Delta r^2 = -0,14$), wat bewijs levert dat consistent is met een causale rol voor deze kenmerken.
4. Generalisatie: De bevindingen generaliseren over talen (Engels, Chinees, Frans) en modellen (GPT-2 XL, Llama-3.1-8B).

Resultaten

• Tussenliggende Lagen: Beide modellen vertoonden een omgekeerde U-profiel, met een piek bij L20–24 voor GPT-2 XL en L12–16 voor Llama-3.1-8B.
• Semantische Dominantie: Semantische kenmerken verklaarden 88% van de door het model gevangen neurale variantie. Lexicale kenmerken droegen verwaarloosbare unieke variantie bij ($\Delta R^2 \approx 0,000$), ondanks dat ze een significant deel uitmaken van kenmerken in vroege lagen.
• Topografische Uitlijning: Specifieke subcategorieën mapten zoals voorspeld naar specifieke regio's:
  • Concretie/Animatie $\rightarrow$ Posterieure temporale cortex en Angular gyrus.
  • Affect/Emotie $\rightarrow$ Anterieure temporale cortex en dmPFC.
  • Sociaal/Mentaal $\rightarrow$ Inferieure frontale cortex en Anterieure temporale cortex.
  • Ruimtelijk $\rightarrow$ Angular gyrus.
• Voorspellingsfout: Een exploratieve analyse suggereerde dat de hersenen mogelijk ook onverwachte semantische inhoud (voorspellingsfouten) coderen, aangezien het combineren van ruwe semantiek met voorspellingsfouten de coderingsprestatie verbeterde ($\Delta r = +0,018, p<0,01$).
• Vergelijking met Normen: SAE-kenmerken presteerden beter dan eenvoudige woordniveau semantische normen (bijv. concretie, valentie) zowel in coderingsprestatie ($r=0,285$ versus $0,194$) als in topografische convergentie ($\rho=0,72$ versus $0,31$), wat het belang van contextuele, fijnmazige representaties benadrukt.

Betekenis en Aanspraken
Het artikel beweert de vraag over hersen-LLM-uitlijning te transformeren van "of" semantiek de relatie aandrijft naar "welke specifieke semantische kenmerken uitlijning aandrijven en waar in de hersenen".

• Mechanistisch Inzicht: De auteurs betogen dat het voordeel van tussenliggende lagen een piek weerspiegelt in semantische rijkdom voordat het model specialiseert voor het trainingsdoel (next-token prediction) in latere lagen.
• Neurowetenschappelijke Convergentie: De resultaten ondersteunen de hub-and-spoke-architectuur van semantisch geheugen, en tonen aan dat LLM's spontaan een corticale topografie ontdekken die convergeert met de menselijke neuroanatomie.
• Methodologische Vooruitgang: Door SAE's toe te passen op neurale data, gaat de studie voorbij aan geaggregeerde maatstaven om een kenmerk-niveau account te bieden die computationele representaties koppelt aan specifieke neurobiologische mechanismen. De auteurs positioneren dit als een enkel kenmerk-niveau account dat twee eerder niet-verbonden empirische regulariteiten omvat: het voordeel van tussenliggende lagen en corticale semantische organisatie.

Beperkingen Erkend door de Auteurs
Het artikel noteert verschillende beperkingen, waaronder:

• Het gebruik van GPT-4 voor kenmerklabeling kan gedeelde biases introduceren (gemitigeerd door menselijke validatie en cross-LLM checks).
• Mean-ablatie is een grove interventie voor causale claims.
• fMRI-resolutie ($\sim2$s) verward woordniveau en compositie semantiek.
• De studie is een generalisatiecheck over drie talen (allemaal hoofd-initieel) in plaats van een uitgebreid cross-linguïstisch bewijs.
• De voorspellingsfout-analyse is een vereenvoudigde proxy voor volledige hiërarchische voorspellende codering.