Kronecker Factorization Improves Efficiency and Interpretability of Sparse Autoencoders

Grote taalmodellen zijn enorme, complexe systemen die menselijke taal verwerken door tekst te transformeren in stromen van getallen. Deze getallen, bekend als activaties, stromen door de interne lagen van het model en dragen de betekenis van woorden en de logica van zinnen met zich mee. Voor onderzoekers die proberen te begrijpen hoe deze machines denken, zijn deze verborgen stromen een zwarte doos. Om deze te openen, gebruiken wetenschappers een hulpmiddel genaamd een sparse autoencoder. Zie dit hulpmiddel als een vertaler die de dichte, chaotische stroom van getallen neemt en deze afbreekt in een lange lijst van eenvoudige, onderscheidende concepten. Ideaal gezien vertegenwoordigt elk item op deze lijst een enkel, helder idee—zoals "wiskunde", "juridische contracten" of "de kleur blauw"—dat het model activeert wanneer het dat specifieke concept tegenkomt. Dit proces, genaamd decompositie, stelt onderzoekers in staat om de individuele tandwielen te zien die binnen de machine draaien.

Echter, standaard vertalers hebben een beperking. Ze behandelen elk concept als een onafhankelijk, plat item op een lijst, waarbij ze negeren dat menselijke taal diep gestructureerd is. Woorden en ideeën verschijnen vaak samen in voorspelbare patronen; het concept "geografie" komt bijvoorbeeld vaak voor in combinatie met "kaarten" of "richtingen". Wanneer een model deze patronen leert, worstelt het standaard hulpmiddel om de relatie te vatten, waarbij het systeem de verbinding vaak impliciet moet leren of, erger nog, onderscheidende ideeën samenvoegt tot één enkele, verwarrende feature. Dit maakt de resulterende lijst van concepten moeilijker te interpreteren en minder efficiënt om te berekenen.

Een team van onderzoekers bij T-Tech heeft een nieuwe manier voorgesteld om deze vertalers te bouwen, genaamd KronSAE, die de natuurlijke structuur van taal vanaf het begin respecteert. In plaats van elk concept als een apart, plat coördinaat te behandelen, organiseert hun ontwerp de interne woordenlijst in groepen. Binnen elke groep bouwt het systeem complexe features door twee eenvoudigere, reeds bestaande componenten te combineren. Het is een beetje zoals hoe een chef een specifiek gerecht kan maken door een basisingrediënt met een specifieke specerij te combineren; het gerecht bestaat alleen als zowel de basis als de specerij aanwezig zijn. In deze nieuwe architectuur wordt een feature pas geactiveerd wanneer twee onderliggende "ouder"-signalen tegelijkertijd actief zijn. Dit creëert een ingebouwde regel die het systeem aanmoedigt om features te leren die combinaties zijn van eenvoudigere delen, wat de manier waarop taal werkelijk werkt weerspiegelt.

De onderzoekers testten deze aanpak op twee populaire taalmodellen, Qwen2.5 en Gemma-2, met behulp van een enorme dataset van educatieve webpagina's. Ze ontdekten dat deze gestructureerde aanpak meer deed dan alleen het menselijke taalgebruik nabootsen; het maakte de interne representatie van het model ook daadwerkelijk duidelijker. Wanneer ze het nieuwe systeem vergeleken met de standaardmethode, ontdekten ze dat het nieuwe ontwerp features produceerde die specifieker waren en minder snel met elkaar verward werden. In de standaardmethode probeert een enkele feature vaak te veel te doen, waarbij de betekenis van verschillende gerelateerde concepten wordt geabsorbeerd en daardoor vaag wordt. Het nieuwe systeem, door features te dwingen te worden gebouwd uit specifieke combinaties, verminderde deze "absorptie". De resulterende features waren scherper en beschreven nauwere, meer precieze ideeën, wat ze gemakkelijker te begrijpen en te labelen maakte voor onderzoekers.

Naast helderheid bood het nieuwe ontwerp ook een aanzienlijke boost in efficiëntie. Omdat het systeem complexe features bouwt door eenvoudiger ones te combineren, hoeft het niet elke enkele mogelijkheid vanaf nul te berekenen. De onderzoekers ontdekten dat ze de hoeveelheid rekenkracht die nodig is om de encoder te draaien met meer dan veertig procent konden verminderen, terwijl ze hetzelfde niveau van nauwkeurigheid behielden bij het reconstrueren van de oorspronkelijke data. Dit betekent dat het systeem dezelfde hoeveelheid informatie kan leren met veel minder middelen. In hun experimenten was zelfs met deze enorme reductie in computationele kosten de daling in prestaties minder dan één procent, een verwaarloosbare afruil voor een dergelijk grote winst in snelheid en efficiëntie.

De studie onderzocht ook hoe goed dit systeem de verborgen relaties tussen concepten kon leren. In een gecontroleerd experiment met synthetische data, waarbij de relaties tussen features vooraf bekend waren, slaagde het nieuwe systeem er veel beter in om deze patronen te herstellen dan de standaardmethode. Het leerde gerelateerde concepten samen te groeperen binnen zijn interne structuur, terwijl de standaardmethode ze verspreidde. Bij het kijken naar real-world data observeerden de onderzoekers dat features die van nature samen in de tekst voorkwamen, inderdaad aan dezelfde interne groepen werden toegewezen in het nieuwe systeem. Dit suggereert dat de architectuur erin slaagt de statistische regelmatigheden van taal te vangen, waarbij de kennis van het model wordt georganiseerd op een manier die reflecteert hoe ideeën daadwerkelijk met elkaar verbonden zijn.

De onderzoekers bestudeerden ook de aard van de features zelf. Ze ontdekten dat de eenvoudigere "ouder"-componenten binnen het systeem vaak breed en abstract waren, in staat om meerdere verschillende ideeën te representeren. Echter, wanneer deze ouders werden gecombineerd, werd de resulterende feature zeer specifiek. Bijvoorbeeld, een brede component gerelateerd aan "richtingen" zou kunnen combineren met een andere gerelateerd aan "medische termen" om een feature te creëren die specifiek gaat over "medische instructies". Deze hiërarchische structuur stelde het systeem in staat om zijn basiscomponenten te hergebruiken om een breed scala aan specifieke concepten te bouwen zonder dat daarvoor een unieke, aparte neuron voor elk enkel idee nodig was. Deze compositionele aanpak maakte de features niet alleen interpreteerbaarder, maar bood ook een efficiëntere manier om kennis op te slaan en op te halen.

Uiteindelijk suggereert dit werk dat de manier waarop we deze interpretatietools ontwerpen even belangrijk is als de data die ze verwerken. Door een eenvoudige structurele bias te introduceren die nabootst hoe concepten combineren in taal, creëerden de onderzoekers een systeem dat zowel efficiënter als transparanter is. De bevindingen wijzen erop dat we niet hoeven te vertrouwen op het toevallig ontdekken van deze relaties door het model tijdens de training; we kunnen ze in de architectuur zelf inbouwen. Deze aanpak biedt een nieuwe weg vooruit voor het begrijpen van kunstmatige intelligentie, waarbij een helderder venster wordt geboden naar de geest van de machine, terwijl het systeem tegelijkertijd sneller en goedkoper te draaien is. De code voor deze nieuwe methode is nu beschikbaar voor anderen om te gebruiken en verder op voort te bouwen, wat uitnodigt tot verdere exploratie van hoe gestructureerd leren ons begrip van complexe systemen kan verbeteren.