Discovering Cross-Language Reasoning Invariance in LLMs with Geometry-Invariant Sparse Autoencoders

Grote taalmodellen zijn de motoren achter veel van de meest geavanceerde kunstmatige intelligentietools van vandaag, in staat om te lezen, te schrijven en problemen op te lossen in tientallen talen. Jarenlang hebben onderzoekers zich afgevraagd hoe deze systemen de complexiteit van meertaligheid aanpakken. Wanneer een model een wiskundig probleem in het Engels oplost en vervolgens exact hetzelfde probleem in het Chinees oplost, gebruikt het dan dezelfde interne mentale machine voor beide, of schakelt het over naar een compleet andere set regels voor elke taal? Deze vraag is van belang omdat als het model een gedeelde interne taal gebruikt voor redeneren, we de logica erachter één keer kunnen begrijpen en die vervolgens op elke taal die het spreekt kunnen toepassen. Als het echter vertrouwt op afzonderlijke, taalspecifieke paden, dan zegt het begrijpen van één versie van het model heel weinig over de andere versies. Het vakgebied van mechanistische interpreteerbaarheid probeert in deze modellen te kijken om te zien hoe ze werken, waarbij ze de interne staten behandelen als een complexe printplaat die in kaart gebracht en begrepen kan worden.

Een team van onderzoekers zette zich in om deze vraag te beantwoorden door in de interne werking van vijf verschillende grote taalmodellen te kijken. Ze richtten zich op een specifieke taak: het oplossen van basisschoolwiskundeproblemen. Ze namen een dataset van 250 wiskundeproblemen en vroegen elk model deze in zes verschillende talen op te lossen: Engels, Duits, Frans, Spaans, Russisch en Chinees. Om ervoor te zorgen dat ze appels met appels vergeleken, behielden ze alleen de problemen waarbij het model het juiste antwoord gaf en een helder, stapsgewijs redeneerpad produceerde in elke taal. De onderzoekers legden vervolgens de interne activiteit van het model vast tijdens verschillende stadia van het proces, waarbij ze de specifieke patronen van elektriciteit-achtige signalen vastlegden die binnen de computer vuurden terwijl het over de oplossing nadacht.

Om deze complexe signalen betekenis te geven, gebruikten de onderzoekers een hulpmiddel genaamd een sparse autoencoder. Je kunt dit zien als een manier om de chaotische interne ruis van het model te vertalen naar een lijst met duidelijke, begrijpelijke concepten. Net zoals een mens een scène zou beschrijven door de belangrijkste elementen op te sommen — lucht, boom, hond, auto — breekt de autoencoder de activiteit van het model af in een set actieve kenmerken. De onderzoekers trainden twee versies van dit hulpmiddel voor elke laag van de modellen. De eerste versie leerde simpelweg te beschrijven wat het zag in één taal. De tweede versie werd getraind met een speciale instructie: het moest leren om hetzelfde wiskundeprobleem te beschrijven met dezelfde set kenmerken, ongeacht of het probleem in het Engels of het Chinees werd gepresenteerd. Deze tweede versie was ontworpen om het model te dwingen een gemeenschappelijke grond te vinden, een gedeelde interne taal voor redeneren.

De resultaten onthulden een verrassende realiteit over hoe deze modellen denken. De onderzoekers ontdekten dat het simpelweg gelijker maken van de interne beschrijvingen op geometrisch vlak niet garandeerde dat het model daadwerkelijk dezelfde logica gebruikte. In sommige modellen maakte het dwingen van de interne kenmerken om over talen heen uit te lijnen het redeneren van het model robuuster en uitwisselbaarder. In andere modellen maakte het helemaal geen verschil, en in één geval maakte het de prestaties van het model zelfs slechter toen ze probeerden delen van het redeneren van de ene taal naar de andere te wisselen. Dit gebeurde omdat de modellen al zeer verschillende gewoonten hadden ontwikkeld. Eén familie van modellen ontwikkelde van nature een gedeelde manier van denken naarmate het dieper in het probleem kwam, waardoor de nieuwe training hielp om dat gedeelde pad te verfijnen. Een andere familie had al een zo sterke, gedeelde structuur opgebouwd dat de nieuwe training niets toe te voegen had. Een derde familie hield haar talen strikt gescheiden, en de poging om ze samen te voegen creëerde verwarring in plaats van duidelijkheid.

De studie onderzocht vijf specifieke modellen uit vier verschillende families, variërend in grootte van 1,7 miljard tot 4 miljard parameters. Ze ontdekten dat het succes van het creëren van een gedeelde redeneertaal volledig afhing van de bestaande architectuur van het model. In de modellen die een "convergent" patroon vertoonden, waarbij de gedeelde kenmerken sterker werden naarmate het model meer van het probleem verwerkte, werkte de nieuwe trainingsmethode perfect en verbeterde het het vermogen van het model om over talen heen te redeneren in elke laag die ze testten. In modellen die al "verzadigd" waren met gedeelde kenmerken, bood de nieuwe training geen voordeel en verstoorde het soms de natuurlijke flow van het model. In modellen die "low-sharing" bleven, waarbij de talen grotendeels gescheiden bleven, slaagde de nieuwe training er niet in om een functionele brug te slaan, ook al zagen de interne signalen er op papier gelijkaardiger uit.

Dit werk daagt een algemeen aanvaarde aanname in het vakgebied uit: dat als twee dingen er op een grafiek hetzelfde uitzien, ze ook op dezelfde manier moeten functioneren. De onderzoekers bewezen dat een model kenmerken kan hebben die geometrisch uitgelijnd zijn over talen, maar nog steeds niet uitwisselbaar werken. Ze lieten zien dat de weg naar begrip van meertalige modellen geen eenheidsoplossing is. In plaats daarvan is de interne logica van een model diep verbonden met het specifieke ontwerp ervan. Sommige modellen bouwen van nature een universele redeneermotor op, terwijl anderen hun talen in aparte kamers houden. De onderzoekers concludeerden dat om echt te begrijpen hoe een kunstmatige intelligentie over talen heen denkt, we naar de specifieke architectuur van elk model moeten kijken, in plaats van aan te nemen dat ze allemaal dezelfde verborgen regels volgen.