🤖 machine learning

Putting Transformer Theories to the Test

Dit artikel evalueert zeven formele theorieën over de capaciteiten van transformers door hun voorspellingen in kaart te brengen tegen een reeks taken en experimentele resultaten, waarbij wordt vastgesteld dat geen enkele theorie de geobserveerde gedragingen volledig verklaart en dat er behoefte is aan een nieuw kader dat soft attention, dynamische inhoudsafhankelijke retrieval en leerbaarheid incorporeert.

Oorspronkelijke auteurs: Awni Altabaa, Tobias Schnabel, Kiran Tomlinson

Gepubliceerd 2026-10-26✓ Author reviewed ⓘ

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Awni Altabaa, Tobias Schnabel, Kiran Tomlinson

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

In de snel evoluerende wereld van kunstmatige intelligentie is een specifiek type computerprogramma, een transformer, de motor geworden achter de meest geavanceerde taalsystemen, zoals de AI-chatbots die we vandaag de dag kennen, waaronder ChatGPT. Deze programma's denken niet als mensen, maar ze zijn opmerkelijk goed in het herkennen van patronen in tekst, het voorspellen van het volgende woord in een zin en het oplossen van complexe puzzels. Omdat ze in de praktijk zo goed werken, hebben wetenschappers jarenlang geprobeerd wiskundige kaarten te maken van wat deze programma's wel en niet kunnen. Deze kaarten, of theorieën, zijn als verschillende blauwdrukken. Sommige blauwdrukken suggereren dat de programma's beperkt zijn tot eenvoudige taken, terwijl andere beweren dat ze bijna alles kunnen aan. Het probleem is dat deze blauwdrukken vaak met elkaar in strijd zijn. De ene kan zeggen dat een specifieke taak te moeilijk is voor de machine, terwijl de andere beweert dat het makkelijk is. Zonder een manier om deze concurrerende kaarten te toetsen aan de werkelijkheid, is het moeilijk om te weten welke ervan daadwerkelijk correct is of hoe we in de toekomst betere machines kunnen bouwen.

Een team van onderzoekers zette zich scherp om dit debat te beslechten door deze theorieën te behandelen als wetenschappelijke hypothesen die in de echte wereld getest moeten worden. Ze verzamelden zeven van de meest prominente theorieën die momenteel worden gebruikt om de capaciteiten van transformers te beschrijven en onderwierpen deze aan de test met een breed scala aan specifieke taken. Deze taken varieerden van eenvoudige telproblemen en logische puzzels tot het volgen van de structuur van zinnen en het navigeren door netwerken van verbindingen. De onderzoekers keken niet alleen naar de wiskunde op papier; ze bouwden kleine, op maat gemaakte versies van deze programma's en trainden deze vanaf nul om te zien of ze de problemen daadwerkelijk konden oplossen. Ze testten ook enorme, vooraf getrainde taalmodellen die vandaag de dag al in gebruik zijn, om te zien of de regels veranderden wanneer de programma's veel groter en complexer werden.

De resultaten onthulden een verrassende waarheid: geen enkele theorie kon het volledige plaatje verklaren. Wanneer de onderzoekers de voorspellingen van de zeven theorieën vergeleken met de werkelijke prestaties van de programma's, ontdekten ze dat de theorieën vaak niet overeenkwamen met de werkelijkheid en met elkaar. Zo voorspelden verschillende theorieën dat een programma moeite zou hebben met het tellen van hoe vaak een specifiek symbool voorkwam in een lange lijst met tekst. In het laboratorium leerden de programma's deze taak echter gemakkelijk en konden ze zelfs wat ze hadden geleerd toepassen op lijsten die veel langer waren dan de lijsten waarop ze getraind waren. Daarentegen voorspelden andere theorieën dat een programma een complexe rekenkundige som zou kunnen oplossen, maar de programma's slaagden er consequent niet in om dit te leren, zelfs niet bij een overvloed aan trainingsdata. Deze mismatch toonde aan dat de theorieën cruciale details misten over hoe de programma's daadwerkelijk werken.

De studie identificeerde twee hoofdoorzaken waarom de theorieën niet overeenkwamen met de werkelijkheid. Ten eerste gingen veel van de theorieën ervan uit dat de programma's beslissingen namen door zich op slechts één stuk informatie tegelijk te concentreren, zoals een spotlight die een enkel woord uitlicht. In werkelijkheid gebruiken de programma's een zachtere, flexibelere methode die hen in staat stelt om informatie uit veel verschillende delen van de tekst tegelijkertijd te mengen. Deze flexibiliteit stelt hen in staat om taken op te lossen die de rigide theorieën als onmogelijk bestempelden. Ten tweede gingen sommige theorieën ervan uit dat de programma's bij elke stap onbeperkte berekeningen konden uitvoeren, wat hen krachtiger deed lijken dan ze in werkelijkheid zijn. Deze theorieën voorspelden dat de programma's complexe graafproblemen zouden kunnen oplossen, maar de experimenten toonden aan dat de programma's vastliepen en niet in staat waren de noodzakelijke stappen te leren. De onderzoekers ontdekten dat het vermogen van een programma om een taak te leren minder afhing van de ruwe kracht en meer van hoe het werd onderwezen en hoe het interne geheugen was georganiseerd.

Een van de meest opvallende bevindingen was dat de omvang en de trainingsgeschiedenis van het programma enorm veel uitmaakten. De kleine programma's die specifiek voor de experimenten waren gebouwd, gedroegen zich heel anders dan de gigantische, vooraf getrainde modellen die in dagelijkse toepassingen worden gebruikt. Soms leerden de kleine modellen een taak die de grote modellen niet konden oplossen, en soms slaagden de grote modellen waar de kleine faalden. Dit suggereert dat de capaciteiten van deze systemen niet alleen een resultaat zijn van hun ontwerp, maar ook van de enorme hoeveelheden data die ze gevoerd krijgen en de specifieke methoden die worden gebruikt om ze te trainen. De theorieën die zich alleen richtten op de architectuur van het programma en het proces van leren negeerden, konden deze uitkomsten niet voorspellen.

Uiteindelijk concludeert het artikel dat wetenschappers een nieuw soort theorie nodig hebben om deze krachtige instrumenten echt te begrijpen. Dit nieuwe kader moet rekening houden met de flexibele manier waarop de programma's informatie mengen, de beperkingen van hun lokale berekeningen en de cruciale rol van hoe ze leren. Het moet ook verklaren waarom sommige programma's goed generaliseren naar nieuwe situaties terwijl anderen dat niet doen, een verschil dat vaak wordt gedreven door de specifieke manier waarop ze worden geleerd om de volgorde van woorden te onthouden. Door aan te tonen dat geen enkele bestaande kaart het hele gebied dekt, hebben de onderzoekers een duidelijke weg vooruit geëist. Ze hebben een nieuwe set benchmarks gecreëerd en een duidelijker begrip geboden van wat er daadwerkelijk gebeurt binnen deze machines, wat een solide fundament biedt voor het bouwen van de volgende generatie kunstmatige intelligentie die zowel krachtig als voorspelbaar is.

Technische Samenvatting: Transformer-theorieën op de proef stellen

Probleemstelling

Sinds de introductie van de transformer-architectuur zijn er talrijke formele theorieën naar voren gekomen om de capaciteiten en beperkingen ervan te karakteriseren. Deze theorieën—waaronder Star-free, AC0, TC0, C-RASP, MPC, BAPO en Sensitivity—hanteren uiteenlopende abstracties met betrekking tot informatiestroom, aandachtmechanismen (attention) en computationele grenzen. Hierdoor geven ze vaak tegenstrijdige voorspellingen over welke taken transformers kunnen oplossen (bijv. het voorspellen van Majority of Parity als "Hard" of "Easy").

Het centrale probleem dat in dit werk wordt aangepakt, is het gebrek aan een verenigd begrip van welk theoretisch kader het beste aansluit bij de empirische realiteit. Het blijft onduidelijk welke abstracties noodzakelijk zijn om de successen en mislukkingen van transformers in de praktijk te verklaren, met name wat betreft in-distributie leren, lengte-generalisatie en de prestaties van geprepreteerde Large Language Models (LLMs). Dit artikel probeert de kloof tussen transformer-theorie en de praktijk te overbruggen door de voorspellingen van zeven belangrijke theoretische kaders systematisch te vergelijken met gecontroleerde empirische experimenten.

Methodologie

De auteurs hebben een uitgebreid evaluatiekader geconstrueerd dat bestaat uit drie hoofdonderdelen:

Taaksuite: Een diverse collectie taken die verschillende computationele structuren beslaat, is samengesteld om punten van theoretische onenigheid aan te pakken. De suite bevat:
- Booleaanse Functies: All, Any, Majority, Parity.
- Retrieval Taken: Index, Index-All/Any, Index-Parity, en k-Hop Induction (het samenstellen van content-afhankelijke zoekopdrachten).
- Sparse Functies: Sparse-All/Any, Sparse-Parity.
- Rekenkunde & Grafen: BinaryAdd, Edge Existence, Directed/Undirected Reachability.
- Syntactische Structuren: Dyck-talen (met begrensde en onbegrensde diepte).
Theoretische Mapping: De auteurs hebben elke taak afgezet tegen de zeven theorieën (Star-free, AC0, TC0, C-RASP, MPC, BAPO, Sensitivity). Waar de bestaande literatuur een voorspelling voor een specifiek theorie-taak paar miste, hebben de auteurs nieuwe theoretische resultaten of constructies afgeleid om de voorspellingsmatrix te voltooien. Dit hield het bewijzen van lower bounds, onmogelijkheidstheorema's of expliciete constructies in (bijv. het bewijzen dat C-RASP exponentiële grootte vereist voor bepaalde retrieval-taken).
Empirische Evaluatie: Er zijn drie afzonderlijke experimentele lijnen uitgevoerd om de theoretische voorspellingen te testen:
- In-Distribution Learning: Het trainen van kleine, taakspecifieke causale transformers (4 lagen, breedte 256) op toenemende inputgroottes ( $n$ ) om de sample complexiteit te meten en te bepalen of het model de taak kan leren.
- Length Generalization: Het trainen van modellen op kleine inputs ( $n \le 32$ ) en het evalueren van hun vermogen om te generaliseren naar veel grotere inputs ( $n$ tot 256). Dit werd getest over 27 architecturale configuraties (variërend in modelgrootte en positionele encodings zoals RoPE, NoPE, en absolute/relatieve schema's).
- Pretrained LLM Performance: Het evalueren van vijf grensverleggende geprepreteerde modellen op dezelfde taken zonder taakspecifieke fine-tuning, gebruikmakend van natuurlijke taalprompts met few-shot voorbeelden.

Belangrijkste Bijdragen

1. Theoretische Analyse en Nieuwe Resultaten

De auteurs hebben nieuwe theoretische resultaten geleverd om hiaten in de bestaande literatuur op te vullen, specifiek:

C-RASP Beperkingen: Bewezen dat C-RASP (dat uniforme middeling modelleert) een exponentiële programmagrootte vereist om query-key retrieval-taken op te lossen die softmax attention transformers efficiënt oplossen met lineaire breedte. Dit benadrukt de kosten van het ontbreken van dynamische, content-afhankelijke aandacht.
k-Hop Induction: Gedemonstreerd dat C-RASP niet in staat is om k-Hop Induction uit te drukken (zelfs voor $k=1$ ), ondanks dat induction heads centraal staan bij in-context learning in de praktijk.
[]
BAPO Hardness: Vastgesteld dat onbegrensde Dyck-talen en BinaryAdd BAPO-hard zijn.
Exponentiële Separatie: Getoond dat er een exponentiële breedte-separatie bestaat tussen C-RASP en softmax attention transformers voor retrieval-taken.

2. Empirische Validatiematrix

De studie genereerde een uitgebreide matrix die theoretische "Easy/Hard" voorspellingen vergelijkt met empirische uitkomsten (In-Distribution, Length Generalization, en LLM-prestaties). Deze matrix onthulde dat geen enkele theorie consistent het waargenomen gedrag voorspelt over alle taken heen.

3. Identificatie van Failure Modes

De experimenten identificeerden specifieke redenen waarom theoretische voorspellingen falen:

Hard vs. Soft Attention: Theorieën die hard attention veronderstellen (Star-free, AC0, BAPO) voorspellen onterecht dat taken die globale aggregatie vereisen (zoals Majority) "Hard" zijn. Empirisch gezien lossen transformers met soft attention deze taken robuust op.
Content-Dependent Retrieval: Theorieën die uniforme middeling veronderstellen (C-RASP) voorspellen onterecht dat retrieval-taken (zoals Index en k-Hop Induction) "Hard" zijn. Empirisch gezien lossen transformers met dynamische aandacht deze op.
Losse Upper Bounds: Theorieën die losse upper bounds bieden (TC0, MPC) voorspellen vaak taken als "Easy" die transformers in de praktijk niet kunnen leren (bijv. BinaryAdd, Parity). Dit suggereert dat deze theorieën de praktische leerbaarheid overschatten door optimalisatiebarrières of lokale computationele beperkingen te negeren.
Learnability vs. Expressivity: Het niet kunnen leren van taken zoals Parity wordt toegeschreven aan optimalisatiebarrières (scherpe loss landscapes) in plaats van expressiviteitslimieten, een nuance die alleen door de Sensitivity-theorie wordt gevangen.

Resultaten

Onenigheid tussen Theorieën

De zeven theorieën maken tegenstrijdige voorspellingen over de meerderheid van de taken. Bijvoorbeeld:

Majority: Voorspeld als Hard door Star-free, AC0 en BAPO; Easy door TC0, C-RASP, MPC en Sensitivity. Transformers leren dit succesvol, wat de laatste groep ondersteunt.
Parity: Voorspeld als Hard door Star-free, AC0, C-RASP en Sensitivity; Easy door TC0, MPC en BAPO. Transformers slagen er niet in dit zelfs in-distributie te leren, wat de eerste groep ondersteunt.
k-Hop Induction: Alleen voorspeld als Hard door C-RASP; Easy door anderen. Transformers leren 1-hop induction maar hebben moeite met 2-hop en 3-hop composities.

Empirische Bevindingen

Geen Enkele Theorie Volstaat: Geen enkele theorie verklaart het volledige patroon van successen en mislukkingen.
Hard Voorspellingen zijn Betrouwbaarder: Wanneer een theorie een taak als "Hard" voorspelt, is de kans groter dat dit empirisch correct is dan wanneer de theorie "Easy" voorspelt. "Easy" voorspellingen rusten vaak op handgemaakte constructies die trainingsalgoritmen mogelijk niet ontdekken.
Rol van Positionele Encoding: Lengte-generalisatie is zeer gevoelig voor de positionele encoding. Geen enkele encoding generaliseert over alle taken (bijv. NoPE generaliseert op onbegrensde Dyck-1, terwijl RoPE succesvol is bij 1-Hop Induction).
LLMs vs. Kleine Transformers: Geprepreteerde LLMs gedragen zich anders dan kleine transformers die vanaf nul zijn getraind. LLMs falen vaak op taken zoals Majority en Index naarmate de input groter wordt, terwijl kleine transformers slagen. Omgekeerd slagen LLMs op sommige taken waar kleine transformers falen, wat suggereert dat data, tokenisatie en trainingsrecepten de capaciteiten aanzienlijk beïnvloeden, buiten de architectuur alleen.

Betekenis en Claims

Het artikel stelt dat de huidige theoretische praktijk een zwakte heeft: "easy" voorspellingen zijn vaak gebaseerd op existentiebewijzen (constructieve upper bounds) die leren niet garanderen, terwijl "hard" voorspellingen soms de oorzaak van falen verkeerd identificeren (bijv. het toeschrijven van het falen van Parity aan expressiviteit in plaats van aan optimalisatie).

De auteurs betogen dat een verenigde theorie van transformers verschillende specifieke kenmerken moet vatten die momenteel worden weggelaten of vereenvoudigd in bestaande kaders:

Soft, Content-Dependent Attention: Modellen moeten rekening houden met dynamische retrieval, niet alleen met harde selectie of uniforme middeling.
Bounded Local Computation: Theorieën moeten lokale computation beperken om te voorkomen dat ze capaciteiten overschatten (zoals gezien bij MPC/BAPO).
Learnability en Inductive Biases: Theorieën moeten verklaren waarom training bepaalde oplossingen vindt en andere niet, waarbij de effecten van positionele encodings en optimalisatie-landschappen worden meegenomen.
Data en Trainingsdynamiek: Een theorie van LLMs moet rekening houden met de invloed van pretraining data en trainingsrecepten, niet alleen de statische architectuur.

Uiteindelijk biedt het paper een testbed (de taaksuite en de voorspellingsmatrix) om de ontwikkeling van meer praktische theorieën te sturen die de complexe interactie tussen expressiviteit, leerbaarheid en inductive biases in transformer-modellen kunnen verklaren.