Technische Samenvatting: Hoeveel Verschillende Outputs Kan Een Transformer Genereren?

Probleemstelling

Ondanks het empirische succes van Transformers in natuurlijke taalverwerking en computer vision, vertonen deze modellen fundamentele tekortkomingen bij eenvoudige algoritmische taken, zoals het kopiëren of herhalen van sequenties, zodra de invoerlengte een bepaalde drempel overschrijdt. Hoewel eerdere studies deze tekortkomingen hebben toegeschreven aan trainingsdata of optimalisatieproblemen, stelt dit artikel dat ze voortvloeien uit intrinsieke architecturale beperkingen. Specifiek onderzoeken de auteurs de toegankelijkheid van outputsequenties: de verzameling van alle tokensequenties die een Transformer kan genereren gegeven elke mogelijke prompt (inclusief geoptimaliseerde soft prompts) en een willekeurige contextlengte. De kernvraag is: Hoeveel verschillende sequenties kan een Transformer daadwerkelijk uitvoeren, en hoe schaalt deze capaciteit met promptlengte en modelarchitectuur?

Methodologie

De auteurs benaderen het probleem door de geometrische beperkingen te analyseren die worden opgelegd door beperkte numerieke precisie en de gebonden aard van interne representaties binnen de Transformer-architectuur.

1. Mean-Field Formulering: Om willekeurige promptlengtes te hanteren, interpreteren de auteurs Transformers als afbeeldingen tussen kansmaten (mean-field-extensie) in plaats van eindige sequenties. Dit maakt gebruik van de permutatie-equivalentie van attention-layers.
2. Partitie van de Embeddingruimte: De embeddingruimte wordt opgedeeld in gebieden ($E_t$) die corresponderen met de meest waarschijnlijke volgende token (of reeks tokens) op basis van de projectie van de decoder-uitvoer.
3. Verpakkingsgetal-analyse: De auteurs maken gebruik van het concept van verpakkingsgetallen (het maximale aantal disjuncte ballen met een gegeven straal dat in een ruimte past) om het aantal verschillende invoeren te kwantificeren die een Transformer kan onderscheiden.
   • Aanneming van Beperkte Precisie: Ze veronderstellen dat de Transformer een beperkte precisie $\epsilon$ heeft, wat betekent dat het geen onderscheid kan maken tussen invoeren die dichter bij elkaar liggen dan $\epsilon$ (gemodelleerd als as-georiënteerde kubussen of ballen).
   • Gebonden Steun: Ze veronderstellen dat de steun van de embedding is opgesloten binnen een gebonden gebied (bijvoorbeeld een bal met straal $r$).
4. Theoretische Afleiding: Door het verpakkingsgetal van de invoerruimte te begrenzen ten opzichte van het volume van de embedding-steun, leiden ze bovengrenzen af voor het aantal toegankelijke sequenties.
5. Empirische Validatie: De theoretische voorspellingen worden getest met de "Cramming"-taak (Kuratov et al., 2025), waarbij een bevroren Transformer wordt geconditioneerd op geoptimaliseerde soft prompts om specifieke doelsequenties te genereren. Ze evalueren ook kopiëertaken om lengte-afhankelijke generalisatiefalen te observeren.

Belangrijkste Bijdragen

1. Beperkte Toegankelijkheid van Sequenties

Het artikel bewijst dat een Transformer slechts een eindige verzameling van verschillende sequenties kan uitvoeren, ongeacht de promptlengte of de inferentiestrategie.

• Stelling 4.5: Voor een Transformer met precisie $\epsilon$, embeddingstraal $r$ en promptlengte $m$, wordt het aantal verschillende toegankelijke sequenties bovengrens door $(1 + 2r/\epsilon)^{dm}$.
• Implicatie: De meeste sequenties zijn fundamenteel ontoegankelijk; geen enkele keuze van prompt kan het model ertoe brengen ze te genereren.

2. Lineaire Schaling en Exponentiële Afneming

De auteurs stellen een precieze relatie vast tussen promptlengte en de maximale lengte van toegankelijke sequenties:

• Lineaire Groei: De maximale lengte $n$ van toegankelijke sequenties groeit lineair met de promptlengte $m$ ($n \propto m$).
• Exponentiële Afneming: Boven een kritieke drempel $N$ neemt het aandeel toegankelijke sequenties van lengte $n$ exponentieel af met $n$.
• Theoretische Drempel: Ze leiden een expliciete formule af voor deze drempel: $n^* \approx C \cdot m$, waarbij $C$ afhangt van de embeddingsdimensie $d$, de vocabulairegrootte $|V|$, de precisie $\epsilon$ en de steunstraal $r$.

3. Verklaring van Empirische Falen

De analyse biedt een theoretische verklaring voor het "plotselinge falen" dat in de praktijk wordt waargenomen (bijvoorbeeld perfect kopiëren tot lengte $L$, gevolgd door volledig falen). Het artikel stelt dat dit geen geleidelijke degradatie is, maar een gevolg van de exponentiële afname van toegankelijke sequenties boven de kritieke drempel.

4. Verfijnde Grenzen via Geometrie

De auteurs verfijnen hun theoretische bovengrenzen door de aanname van een uniforme, bolvormige embedding-steun te versoepelen. Ze stellen het volgende voor:

• Anisotrope Steunen: Het modelleren van de steun als kegels of ellipsoïden om de daadwerkelijke verdeling van embeddings beter vast te leggen.
• Niet-uniforme Celvolumes: Rekening houden met het feit dat veelvoorkomende tokens grotere gebieden in de embeddingruimte innemen dan zeldzame tokens.
  Deze verfijningen verkleinen de kloof tussen theoretische bovengrenzen en empirische waarnemingen (van een factor van ~10 naar ~5–6).

Resultaten

Theoretische Voorspellingen

• Corollarium 4.6: Voor een vast promptbudget $m$ blijft de toegankelijkheid hoog tot een lengte $n^*(m)$ en daalt vervolgens exponentieel. De helling van deze lineaire relatie wordt begrensd door $C \leq \frac{d \ln(1 + 2r/\epsilon)}{\ln(|V|)}$.
• Corollarium 4.10: Zelfs met onbeperkte context en berekening, bestaat er een drempel $N$ waarboven bijna alle sequenties ontoegankelijk zijn.

Empirische Validatie

• Cramming-taak: Experimenten met modellen (Pythia, Qwen-2.5, Llama-3.2, Gemma-3) tonen aan dat de lengte $n_{50}$ (waar de toegankelijkheid daalt tot 50%) lineair schaalt met het aantal trainbare geheugenvectoren $m$ ($R^2 > 0,99$).
• Vergelijking van Hellingen: De empirisch waargenomen hellingen zijn consequent lager dan de theoretische bovengrenzen, waarbij de verhouding tussen theorie en experiment varieert van 4,5 tot 20,4, afhankelijk van het model en de gebruikte geometrische aannames.
• Kopiëertaak: Modellen die zijn getraind om sequenties tot lengte 50 te kopiëren, falen plotseling wanneer ze worden getest op langere sequenties, wat het bestaan bevestigt van een scherpe toegankelijkheidsdrempel die onafhankelijk is van de promptlengte.
• Verdeling van Celvolumes: Analyse toont aan dat decoder-celvolumes sterk scheef zijn; een kleine set frequente tokens (bijvoorbeeld witruimte, leestekens) neemt een onevenredig groot deel van de embeddingruimte in, wat de toegankelijkheidsgrenzen verscherpt ten opzichte van uniforme aannames.

Betekenis en Claims

Het artikel claimt de eerste rigoureuze theoretische verklaring te bieden voor de intrinsieke beperkingen van Transformers bij sequentiegeneratietaken. De betekenis ligt in:

1. Architecturale Grenzen: Aantonen dat het onvermogen om lange sequenties te kopiëren een fundamentele eigenschap is van de eindige precisie en gebonden representaties van de architectuur, en niet louter een trainingsartefact.
2. Voorspellende Kracht: Het bieden van een formule om de prestatiegrenzen van een Transformer te voorspellen uitsluitend op basis van de geometrie van de embeddingruimte (dimensie, vocabulairegrootte, precisie en steunvorm), zonder het volledige parameterbestand te hoeven inspecteren.
3. Generaliseerbaarheid: De resultaten strekken zich uit tot buiten Transformers naar elke architectuur met gebonden interne representaties en eindige precisie (bijvoorbeeld State-Space-modellen zoals Mamba, hoewel afwijkende verborgen staten uitdagingen vormen).

De auteurs concluderen dat de embeddingruimte, ondanks dat deze slechts een fractie van de modelparameters vertegenwoordigt, betekenisvolle informatie draagt over de fundamentele capaciteiten en beperkingen van het model.