📊 statistics

Numerical stability analysis of large language models

Diese Arbeit präsentiert eine Mixed-Precision-Analyse der Transformer-Inferenz, die neuartige Fehlerschranken und Stabilitätsbedingungen für Schlüsselkomponenten wie LayerNorm, RMSNorm und Self-Attention herleitet und letztlich aufzeigt, dass die numerische Stabilität durch das Zusammenspiel zwischen Gewichtsmagnituden und dem Wachstum des Residual-Streams bestimmt wird, eine Erkenntnis, die durch Experimente an GPT-2 validiert wurde.

Ursprüngliche Autoren: Stanislav Budzinskiy, Wenyi Fang, Longbin Zeng, Philipp Petersen

Veröffentlicht 2026-06-23

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Stanislav Budzinskiy, Wenyi Fang, Longbin Zeng, Philipp Petersen

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich ein Large Language Model (wie die, die Chatbots antreiben) als eine riesige, mehrstöckige Fabrik vor. In dieser Fabrik fließt Information vom Erdgeschoss bis in das oberste Stockwerk und passiert dabei hunderte von Räumen (Layern). In jedem Raum wird die Information verarbeitet, gemischt und umgeformt, bevor sie an den nächsten Raum weitergegeben wird.

Das von Ihnen bereitgestellte Dokument ist ein Sicherheitsinspektionsbericht für diese Fabrik. Die Autoren stellen die Frage: "Wenn wir im ersten Raum mit einem winzigen, fast unsichtbaren Staubkorn (einem winzigen Computer-Rundungsfehler) beginnen, wie groß wird dieses Staubkorn sein, wenn es das oberste Stockwerk erreicht?"

Hier ist eine Aufschlüsselung ihrer Ergebnisse unter Verwendung einfacher Analogien:

1. Die „Low-Precision“-Abkürzung

Um diese Fabriken schnell und kostengünstig zu betreiben, verwenden Ingenieure oft „Low-Precision“-Mathematik (Mathematik mit geringer Präzision). Denken Sie an das Messen von Zutaten mit einem Lineal, das nur Zollstriche statt Millimeterstriche hat. Es ist schneller, aber man verliert ein wenig an Genauigkeit.

Das Problem: Wenn man tausende Berechnungen hintereinander durchführt, können sich diese winzigen „Zollstrich“-Fehler anhäufen. Die Autoren wollten wissen: Bricht die Fabrik unter dem Gewicht dieser winzigen Fehler zusammen oder bleibt sie stabil?

2. Die „Normalisierungs-Türen“ (LayerNorm vs. RMSNorm)

Bevor die Information einen neuen Raum betritt, muss sie durch eine „Normalisierungstür“ gehen, die die Größe der Daten anpasst.

Die alte Tür (LayerNorm): Diese Tür subtrahiert die durchschnittliche Größe der Daten. Die Autoren fanden heraus, dass diese Tür wackelig werden kann, wenn die Daten einen massiven Ausreißer haben (eine einzige riesige Zahl, die viel größer ist als der Rest). Es ist, als würde man versuchen, eine Wippe auszubalancieren, auf deren einer Seite ein Elefant und auf der anderen ein Mäuschen sitzt; die Mathematik wird dadurch empfindlich.
Die neue Tür (RMSNorm): Dies ist die moderne Tür, die in Top-Modellen verwendet wird. Sie subtrahiert nicht den Durchschnitt, sondern skaliert lediglich basierend auf der Gesamtgröße. Die Autoren fanden heraus, dass diese Tür bedingungslos stabil ist. Selbst mit diesem Elefanten auf der Wippe hält die Tür stand. Es ist ein robusteres Design.

3. Das „Attention“-Spotlight (Aufmerksamkeits-Scheinwerfer)

Der berühmteste Teil dieser Modelle ist die „Self-Attention“, die entscheidet, welche Wörter in einem Satz wichtig füreinander sind.

Der „Softmax“-Schalter: Dies ist der Mechanismus, der Rohwerte in Wahrscheinlichkeiten (Prozentzahlen) umwandelt. Die Autoren analysierten einen gängigen Trick namens „Shifting“ (das Subtrahieren der größten Zahl vor der Berechnung), um zu verhindern, dass die Mathematik explodiert (überläuft).
Das Ergebnis: Sie haben bewiesen, dass dieser „Shifting“-Trick sicher ist. Er mag das System etwas empfindlicher gegenüber Rauschen machen (höchstens um den Faktor 4), aber er bringt die Mathematik nicht zum Einsturz. Es ist, als würde man eine Sonnenbrille tragen, um in die Sonne zu schauen; es verändert die Art und Weise, wie man Dinge sieht, ein wenig, aber es macht einen nicht blind.
Der „Attention Sink“: Sie bemerkten auch, dass sich das Modell in langen Gesprächen oft stark auf die ersten paar Wörter konzentriert (den „Sink“). Ihre Mathematik zeigt, dass die Fehler bei diesen langen Sequenzen nicht so sehr außer Kontrolle geraten, wie alte Theorien vermuten ließen.

4. Der „Residual Stream“ (Das Förderband)

Die Daten fließen auf einem „Residual Stream“ durch die Fabrik – einem Förderband, das die Hauptbotschaft vorwärts trägt.

Das Wachstum: Während die Daten in die oberen Stockwerke wandern, wird das Förderband von Natur aus „schwerer“ (die Zahlen werden größer).
Die Gewichte: Die Maschinen auf dem Förderband (die Gewichte) werden skaliert, während die Fabrik höher wird, um das Gleichgewicht zu halten.
Die große Entdeckung: Die Autoren fanden eine goldene Regel: Wenn man das Förderband hoch oder runter skaliert, bleibt der relative Fehler gleich.
- Analogie: Stellen Sie sich vor, Sie gehen auf einem Laufband. Wenn Sie die Geschwindigkeit des Laufbands verdoppeln und gleichzeitig die Größe Ihrer Schuhe verdoppeln, ändert sich Ihr Gangstil (relativ zu Ihrer Größe) nicht.
- Die Einschränkung: Dies funktioniert nur, wenn das Förderband „linear“ (vorhersehbar) agiert. Wenn man die Gewichte zu stark skaliert, könnte das Förderband plötzlich in einen völlig anderen Betriebsmodus wechseln (einen „qualitativen Übergang“). In diesem speziellen Fall bricht die Stabilität zusammen. Aber solange das Band in seinem normalen Rhythmus bleibt, schadet die Skalierung der Gewichte der Genauigkeit nicht.

5. Das „GPT-2“-Experiment

Um zu beweisen, dass ihre Mathematik nicht nur Theorie war, testeten sie sie an einem echten Modell namens GPT-2.

Zufällige Gewichte: Als sie ein Modell mit zufälligen, ungetrainierten Gewichten verwendeten, wuchsen die Fehler langsam und vorhersehbar.
Trainierte Gewichte: Als sie ein echtes, trainiertes Modell verwendeten, wuchsen die Fehler etwas schneller (exponentiell), aber immer noch innerhalb beherrschbarer Grenzen.
Das Urteil: Die Mathematik hielt stand. Der „relative Fehler“ (der Fehler im Verhältnis zur Größe der Daten) blieb konsistent, es sei denn, man zwang das Modell durch zu drastische Änderungen der Gewichte in einen seltsamen, instabilen Zustand.

Zusammenfassung

Das Paper kommt zu dem Schluss, dass Large Language Models numerisch stabil sind.
Obwohl sie eine „grobe“ Mathematik (Low Precision) verwenden und mit massiven Zahlen umgehen müssen, ist die Architektur so konzipiert, dass die Fehler nicht zu einer Katastrophe anschwellen. Der Schlüssel zu dieser Stabilität ist das Zusammenspiel zwischen der Größe der Gewichte und dem Wachstum des Datenstroms. Solange das Modell nicht in einen seltsamen, instabilen Zustand gedrängt wird, bleibt das durch die Low-Precision-Mathematik eingeführte „Rauschen“ ein winziges, handhabbares Staubkorn und kein Erdrutsch.

Technisches Resümee: Analyse der numerischen Stabilität von Large Language Models

Problemstellung

Large Language Models (LLMs), die auf Transformer-Architekturen basieren, verlassen sich für effizientes Training und Inferenz stark auf arithmetische Operationen mit geringer Präzision. Während Quantisierung und Mixed-Precision-Strategien erhebliche Rechengewinne bieten, führen sie numerische Perturbationen ein, die sich durch das Netzwerk fortpflanzen. Diese Fehler werden durch die inhärenten Rundungsfehler von Floating-Point-Operationen (FP) verstärkt. Obwohl empirische Studien die Auswirkungen der Quantisierung bereits umfassend dokumentiert haben, mangelt es an strengen theoretischen Analysen der numerischen Stabilität in tiefen Transformer-Architekturen. Diese Arbeit adressiert dieses Defizit durch die Entwicklung einer deterministischen Mixed-Precision-Numerikanalyse der Transformer-Inferenz mit dem Ziel, Schranken für Konditionszahlen und Vorwärtsfehler der Bestandteile der Architektur abzuleiten.

Methodik

Die Autoren verwenden einen Rahmen für die deterministische Rundungsfehleranalyse (Higham, 2002), der für Mixed-Precision-Umgebungen angepasst wurde. Die Analyse unterscheidet zwischen vier verschiedenen Präzisionen:

Quantisierungspräzision ( $u_q$ ): Wird zur Rundung der Operanden in der General Matrix Multiplication (GEMM) verwendet.
Akkumulationspräzision ( $u_a$ ): Wird für die Summation von Skalarprodukten verwendet.
Arbeitspräzision ( $u_w$ ): Wird für die Evaluierung nicht-linearer Funktionen verwendet.
Residuenpräzision ( $u_r$ ): Wird zur Speicherung von Zustandsvariablen im Residual Stream verwendet.

Die Studie konzentriert sich auf eine repräsentative Decoder-only Transformer-Architektur mit Pre-Normalization, kausaler Multi-Head Self-Attention mit Rotary Positional Embeddings (RoPE) und entweder GELU- oder SwiGLU-Feedforward (FF)-Mechanismen. Die Analyse erfolgt durch:

Ableitung von Konditionszahlen (normweise, komponentenweise und gemischt) für einzelne Komponenten: LayerNorm/RMSNorm, FF-Blöcke, Softmax und Self-Attention.
Festlegung von Vorwärtsfehler-Schranken für diese Komponenten unter FP-Arithmetik, unter Berücksichtigung spezifischer Akkumulationsalgorithmen (z. B. rekursive vs. paarweise Summation) und Absorptions-Effekten in Softmax.
Aggregation dieser lokalen Schranken, um den globalen Vorwärtsfehler der tiefen Transformer-Architektur zu analysieren, wobei die Wachstumsdynamik des Residual Streams explizit modelliert wird.

Zentrale Beiträge

1. Normalisierungsstabilität (LayerNorm vs. RMSNorm)

Die Arbeit liefert eine vergleichende numerische Stabilitätsanalyse von LayerNorm und RMSNorm, insbesondere im Regime der „massiven Ausreißer“, das charakteristisch für die moderne LLM-Inferenz ist.

Ergebnisse: Keine der Funktionen ist hinsichtlich der Sensitivität (Konditionszahlen) strikt überlegen. Jedoch wird der Vorwärtsfehler von LayerNorm durch die Magnitude der Hintergrundwerte des Ausreißers bestimmt, während RMSNorm eine bedingungslose Vorwärtsstabilität aufweist.
Implikation: Der Übergang zu RMSNorm in modernen LLMs reduziert die Rechenkomplexität, ohne die numerische Stabilität strikt zu verschlechtern, obwohl das spezifische Fehlerverhalten von der Eingangsverteilung abhängt.

2. Stabilität des Feedforward-Mechanismus

Die Autoren analysieren die Vorwärtsstabilität von FF-Blöcken unter Verwendung von glatten ReLU-ähnlichen Aktivierungen (z. B. GELU) und Gating-Mechanismen (z. B. SwiGLU).

Ergebnisse: Die FP-Evaluierung sowohl von GELU- als auch von SwiGLU-Mechanismen wird als vorwärtsstabil bewiesen. Die Fehlergrenzen werden prim heavy von den Quantisierungs- und Akkumulationsfehlern der zugrunde liegenden GEMMs dominiert und weniger von den Nichtlinearitäten selbst.

3. Softmax-Sensitivität und Attention Sinks

Die Analyse befasst sich mit dem numerischen Verhalten von Softmax, insbesondere in Gegenwart von „Attention Sinks“ (wo sich die Wahrscheinlichkeitsmasse auf frühe Token konzentriert).

Verschobene Evaluierung: Die Arbeit bestätigt, dass der verschobene Evaluierungsalgorithmus (Subtraktion des Maximums zur Vermeidung von Überläufen) die numerische Instabilität verhindert, aber die Sensitivität gegenüber Perturbationen um höchstens um den Faktor 4 im Vergleich zur unverschobenen Evaluierung erhöht.
Konzentrierte Verteilungen: Für konzentrierte Wahrscheinlichkeitsverteilungen (häufig bei Attention Sinks) leiten die Autoren eine neuartige Rundungsfehler-Schranke ab, die Absorptions-Effekte berücksichtigt. Diese Schranke skaliert mit der effektiven Sequenzlänge (der Anzahl der nicht-absorbierten Terme) statt mit der gesamten Sequenzlänge, was den empirischen Erfolg der Long-Context-Inferenz erklärt.

4. Sequenzlängenunabhängige Lipschitz-Schranken

Ein bedeutender theoretischer Beitrag ist die Ableitung neuer Schranken für die lokale Lipschitz-Konstante der Self-Attention, die unabhängig von der Eingangssequenzlänge ( $N$ ) sind.

Verbesserung: Diese Schranken verbessern die bisherigen Mean-Field-Schranken (Castin et al., 2024) im diskreten Fall. Die Schranken sind strikt quadratisch in der Norm des Inputs, während frühere diskrete Schranken exponentielle Faktoren enthielten.
Ausreißer: Die Analyse zeigt, dass das Vorhandensein eines massiven Ausreißers diese Schranken weiter festigen kann, indem die Konditionszahl des Attention-Heads reduziert wird.

5. Globale Architekturstabilität und Residual Stream Dynamik

Das Paper aggregiert lokale Fehlerschranken, um den gesamten tiefen Transformer zu analysieren.

Zentrale Erkenntnis: Die numerische Stabilität der Inferenz wird durch das Zusammenspiel zwischen Gewichtsmagnitude und der Wachstumsdynamik des Residual Streams bestimmt.
Skalierungsgesetze: Die Analyse validiert, dass die standardmäßige tiefenabhängige Skalierung der Residual-Projektionsgewichte (eingeführt durch GPT-2) die Propagation des relativen Rundungsfehlers bewahrt, sofern die Skalierung keinen qualitativen Übergang in der Dynamik des Residual Streams erzwingt. Wenn der Residual Stream linear auf die Gewichtsskalierung reagiert, bleibt der relative Fehler invariant.

Ergebnisse und experimentelle Validierung

Die theoretischen Schranken wurden mittels Experimenten mit dem GPT-2 XL Modell validiert, wobei zufällig initialisierte Gewichte gegen vortrainierte Gewichte verglichen wurden.

Fehlerwachstum: Bei zufällig initialisierten Modellen war das empirische Fehlerwachstum subexponentiell ( $O(e^{l^{0.24}})$ ), was konsistent mit der theoretischen Vorhersage eines subexponentiellen Wachstums ist, wenngleich die empirische Rate milder ausfiel als die Worst-Case-Schranke.
Vortrainierte Modelle: Vortrainierte Modelle zeigten ein langsames exponentielles Fehlerwachstum. Die Diskrepanz zu den polynomischen Vorhersagen wird auf die Variation der Gewichtsmagnituden mit der Tiefe in vortrainierten Modellen zurückgeführt, was die Annahme der gleichmäßigen Skalierung des Theorems verletzt.
Gewichtsskalierungsexperimente: Experimente zur Skalierung der Residual-Projektionsgewichte ( $W_O$ $W_{O}$ und $W_{down}$ $W_{d o w n}$ ) bestätigten die theoretische Hypothese:
- Im zufällig initialisierten Modell skalierte der absolute Rundungsfehler linear mit dem Gewichtsskalierungsfaktor $\xi$ .
- Im vortrainierten Modell trat ein „qualitativer Übergang“ zwischen den Skalierungsfaktoren $\xi=2$ und $\xi=5$ auf, was zu einer nicht-linearen Reaktion des absoluten Fehlers führte. Sobe der das Modell in ein neues Regime ( $\xi > 5$ ) überging, kehrte der Fehler zu einer strikt proportionalen Skalierung zurück.
- Entscheidend ist, dass in allen Fällen der relative Rundungsfehler invariant gegenüber der Skalierung blieb, es sei- denn, die Skalierung induzierte eine Bifurkation in der Dynamik des Residual Streams.

Bedeutung

Die Arbeit etabliert eine rigorose theoretische Grundlage für das Verständnis der numerischen Stabilität der Transformer-Inferenz. Ihre primäre Bedeutung liegt in:

Überbrückung von Theorie und Praxis: Sie bietet die erste umfassende deterministische Analyse von Mixed-Precision-Fehlern in Transformern und bewegt sich damit über empirische Heuristiken hinaus.
Validierung architektonischer Entscheidungen: Sie rechtfertigt mathematisch die Verwendung spezifischer Skalierungsgesetze (z. B. GPT-2 Initialisierung) und Normalisierungstechniken (z. B. RMSNorm), indem sie zeigt, dass diese die relative Fehlerpropagation unter spezifischen dynamischen Bedingungen bewahren.
Erklärung des Long-Context Erfolgs: Die abgeleiteten Schranken für Softmax mit Absorptions-Effekten bieten eine theoretische Erklärung dafür, warum LLMs trotz des Potenzials für Fehlerakkumulation lange Kontexte handhaben können, da die effektive Anzahl der beitragenden Terme aufgrund von Attention Sinks oft klein ist.
Definition von Stabilitätslimits: Die Arbeit verdeutlicht, dass numerische Stabilität nicht allein eine Funktion der Präzision oder der Gewichtsmagnitude ist, sondern intrinsisch mit dem dynamischen Verhalten des Residual Streams verknüpft ist.

Die Autoren kommen zu dem Schluss, dass, obwohl ihre Worst-Case-Schranken konservativ sein können (wie beim Vergleich mit den vortrainierten Gewichten von GPT-2 XL ersichtlich), die abgeleiteten Prinzipien bezüglich des Zusammenspiels von Gewichtsskalierung und Residual-Stream-Dynamik einen robusten Rahmen für die Analyse und das Design numerisch stabiler LLMs bieten.