💬 NLP

Learning is Forgetting: LLM Training As Lossy Compression

Die Arbeit stellt Large Language Models als Verlustbehaftete Kompression dar, bei der das Lernen durch die selektive Beibehaltung relevanter Informationen erfolgt, und zeigt, dass der Grad der Kompressionsoptimalität und die darin enthaltenen Informationen die Leistung in nachgelagerten Aufgaben vorhersagen können.

Ursprüngliche Autoren: Henry C. Conklin, Tom Hosking, Tan Yi-Chern, Julian Gold, Jonathan D. Cohen, Thomas L. Griffiths, Max Bartolo, Seraphina Goldfarb-Tarrant

Veröffentlicht 2026-04-10

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Henry C. Conklin, Tom Hosking, Tan Yi-Chern, Julian Gold, Jonathan D. Cohen, Thomas L. Griffiths, Max Bartolo, Seraphina Goldfarb-Tarrant

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Geheimnis: Lernen ist eigentlich Vergessen

Stell dir vor, du hast einen riesigen Bibliothekskeller, der mit unendlich vielen Büchern gefüllt ist – das ist das Internet. Ein großes Sprachmodell (LLM) wie ChatGPT ist wie ein Student, der versucht, alle diese Bücher in einem einzigen, winzigen Notizbuch zu speichern.

Das neue Papier von Henry Conklin und seinem Team sagt etwas Überraschendes: Das Geheimnis, warum diese KI so schlau ist, liegt nicht darin, wie viel sie sich merkt, sondern wie gut sie vergisst.

Die Forscher nennen das „verlustbehaftete Kompression".

1. Die Analogie: Der MP3-Player

Stell dir vor, du hast eine riesige, unkomprimierte Audiodatei (wie ein riesiges WAV-File). Sie ist riesig und enthält jeden einzelnen Schallwellen-Detail, auch die, die das menschliche Ohr gar nicht hören kann.

Der KI-Trick: Wenn du diese Datei in ein MP3 umwandelst, wirfst du alle Töne weg, die niemand hören kann. Das Ergebnis ist viel kleiner, aber es klingt für uns immer noch perfekt.
Die KI: Genau das macht eine KI. Sie wird mit Milliarden von Texten gefüttert. Sie kann nicht alles speichern. Also wirft sie den „Lärm" weg – die unwichtigen Details – und behält nur das, was wichtig ist, um die nächste Frage zu beantworten oder den nächsten Satz zu bilden.

2. Der Tanz des Lernens: Erst füllen, dann leeren

Die Forscher haben beobachtet, wie diese KIs während des Trainings lernen. Es passiert in zwei Phasen, wie ein Tanz:

Phase 1: Der Rausch (Das Füllen): Am Anfang ist die KI wie ein Kind, das alles auf einmal aufschreiben will. Sie versucht, jede Information aus den Daten zu speichern. Sie wird „komplexer" und voller Details.
Phase 2: Die Reinigung (Das Vergessen): Sobald die KI merkt, dass sie die Aufgabe gut versteht, beginnt sie zu „vergiften". Sie fängt an, unnötige Details zu löschen. Sie komprimiert die Informationen so stark wie möglich, ohne die Fähigkeit zu verlieren, die richtige Antwort zu geben.

Das Spannende ist: Die besten KIs kommen genau an die Grenze, wo sie so viel wie möglich vergessen, aber so wenig wie möglich von ihrer Intelligenz verlieren. Sie erreichen einen „perfekten Kompressionszustand".

3. Die Größe zählt (aber nur bis zu einem Punkt)

Die Forscher haben Modelle verschiedener Größen getestet:

Die kleinen Modelle (z. B. 1 Milliarde Parameter): Sie sind wie ein kleiner Rucksack. Sie versuchen, alles zu packen, aber sie sind zu klein, um die Informationen wirklich gut zu komprimieren. Sie bleiben etwas „unordentlich" und erreichen nie den perfekten Zustand.
Die großen Modelle (z. B. 7 oder 32 Milliarden Parameter): Sie haben einen riesigen Rucksack. Sie können die Informationen so clever sortieren und komprimieren, dass sie fast perfekt werden. Sie lernen, das Wesentliche vom Unwesentlichen zu trennen.

4. Was bleibt übrig? (Der Kontext ist König)

Wenn die KI Informationen verwirft, was behält sie dann?
Stell dir vor, du liest einen Satz: „Der König saß auf dem..."

Ein einfaches Modell denkt vielleicht nur an das Wort „König".
Ein optimales Modell denkt an den Kontext: Es weiß, dass nach „König" wahrscheinlich „Thron" kommt, nicht „Apfel", weil es den ganzen Satz im Kopf hat.

Die Studie zeigt: Die klügeren Modelle speichern weniger über einzelne Wörter, aber viel mehr über den Zusammenhang (den Kontext). Sie verstehen die Geschichte hinter den Wörtern.

5. Warum ist das wichtig? (Die Vorhersage)

Das ist der coolste Teil: Die Forscher haben herausgefunden, dass sie vorhersagen können, wie gut eine KI bei Tests abschneiden wird, bevor sie die Tests überhaupt macht.

Sie müssen nur schauen, wie „gut komprimiert" die KI ist:

Ist die KI effizient? (Hat sie das Unnötige weggeworfen?)
Behält sie die richtigen Informationen (z. B. menschliche Vorlieben)?

Wenn eine KI sehr gut komprimiert ist und die „richtigen" Dinge (wie Höflichkeit oder korrekte Fakten) behalten hat, wird sie bei schwierigen Aufgaben (wie Mathe oder Logik) sehr gut abschneiden.

Zusammenfassung in einem Satz

Lernen für eine KI bedeutet nicht, alles zu speichern, sondern das Unwichtige zu vergessen, um das Wesentliche in einem winzigen, perfekten Raum zu behalten – genau wie ein guter MP3-Player, der nur die Musik spielt, die wir hören wollen, und den Rest rausfiltert.

Diejenigen, die das am besten können, sind die intelligentesten.

1. Problemstellung und Motivation

Trotz des enormen Erfolgs von Large Language Models (LLMs) bleibt das Verständnis ihrer inneren Repräsentationsräume begrenzt. Herkömmliche Interpretierbarkeitsmethoden (wie Probing oder mechanistische Analyse einzelner Neuronen) sind oft schwer auf die Skala moderner Modelle zu übertragen und bieten wenig Verbindung zu theoretischen Lernmodellen.

Die Autoren argumentieren, dass LLMs am besten als verlustbehaftete Kompression (Lossy Compression) verstanden werden können. Ähnlich wie MP3-Dateien Frequenzen entfernen, die für das menschliche Gehör irrelevant sind, lernen LLMs während des Trainings, nur die Informationen aus den Trainingsdaten zu behalten, die für die Zielaufgabe (z. B. Vorhersage des nächsten Tokens) relevant sind, und den Rest zu „vergessen".

Das zentrale Ziel der Arbeit ist es, diese Lernprozesse durch die Brille der Informationstheorie zu formalisieren und zu zeigen, wie die Struktur der Repräsentationen mit der Leistung des Modells zusammenhängt.

2. Methodik

Die Arbeit stützt sich auf die Rate-Distortion-Theorie und das Information Bottleneck (IB)-Prinzip.

Information Bottleneck (IB) Theorie:
- Das Training wird als Optimierung eines Encoders betrachtet, der Eingaben $X$ in eine Repräsentation $Z$ überführt, um Ausgaben $Y$ vorherzusagen.
- Ziel ist es, die gegenseitige Information zwischen Repräsentation und Ziel ( $I(Y; Z)$ , genannt Expressivity) zu maximieren, während die gegenseitige Information zwischen Repräsentation und Eingabe ( $I(X; Z)$ , genannt Complexity) minimiert wird.
- Der optimale Kompromiss liegt auf einer Kurve (der IB-Grenze), die durch den Trade-off-Parameter $\beta$ definiert ist. Modelle, die sich dieser Grenze nähern, sind optimal komprimiert.
Schätzung der Entropie (Soft-Entropy Estimator):
- Ein Hauptproblem bei der Anwendung der IB-Theorie auf LLMs ist die Berechnung der Entropie hochdimensionaler kontinuierlicher Embeddings. Herkömmliche Diskretisierungsmethoden sind rechnerisch nicht skalierbar.
- Die Autoren nutzen einen Soft-Entropy-Schätzer (basierend auf Conklin, 2025). Dabei werden Embeddings normalisiert, auf die Oberfläche einer Einheitskugel projiziert und mittels Softmax „weich" auf eine Menge zufällig gesampelter Ankerpunkte ( $n$ Punkte) verteilt.
- Dies ermöglicht die effiziente Berechnung der Shannon-Entropie und der gegenseitigen Information über das gesamte Modell hinweg, ohne die Speicheranforderungen exponentiell zu erhöhen.
Back-off-Strategie für Kontext:
- Um gegenseitige Informationen für Eingaben ( $X$ ) und Ausgaben ( $Y$ ) zu schätzen, verwenden die Autoren eine Back-off-Strategie (Token, Bigram, Trigram, Quadgram). Da der vollständige Kontext im Training zu spärlich ist, approximieren sie die Verteilungen basierend auf begrenzten Kontextfenstern.
- $X$ wird als vorangehender Kontext und $Y$ als nachfolgender Kontext definiert, wobei aufgrund von „Teacher Forcing" während des Trainings Gradienten aus dem gesamten nachfolgenden Kontext in die Embeddings einfließen.
Optimalitäts-Metrik:
- Die Nähe zur IB-Grenze wird durch das Verhältnis von Expressivity zu Complexity gemessen: $\text{Optimality} = \frac{I(Y; Z)}{I(X; Z)}$ . Ein Wert nahe 1,0 deutet auf optimale Kompression hin.

3. Schlüsselbeiträge und Ergebnisse

Die Studie analysiert verschiedene Open-Weight-Modelle (u. a. OLMo2, Llama, Gemma, Pythia) und deren Trainingsverläufe (Checkpoints).

Zwei-Phasen-Trainingsverlauf:
- Die Ergebnisse bestätigen die IB-Vorhersage: Das Training verläuft in zwei Phasen.
  1. Fitting-Phase: Die gegenseitige Information mit dem Ziel ( $I(Y; Z)$ ) steigt stark an, während die Komplexität ( $I(X; Z)$ ) zunimmt (das Modell lernt Muster).
  2. Kompressionsphase: Sobald der Trainingsverlust (Loss) zu saturieren beginnt, beginnt das Modell, irrelevante Informationen aus der Eingabe zu komprimieren ( $I(X; Z)$ sinkt), während die Expressivity erhalten bleibt. Das Modell nähert sich dabei der optimalen IB-Grenze an.
Skalierungseffekte:
- Größere Modelle (7B, 32B Parameter) folgen diesem Zwei-Phasen-Muster und erreichen eine hohe Nähe zur optimalen Kompressionsgrenze.
- Kleinere Modelle (unter 7B Parameter, z. B. 1B) scheitern oft in der Kompressionsphase. Sie zeigen zwar die Expansionsphase, können aber keine signifikante Kompression erreichen und oszillieren stattdessen weit entfernt von der Grenze. Dies deutet darauf hin, dass eine bestimmte Parameteranzahl notwendig ist, um komplexe Daten effektiv zu komprimieren.
Kontextuelle Information:
- Die meisten Informationen in einem Modell kodieren lokalen Kontext (Token bis Quadgram).
- Modelle, die mehr lokale Kontextinformationen (Bigram, Trigram) kodieren und weniger reine Token-Informationen speichern, performen besser in Downstream-Aufgaben. Dies spiegelt die Informationslokalität natürlicher Sprache wider.
Vorhersage von Downstream-Leistung:
- Es gibt eine signifikante Korrelation zwischen der Optimalität der Kompression und der Leistung auf sechs verschiedenen Benchmarks (MMLU Pro, BBH, Math, etc.).
- Modelle, die näher an der IB-Grenze liegen (höhere Optimalität), erzielen bessere Ergebnisse.
- Die Menge an Präferenzinformation ( $I(Z; \text{preferred})$ ), die in einem Modell gespeichert ist, ist ein noch stärkerer Prädiktor für die Leistung (insbesondere bei Aufgaben, die menschliche Präferenzen erfordern), mit einer Korrelation von $r = 0.76$ .
Konvergenz verschiedener Modelle:
- Trotz unterschiedlicher Architekturen, Trainingsdaten und Hyperparameter konvergieren diverse Open-Weight-Modelle am Ende des Trainings in der Nähe derselben IB-Grenze. Dies legt nahe, dass die Kompression als Lernmechanismus ein fundamentales Phänomen ist, das nicht von spezifischen Trainingsrezepten abhängt.

4. Signifikanz und Implikationen

Einheitliche Theorie: Die Arbeit bietet einen einheitlichen informationstheoretischen Rahmen, um zu verstehen, wie LLMs lernen. Sie verbindet das Verhalten von Modellen direkt mit etablierten Theorien des Lernens und der Kompression.
Interpretierbarkeit auf Skalenebene: Anstatt einzelne Neuronen zu analysieren, ermöglicht dieser Ansatz ein ganzheitliches Verständnis des Modells als System. Die „Optimalität der Kompression" dient als neue Metrik für die Qualität der Repräsentation.
Praktische Anwendungen:
- Training-Stopp-Kriterium: Das Erreichen der IB-Grenze könnte als Signal dienen, das Pre-Training zu stoppen, sobald keine weitere Verbesserung der Kompression mehr möglich ist.
- Modellauswahl: Checkpoints, die näher an der optimalen Kompression liegen oder mehr Präferenzinformation speichern, könnten automatisch als die besten Kandidaten für Downstream-Aufgaben identifiziert werden, ohne teure Benchmarks durchlaufen zu müssen.
Unterscheidung von Pre- und Post-Training: Die Ergebnisse deuten darauf hin, dass Pre-Training für die grundlegende semantische Kompression verantwortlich ist, während Post-Training (Alignment) spezifische Präferenzinformationen hinzufügt, ohne die Komplexität der Repräsentation drastisch zu verändern.

Fazit:
Das Paper etabliert, dass LLMs im Wesentlichen verlustbehaftete Kompressoren sind, die während des Trainings lernen, irrelevante Informationen zu verwerfen. Die Fähigkeit eines Modells, diese Kompression optimal durchzuführen, ist ein direkter Indikator für seine allgemeine Leistungsfähigkeit und Generalisierungsfähigkeit. Dies stellt einen Paradigmenwechsel dar, der LLMs in den Kontext einer langen Geschichte der Forschung zu Repräsentationslernen in der Informatik und Kognitionswissenschaft stellt.