🤖 machine learning

Recursive Scaling in Masked Diffusion Models

Dieses Paper stellt Recursive Masked Diffusion Models (R-MDMs) vor, welche die Parametereffizienz und Inferenzgeschwindigkeit verbessern, indem sie Rekursion als dritte Skalierungsachse hinzufügen, die es einem einzelnen Transformer ermöglicht, Ausgaben iterativ zu verfeinern, wodurch eine Leistung erzielt wird, die mit wesentlich größeren nicht-rekursiven Modellen vergleichbar ist, jedoch mit weniger Parametern und Denoising-Schritten.

Ursprüngliche Autoren: Alba Carballo-Castro, Julianna Piskorz, Paulius Rauba, Mihaela van der Schaar, Pascal Frossard

Veröffentlicht 2026-06-17

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Alba Carballo-Castro, Julianna Piskorz, Paulius Rauba, Mihaela van der Schaar, Pascal Frossard

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Die Kernidee: Schlauere Schleifen, nicht größere Gehirne

Stellen Sie sich vor, Sie versuchen, ein schwieriges Rätsel zu lösen, wie zum Beispiel ein Sudoku oder eine Matheaufgabe. Normalerweise lautet der Standardrat für Computer, wenn sie stecken bleiben: „Baue ein größeres Gehirn.“ In der Welt der KI bedeutet das, mehr Parameter hinzuzufügen (das Modell größer und komplexer zu machen) oder es länger nachdenken zu lassen (mehr Schritte).

Dieses Paper schlägt einen anderen Ansatz vor. Anstatt ein größeres Gehirn zu bauen, bringen sie dem gleichen Gehirn bei, über das Problem mehrmals hintereinander nachzudenken und seine Antwort mit jedem Durchgang zu verfeinern. Sie nennen das Recursive Scaling (Rekursive Skalierung).

Man kann es sich so vorstellen:

Der alte Weg (Scaling Up): Sie stellen ein Team von 30 verschiedenen Experten ein, die sich das Rätsel jeweils einmal ansehen.
Der neue Weg (Rekursion): Sie stellen einen Experten ein, aber Sie lassen ihn das Rätsel betrachten, eine Vermutung anstellen, einen Schritt zurücktreten, seine eigene Vermutung prüfen, sie korrigieren, noch einmal hinschauen und sie erneut korrigieren. Er macht dies 5 oder 10 Mal.

Das Paper stellt fest, dass der einzelne Experte, der in einer Schleife arbeitet, oft eine bessere Arbeit leistet als das Team von 30 Experten, obwohl der einzelne Experte viel kleiner und kostengünstiger im Betrieb ist.

Wie es funktioniert: Die „Entwurf und Politur“-Analogie

Um die Technologie zu verstehen, schauen wir uns an, wie diese KI-Modelle (genannt Masked Diffusion Models) normalerweise arbeiten:

Das Maskierungs-Spiel: Stellen Sie sich einen Satz vor, in dem einige Wörter versteckt (maskiert) sind. Die Aufgabe der KI ist es, die fehlenden Wörter alle auf einmal zu erraten.
Der Standardprozess: Die KI macht eine Vermutung. Dann deckt sie einige Wörter auf (un-masking) und rät erneut. Sie wiederholt diesen Prozess viele Male (wie das Schälen einer Zwiebel Schicht für Schicht), bis der ganze Satz enthüllt ist.

Die Innovation:
Die Autoren haben erkannt, dass die KI innerhalb jeder dieser Schichten eine kurze „Entwurf und Politur“-Sitzung abhalten kann.

Standard-KI: Macht eine Vermutung $\rightarrow$ Schält eine Schicht ab $\rightarrow$ Macht eine neue Vermutung.
Rekursive KI (R-MDM): Macht eine Vermutung $\rightarrow$ Schaut sich diese Vermutung an, kritisiert sie und verbessert sie 5 Mal $\rightarrow$ Dann wird die Schicht abgezogen.

Sie nennen dies Recursive Depth (Rekursive Tiefe). Es ist so, als würde man der KI einen „zweiten Gedanken“ oder einen „dritten Gedanken“ geben, bevor sie sich auf eine Antwort festlegt.

Warum dies ein Game-Changer ist

Das Paper testete dies bei drei Arten von Aufgaben: Sudoku (Logikrätsel), Countdown (Mathe-Rätsel) und Text8 (Schreiben von Texten). Hier ist, was sie herausfanden:

1. Das „kleine Gehirn“ gewinnt bei Logik

Bei strukturierten Rätseln wie Sudoku und Countdown war das rekursive Modell ein Superstar.

Das Ergebnis: Ein kleines Modell, das 5 Mal in einer Schleife arbeitet, war genauso gut wie (oder besser als) ein massives Modell, das 5 Mal größer ist, aber nur einmal durchläuft.
Die Analogie: Es ist wie ein Schachspieler, der 10 Züge im Kopf vorausplant, im Vergleich zu einem Spieler, der zwar ein Großmeister ist, aber nur einen einzigen Zug im Voraus denkt. Das „Looping“ ermöglichte es dem kleinen Modell, das gesamte Spielfeld zu sehen und seine Fehler zu korrigieren, während das große Modell einfach nur eine einzige, selbstbewusste, aber potenziell falsche Vermutung anstellte.

2. Den Prozess beschleunigen

Normalerweise muss man eine KI durch viele „Denoising-Schritte“ (viele Schichten des Ratens) laufen lassen, um eine perfekte Antwort zu erhalten.

Das Ergebnis: Die rekursiven Modelle erreichten qualitativ hochwertige Antworten in weniger Schritten.
Die Analogie: Stellen Sie sich vor, Sie bearbeiten ein Dokument.
- Normale KI: Schreibt einen Absatz, hält inne, bearbeitet ihn, hält inne, bearbeitet ihn erneut. Es sind 40 Runden Bearbeitung nötig, um es perfekt zu machen.
- Rekursive KI: Schreibt einen Absatz, liest ihn dann sofort 3 Mal hintereinander durch und bearbeitet ihn, bevor sie zum nächsten Satz übergeht. Sie erreicht die gleiche perfekte Qualität in nur 15 Runden.
- Vorteil: Dies spart eine enorme Menge an Rechenleistung (Zeit und Strom).

3. Der Haken: Es kommt auf die Aufgabe an

Das Paper stellt fest, dass dieser Trick am besten bei strukturierten Problemen (wie Mathe- und Logikrätseln) funktioniert, bei denen es klare Regeln und Abhängigkeiten gibt.

Das Text8-Ergebnis: Als sie diesen Ansatz bei der Erstellung von zufälligem Text (wie einem Wikipedia-Artikel) ausprobierten, schnitt das rekursive Modell bei den Standard-Mathe-Werten tatsächlich schlechter ab als das große Modell.
Die Erkenntnis: Die „Looping“-Superkraft ist großartig für das Lösen von Rätseln, bei denen man seine Arbeit gegen Regeln überprüfen muss. Für kreatives Schreiben könnte es immer noch besser sein, das Modell einfach nur größer zu machen.

Zusammenfassung der „Magie“

Das Paper führt eine neue Art der Skalierung von KI ein, die nicht nur bedeutet: „Mach es größer“.

Alte Regel: Um schlauer zu werden, füge mehr Schichten hinzu (mehr Parameter).
Neue Regel: Um schlauer zu werden, füge mehr Schleifen hinzu (lass das Modell seine eigene Arbeit verfeinern).

Indem die Autoren einem kleineren Modell erlauben, „tiefer nachzudenken“, indem es seine eigenen Ergebnisse erneut verarbeitet, erreichten sie:

Bessere Leistung bei Logikrätseln.
Weniger Schritte, die benötigt werden, um eine gute Antwort zu erhalten.
Geringere Kosten, da sie keine massiven, teuren Modelle bauen mussten.

Kurz gesagt: Baue nicht nur ein größeres Gehirn; bring dem Gehirn bei, seine Arbeit zu überprüfen.

Technisches Resümee: Rekursive Skalierung in Masked Diffusion Models

Problemstellung

Masked Diffusion Models (MDMs) haben sich als vielversprechendes Paradigma für die diskrete Sequenzgenerierung etabliert und bieten eine vollständig parallele Generierung, die im Gegensatz zur sequentiellen Natur von autoregressiven (AR) Modellen steht. Die Skalierung von MDMs zur Erzielung hochwertiger Generierung stützte sich jedoch traditionell auf zwei Achsen: die Erhöhung der Parameteranzahl (Breite/Tiefe) oder die Erhöhung der Anzahl der Denoising-Schritte ( $T$ ). Dieser Ansatz verursacht erhebliche Rechenkosten, sowohl im Training (größere Modelle) als auch in der Inferenz (mehr Forward-Passes). Während rekursive Berechnung (das mehrfache Anwenden derselben Transformation) in AR-Modellen und im überwachten Lernen zur Verbesserung der Parametereffizienz bereits vielversprechend war, bleibt sie im Kontext von MDMs weitgehend unerforscht. Die zentrale Herausforderung besteht darin, ob die rekursive Tiefe als eine dritte, orthogonale Skalierungsachse dienen kann, die die Generierungsqualität verbessert, ohne die Parameteranzahl zu erhöhen, und ob sie zusätzliche Denoising-Schritte reduzieren kann, um den Rechenaufwand zur Inferenzzeit zu senken.

Methodik

Die Autoren führen Recursive Masked Diffusion Models (R-MDMs) ein, die einen rekursiven Schlefmechanismus in das Standard-MDM-Trainingsparadigma integrieren.

Architektur

Anstatt einen $KL$-Layer-Transformer einmalig anzuwenden, nutzt das R-MDM einen geteilten $K$ -Layer-Transformer-Block $f_\theta$ , der $L$ -mal sequentiell innerhalb eines einzelnen Denoising-Schritts angewendet wird.

Parametereffizienz: Das Modell besitzt dieselbe Parameteranzahl wie ein Single-Pass- $K$ -Layer-Modell, obwohl es über eine effektive Tiefe von $K \times L$ verfügt.
Forward Pass: Gegeben ein verrauschtes Input $x_t$ , wird der Hidden State iterativ aktualisiert: $h^{(\ell)} = f_\theta(h^{(\ell-1)}, \ell, L)$ . Der Output von Loop $\ell$ dient als Input für Loop $\ell+1$ .
Step Embedding: Um dem Modell zu ermöglichen, zwischen verschiedenen Stadien der Rekursion zu unterscheiden, wird ein Step Embedding $v^{(\ell)}$ zum Hidden State hinzugefügt. Dieses Embedding wird über einen kleinen MLP aus dem normalisierten Loop-Fortschritt $s_\ell = (\ell-1)/(L-1)$ abgeleitet, was es dem Modell ermöglicht, die Berechnung basierend auf der Rekursionstiefe zu spezialisieren.

Trainingsziele

Das Paper evaluiert vier Supervisionsstrategien für die rekursiven Loops:

All-steps (ALL): Berechnet den Cross-Entropy-Loss über alle $L$ Loops gemittelt, was dichte Gradientensignale liefert (inspiriert durch Deeply Supervised Learning).
Final-step (FINAL): Überwacht nur die Logits des finalen Loops und erweitert damit die Standard-MDM-Ziele.
Weighted: Weist den Losses bei verschiedenen Loops nicht-uniforme Gewichte zu.
Truncated: Überwacht nur die finalen $k$ Loops.

Die Autoren stellen fest, dass der All-steps Loss die robusteste Performance liefert, insbesondere in Szenarien mit geringem Rechenaufwand.

Inferenz und Scheduling

Zur Inferenzzeit kann das Modell mit einer Sampling-Rekursionstiefe $L_s$ evaluiert werden, die von der Trainingstiefe $L_t$ abweicht. Die Autoren untersuchen verschiedene Trainings-Schedules für $L_t$ , einschließlich fester Tiefe, stochastischem Sampling und Curriculum-basiertem Scheduling. Ein Reverse Curriculum (Beginn mit hoher Rekursionstiefe und sukzessive Verringerung auf 1) erweist sich als überlegen, da es das Modell dazu zwingt, früh im Training iterative Strategien zur hochkapazitiven Verfeinerung zu erlernen.

Zentrale Beiträge

Einführung der rekursiven Tiefe als Skalierungsachse: Das Paper schlägt das rekursive Looping innerhalb von Denoising-Schritten als Mechanismus vor, um die effektive Modelltiefe zu erhöhen, ohne die Parameteranzahl zu steiget.
Demonstration der Parametereffizienz: Es wird gezeigt, dass R-MDMs signifikant größere Nicht-Rekursive Baselines (bis zu $5\times$ mehr Parameter) bei strukturierten Reasoning-Aufgaben erreichen oder übertreffen können.
Effizienz zur Inferenzzeit: Die Studie zeigt, dass rekursive Verfeinerung teilweise für zusätzliche Denoising-Schritte substituiert werden kann, wodurch Modelle eine hochwertige Generierung mit weniger Gesamtforder-Passes ( $T \times L$ ) erreichen können.
Aufgabenspezifische Analyse: Die Arbeit evaluiert systematisch die Trade-offs zwischen Rekursion, Parameteranzahl und Denoising-Schritten über strukturierte Aufgaben (Sudoku, Countdown) hinweg sowie über unstrukturierte Aufgaben (Text8).

Experimentelle Ergebnisse

Die Experimente wurden auf drei Datensätzen durchgeführt: Sudoku (9x9 und 25x25), Countdown (arithmetische Planung mit 3, 4 und 5 Operanden) und Text8 (Charakter-Level Sprachmodellierung).

Strukturierte Reasoning-Aufgaben (Sudoku & Countdown)

Parameter-Substitution (RQ1): Ein rekursives Modell $(K \otimes L)$ $(K \otimes L)$ erreicht konsistent die Leistung oder übertrifft eine Iso-FLOP Single-Pass-Baseline $(KL \otimes 1)$ $(K L \otimes 1)$ .
- Beispiel: Bei Sudoku 9x9 erreicht ein $(6 \otimes 5)$ -Modell (10,6M Parameter) eine Valid Puzzle Rate (VPR) von 93,6 % bei $T=5$ und übertrifft damit die Performance eines 30-lagigen Single-Pass-Modells (53,1M Parameter), welches bei gleicher Schrittanzahl nur 77,8 % erreicht.
- Beispiel: Bei Countdown-4 erreicht ein $(3 \otimes 5)$ -Modell (5,5M Parameter) eine Reaches Target Rate (RTR) von 70,2 % bei $T=20$ und übertrifft damit eine 15-lagige Baseline (26,7M Parameter), welche 69,4 % erreicht.
Schritt-Reduktion (RQ2): Rekursive Modelle benötigen weniger Denoising-Schritte, um eine Zielqualitäts-Schwelle zu erreichen.
- Ein gelooptes Modell ( $L_s=3, T=5$ ) erreicht eine 95 % Valid Puzzle Rate in 15 Gesamtforder-Passes, während ein vergleichbares Single-Pass-Modell 40 Schritte benötigt (eine 2,7-fache Reduktion des Rechenaufwands).
- Bei Sudoku 25x25 mit 80 % Maskierung erreicht ein rekursives Modell ( $L=5$ ) eine VPR von 91,8 % bei $T=1$ , während die Baseline bei dieser Schrittanzahl fast vollständig versagt.
Flexibilität: Modelle, die mit einem Reverse Curriculum ( $L_t$ abnehmend) trainiert wurden, können effektiv mit unterschiedlichen Sampling-Tiefen ( $L_s$ ) evaluiert werden, was eine flexible Zuweisung des Rechenaufwands zur Inferenzzeit ermöglicht.

Unstrukturierte Sprachmodellierung (Text8)

Auf dem Text8-Datensatz performen rekursive Modelle schlechter als Single-Pass-Baselines in Bezug auf Likelihood-basierte Metriken (NLL, Perplexity).
Eine qualitative Analyse deutet jedoch darauf hin, dass rekursive Modelle trotz schlechterer Likelihood-Scores kohärentere Texte produzieren, was darauf hindeutet, dass Standardmetriken in diesem Bereich irreführend sein können. Die Autoren merken an, dass die Vorteile der Rekursion in Aufgaben mit expliziter iterativer Struktur am deutlichsten ausgeprägt sind.

Bedeutung und Behauptungen

Das Paper behauptet, dass die rekursive Tiefe ein praktisch nützlicher Skalierungsmechanismus für MDMs ist, insbesondere für strukturierte Generierungsaufgaben. Die Bedeutung liegt in zwei Hauptbereichen:

Parametereffizienz: R-MDMs können die Leistung wesentlich größerer Modelle mit einem Bruchteil der Parameter erreichen, was hochwertige Generierung in ressourcenbeschränkten Umgebungen ermöglicht.
Recheneffizienz: Durch die Substitution von zusätzlichen Denoising-Schritten durch rekursive Verfeinerung können R-MDMs die Gesamtzahl der Forward-Passes reduzieren, die zur Inferenzzeit erforderlich sind, was den Trade-off zwischen Generierungsqualität und Latenz verbessert.

Die Autoren kommen zu dem Schluss, dass während Rekursion als mächtiger Mechanismus für die iterative Constraint-Propagation in strukturierten Domänen fungiert, ihr Nutzen in der unstrukturierten Sprachmodellierung eine offene Frage bleibt, die weiterer Untersuchung bedarf. Die Arbeit bereichert das Verständnis der Skalierung generativer Modelle über die traditionelle, auf Parameteranzahl zentrierte Sichtweise hinaus.