🤖 machine learning

Multi-Block Diffusion Language Models

Dit artikel introduceert Multi-Block Diffusion Language Models (MBD-LMs), die de kloof tussen training en inferentie bij diffusie-gebaseerde tekstgeneratie overbruggen via een nieuwe Multi-block Teacher Forcing-strategie en een geoptimaliseerd Block Buffer-decoderingsalgoritme, waarmee significante winst wordt behaald in zowel generatiesnelheid (Tokens Per Forward pass) als nauwkeurigheid.

Oorspronkelijke auteurs: Yijie Jin, Jiajun Xu, Yuxuan Liu, Chenkai Xu, Yi Tu, Jiajun Li, Dandan Tu, Xiaohui Yan, Kai Yu, Pengfei Liu, Zhijie Deng

Gepubliceerd 2026-06-30

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Yijie Jin, Jiajun Xu, Yuxuan Liu, Chenkai Xu, Yi Tu, Jiajun Li, Dandan Tu, Xiaohui Yan, Kai Yu, Pengfei Liu, Zhijie Deng

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Plaatje: Het "Assemblagelijn"-knelpunt oplossen

Stel je een fabriek voor die auto's (tekst) bouwt.

De Oude Manier (Autoregressief): De fabriek bouwt één auto tegelijk. Ze voltooien eerst de motor, dan de wielen, dan de lak, en pas daarna beginnen ze aan de volgende auto. Het is betrouwbaar, maar traag.
De Diffusion-manier (De Nieuwere Fabriek): In plaats van vanaf nul te beginnen, begint deze fabriek met een stapel schroot (willekeurige ruis) en verfijnt dit geleidelijk tot een perfecte auto. Dit stelt hen in staat om aan veel onderdelen van de auto tegelijkertijd te werken (parallel verwerken), wat veel sneller is.

Het Probleen:
De huidige "Diffusion-fabriek" (genaamd Block Diffusion) heeft een slimme truc: het bouwt auto's in batches (blokken). Echter, er is nog steeds een knelpunt. Het voltooit één batch, plaatst deze in opslag (caching), en begint dan pas aan de volgende batch. Het is als een estafette waarbij de loper volledig moet stoppen om het stokje over te dragen voordat de volgende loper überhaupt kan beginnen met rennen. Dit creëert "wachtbellen" waarin de fabriek stilzit.

De Oplossing: De "Multi-Block" Estafette

De auteurs stellen een nieuwe methode voor genaamd Multi-Block Diffusion (MBD).

De Analogie: De Overlappende Estafette
Stel je een estafette voor waarbij de lopers niet wachten tot de vorige loper de finishlijn passeert voordat zij beginnen.

Loper A is bezig met zijn laatste ronde.
Loper B is al aan het sprinten op de volgende ronde.
Loper C staat klaar in de volgende baan.

Ze rennen allemaal tegelijkertijd! Dit is Multi-Block Diffusion. In plaats van één blok tekst te voltooien voordat het volgende blok begint, verfijnt het model meerdere tekstblokken gelijktijdig. Dit creëert een "pipeline" waar constant werk wordt verricht, wat het proces drastisch versnelt.

De Hindernis: Training versus de Realiteit

Er was een groot probleem bij het proberen hiervan.

De Training: De modellen werden getraind als een strenge leraar (Teacher Forcing). De leraar liet de student zien: "Hier is een perfecte paragraaf, corrigeer nu deze ene rommelige zin." De student heeft nooit geoefend met het corrigeren van meerdere rommelige zinnen tegelijkertijd.
De Realiteit: Wanneer het model probeerde de "Multi-Block" race te rennen (het corrigeren van 2 of 3 blokken tegelijk), struikelde het omdat het die specifieke situatie nooit had geoefend. Het was alsof je een student vraagt die alleen individuele wiskundeproblemen heeft geoefend, om plotseling een complexe vergelijking met drie variabelen tegelijk op te lossen.

De Oplossing: "Multi-Block Teacher Forcing" (MultiTF)

Om dit op te lossen, creëerden de auteurs een nieuwe trainingsmethode genaamd Multi-block Teacher Forcing (MultiTF).

De Analogie: De Simulatie-oefening
In plaats van de student alleen één rommelige zin te laten zien, laat de leraar nu een hele rij rommelige zinnen zien (een "ruisgroep") en zegt: "Los al deze zinnen tegelijkertijd op."

Ze maken de zinnen niet alleen op een voorspelbare manier rommelig; ze maken ze op een chaotische, realistische manier die overeenkomt met wat er tijdens de werkelijke race gebeurt.
Deze "oefening" leert het model hoe het meerdere tekstblokken gelijktijdig moet afhandelen zonder in de war te raken.

De Motor: De "Block Buffer"

Zelfs met een getraind model is het draaien hiervan op een computer lastig. Computers houden ervan om met vaste formaten te werken (zoals een dienblad met precies 4 vakjes). Als je een nieuw blok dynamisch wilt toevoegen, moet de computer stoppen en alles herordenen, wat het proces vertraagt.

De Analogie: Het Vaste Dienblad
De auteurs hebben een speciale "Block Buffer"-mechanisme gebouwd.

Stel je een lopende band voor met 4 vaste vakjes.
In plaats van een nieuw vakje toe te voegen wanneer je dat nodig hebt, activeer je gewoon een leeg vakje dat er al was.
Wanneer een blok voltooid is, glijdt het van de band naar een "opslagkluis" (de cache), en een nieuw leeg vakje glijdt aan de achterkant naar binnen.
Dit houdt de grootte van de lopende band exact gelijk, waardoor de computer op maximale snelheid kan draaien zonder te stoppen om de band te herordenen.

De Resultaten: Sneller en Slimmer

Het paper heeft dit getest op wiskunde- en programmeertaken. Dit is wat ze vonden:

Snelheid: De nieuwe methode (MBD) verwerkt aanzienlijk meer "tokens" (woorden/ideeën) per seconde dan de oude methode.
- Analogie: Als de oude fabriek 3 auto's per uur maakte, maakt de nieuwe fabriek 6 auto's per uur.
Kwaliteit: Meestal, wanneer je probeert sneller te gaan, maak je meer fouten. Echter, omdat ze het model specifiek hebben getraind voor deze "Multi-Block"-stijl (met behulp van MultiTF), maakte de nieuwe fabriek niet alleen sneller, maar maakte hij ook minder fouten dan de oude fabriek.
Compatibiliteit: Deze nieuwe methode werkt goed samen met andere snelheid-verhogende trucs (zoals DMax) die al werden gebruikt, waardoor ze samenwerken om het systeem nog sneller te maken.

Samenvatting

Het paper introduceert een manier om AI-tekstgeneratoren sneller te maken door ze meerdere tekstblokken te latengelijkertijd te verwerken. Ze hebben dit opgelost door:

De AI te trainen om meerdere blokken tegelijk te verwerken (MultiTF).
Een computersysteem te bouwen dat de werklast constant en efficiënt houdt (Block Buffer).

Het resultaat is een tekstgenerator die zowel sneller als nauwkeuriger is dan voorgaande versies.

Technisch overzicht: Multi-Block Diffusion Language Models (MBD-LMs)

1. Probleemstelling

Diffusion Language Models (DLMs) bieden native parallelle decodering als alternatief voor autoregressieve generatie, maar kampen historisch gezien met inefficiënte serving door een gebrek aan KV-caching en ondersteuning voor generatie met dynamische lengtes. Recente Block Diffusion Language Models (BD-LMs) hebben dit aangepakt door blok-causale generatie te introduceren, wat Single-Block Diffusion (SingleBD) mogelijk maakt. In SingleBD decodeert het model één ruisachtig blok geconditioneerd op een schone, gecachte prefix, wat KV-caching en intra-blok parallellisme mogelijk maakt. Echter, blokken worden nog steeds sequentieel verwerkt, wat leidt tot "storing bubbles" waarbij het systeem wacht om een voltooid blok te cachen voordat het volgende blok wordt gedecodeerd, wat inter-blok parallellisme blokkeert.

Hoewel Discrete Diffusion Forcing (D2F) zichtbaarheid tussen meerdere ruisachtige blokken introduceerde om Multi-Block Diffusion (MultiBD) en inter-blok parallellisme mogelijk te maken, blijft er een significante train-inference mismatch bestaan. D2F traint op lange, monotone ruisachtige suffixen, terwijl praktische MultiBD-inferentie opereert op een begrensde running-set van opeenvolgende blokken met heterogene slot-wise ruispatronen. Bestaande BD-LMs getraind onder Teacher Forcing (TF) of D2F sluiten niet aan bij deze specifieke inferentie-toestanden, wat leidt tot suboptimale prestaties bij het proberen te decoderen van meerdere blokken gelijktijdig. Bovendien vertrouwen naïeve MultiBD-implementaties vaak op dynamische inputvormen, die incompatibel zijn met statische vorm-executiemechanismen zoals CUDA Graph capture, wat de praktische winst in throughput belemmert.

2. Methodologie

Het artikel stelt Multi-Block Diffusion Language Models (MBD-LMs) voor, een verenigd framework en trainingsstrategie om de kloof tussen bestaande BD-LMs en efficiënte MultiBD-inferentie te overbruggen.

2.1 Verenigde Formulering: MBD-LMs

De auteurs definiëren MBD-LMs als een generalisatie van BD-LMs waarbij een running-set ( $R_s$ ) van opeenvolgende blokken gelijktijdig wordt gedecodeerd. In tegen tegenstelling tot SingleBD (waar $|R_s|=1$ ) of volledige sequentie D2F, opereren praktische MBD-LMs in een begrensd intermediair regime waar $|R_s|$ klein is (bijv. 2–4 blokken) om een balans te vinden tussen parallellisme en computationele efficiëntie.

2.2 Multi-block Teacher Forcing (MultiTF)

Om de trainings-toestanden af te stemmen op het begrensde running-set inferentie-regime, introduceren de auteurs Multi-block Teacher Forcing (MultiTF), een post-training methode voor bestaande BD-LMs.

Noise-Group Constructie: In plaats van één blok te corrumperen (TF) of een lange monotone suffix (D2F), construeert MultiTF noise-groups: begrensde, opeenvolgende groepen van ruisachtige blokken geconditioneerd op een schone prefix.
Group Layouts: De trainingsdata wordt gepartitioneerd met behulp van zowel systematische layouts (het enumereren van alle verschuivingen en groepsgroottes tot een maximale $G_{max}$ ) als random layouts om diverse dekking van running-set groottes en blok-relatieve posities te garanderen.
Chain-Uniform Noise Scheduler: Binnen elke noise-group gebruikt MultiTF een chain-uniform noise scheduler. In tegen tegenstelling tot de monotone planning van D2F, samplet deze methode een groep-niveau vloer en samplet vervolgens de ruisratio van elk opeenvolgend blok geconditioneerd op de ratio van het vorige blok. Dit creëert heterogene slot-wise noise gaps die beter overeenkomen met de empirische ruispatronen die tijdens MultiBD-inferentie worden waargenomen.
Group-Aware Dual-Stream Mask: Een gespecialiseerde attention mask staat ruisachtige blokken binnen een groep toe om naar elkaar te kijken (attenden), terwijl de blok-causale zichtbaarheid naar de schone prefix behouden blijft, wat informatielekken van toekomstige ruisachtige tokens naar de schone prefix voorkomt.

2.3 Geoptimaliseerde Inferentie Engine: Block Buffer

Om praktische, high-throughput MultiBD-inferentie mogelijk te maken, ontwerpen de auteurs een geoptimaliseerde pipeline gebaseerd op het Block Buffer mechanisme:

Static-Shape Execution: In plaats van blokken dynamisch aan de input toe te voegen (wat CUDA Graph compatibiliteit verbreekt), houdt de engine een vaste fysieke buffer ( $N_{buf}$ ) aan.
State Transitions: Blokken binnen de buffer doorlopen vier toestanden: dummy (inactief), active (wordend gedecodeerd), to-cache (voltooid maar nog niet gecached), en in-cache (vastgelegd in de KV-cache).
Mechanisme: Toekomstige blokken komen in de buffer door bestaande dummy slots te activeren in plaats van de inputsequentie uit te breiden. Voltooide blokken worden vastgelegd in de KV-cache en vervangen door nieuwe dummy slots aan de staart. Dit behoudt de statische inputvorm die vereist is voor efficiënte GPU-executie, terwijl de logische running-set voor inter-blok parallellisme behouden blijft.
Prefix Cache Preservatie: Dit ontwerp scheidt strikt de onveranderlijke gecachte prefix van de actieve buffer, wat zorgt voor compatibiliteit met standaard BD-LM prefix caching semantiek, wat native D2F vaak schendt.

3. Belangrijkste Bijdragen

Verenigde MBD-LM Formulering: Het artikel formuleert MBD-LMs als een verenigd framework geparametriseerd door een begrensde running-set, waarbij praktische MultiBD wordt geïdentificeerd als een intermediair regime tussen SingleBD en volledige sequentie D2F.
MultiTF Post-Training: Een nieuwe trainingsstrategie die BD-LMs afstemt op MultiBD-inferentie door te trainen op begrensde noise-groups met heterogene ruispatronen, wat de train-inference mismatch aanzienlijk vermindert.
Geoptimaliseerde Inferentie Engine: Een Block Buffer-gebaseerde pipeline die static-shape executie voor CUDA Graphs mogelijk maakt, prefix KV-caching behoudt, en het decoderen overlapt met het cachen om wall-clock snelheidswinsten te behalen.

4. Experimentele Resultaten

De auteurs evalueerden MBD-LMs op wiskundige redeneringsbenchmarks (GSM8K, MATH500) en code-generatie (MBPP+, HumanEval+) benchmarks met behulp van de LLaDA2 en SDAR modelfamilies.

Parallellisme en Accuraatheid: MBD-LLaDA2-Mini verhoogde de gemiddelde Tokens Per Forward pass (TPF) van 3.47 (SingleBD) naar 6.19 (+78.4%) terwijl de gemiddelde accuratesse verbeterde van 79.95% naar 81.03%.
Combinatie met DMax: Wanneer gecombineerd met de DMax decoding strategie, bereikte MBD-LLaDA2-Mini-DMax een gemiddelde TPF van 9.34 (een +47.1% verbetering ten opzichte van SingleBD DMax) met slechts een daling in accuratesse van 1.02%.
Throughput (TPS): De geoptimaliseerde inferentie engine vertaalde TPF-winsten naar wall-clock throughput. MBD-LLaDA2-Mini-DMax bereikte gemiddeld 926.67 TPS, vergeleken met 779.49 TPS voor de SingleBD DMax baseline.
Ablatie Studies:
- Train-Inference Alignment: Training-vrije MultiBD (het toepassen van MultiBD-inferentie op ongewijzigde modellen) verbeterde de TPF maar degradeerde de accuratesse. MultiTF post-training herstelde en verbeterde de accuratesse, wat de noodzaak van state alignment bevestigt.
- Scheduler Design: De voorgestelde chain-uniform scheduler presteerde beter dan D2F-stijl monotone schedulers en andere uniforme varianten, wat het belang van heterogene ruis-gaps benadrukt.
- Layout Diversiteit: Het combineren van systematische en random group layouts leverde de beste balans tussen TPF en accuratesse op.

5. Significantie

Het artikel betoogt dat betrouwbare en efficiënte Multi-Block Diffusion een holistische aanpak vereist die zowel training-time state alignment als inference-time systeemondersteuning combineert.

Het demonstreert dat het simpelweg toepassen van MultiBD-inferentie op bestaande modellen onvoldoende is vanwege distributionele mismatches in ruispatronen en running-set groottes.
Het bewijst dat MBD-LMs inter-blok parallellisme kunnen bereiken zonder de voordelen van KV-caching en prefix reuse op te offeren die BD-LMs efficiënt maken.
Het werk vestigt dat de "bounded running-set" het praktische ideale punt is voor diffusie-gebaseerde generatie, wat een levensvatbaar pad biedt om DLMs te versnellen voorbij de sequentiële bottlenecks van SingleBD, zonder de complexiteit en cache-incompatibiliteit van volledige sequentie-diffusie.