← Nieuwste papers
💬 NLP

Structuring The Future: Diffusion LLM Speculative Decoding via Calibrated Draft Graphs

Het artikel introduceert Spiffy, een speculatief decoderingsalgoritme dat de inferentie van Diffusion LLM's versnelt door gebruik te maken van gekalibreerde, dynamisch geprunte gerichte draft-grafen om significante reducties in modelinferenties en token-generatiesnelheden te bereiken, terwijl de oorspronkelijke outputdistributie bewezen behouden blijft.

Oorspronkelijke auteurs: Sudhanshu Agrawal, Risheek Garrepalli, Raghavv Goel, Christopher Lott, Fatih Porikli, Mingu Lee

Gepubliceerd 2026-06-12
📖 6 min leestijd🧠 Diepgaand

Oorspronkelijke auteurs: Sudhanshu Agrawal, Risheek Garrepalli, Raghavv Goel, Christopher Lott, Fatih Porikli, Mingu Lee

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je probeert een enorme, complexe puzzel op te lossen.

De Oude Manier (Autoregressieve Modellen):
De meeste huidige AI-modellen werken als een zeer zorgvuldige, langzame puzzeloplosser. Ze plaatsen één stukje, controleren of het past, en plaatsen dan het volgende, controleren weer, enzovoort. Ze kunnen slechts één stukje tegelijk doen. Zelfs als ze superintelligent zijn, zitten ze vast in een "één stap per keer"-ritme, wat hen traag maakt.

De Nieuwe Manier (Diffusiemodellen):
Onlangs is er een nieuw type AI aangekomen: een "Diffusion LLM". Denk aan dit model als een schilder die naar het hele canvas tegelijk kan kijken. In plaats van penseelstreek na penseel te schilderen, ziet deze schilder de hele afbeelding en kan hij theoretisch veel delen van de afbeelding tegelijkert perfect maken. Dit heeft de potentie om ongelooflijk snel te zijn.

Het Probleem:
In de praktijk zijn deze "schilders" echter te voorzichtig. Om ervoor te zorgen dat het plaatje perfect is, mogen ze momenteel slechts één klein plekje op het canvas tegelijk tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkerts tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkertijd tegelijkert

Verdrinkt u in papers in uw vakgebied?

Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.

Probeer Digest →