💻 computer science

Diffusion-Proof: Recipe for Formal Theorem Proving Beyond Auto-Regressive Generation

Het artikel introduceert **Diffusion-Proof**, het eerste framework dat diffusiegebaseerde Large Language Models toepast voor formeel bewijsvoeren, wat de traditionele autoregressieve baselines overtreft door iteratieve denoising te benutten voor langetermijncoherentie en lokale correctie, waarbij significante verbeteringen op benchmarks worden bereikt en een IMO-probleem wordt opgelost dat state-of-the-art modellen niet konden oplossen.

Oorspronkelijke auteurs: Ruida Wang, Rui Pan, Pengcheng Wang, Shizhe Diao, Tong Zhang

Gepubliceerd 2026-06-19

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Ruida Wang, Rui Pan, Pengcheng Wang, Shizhe Diao, Tong Zhang

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Idee: Het repareren van de "Eénrichtingsweg" van AI-wiskunde

Stel je voor dat je probeert een zeer complexe wiskundige puzzel op te lossen, zoals een bewijs in een formele taal genaamd Lean. Deze taal is als een strikte computercode waarbij elke stap logisch perfect moet zijn. Als je één klein foutje maakt, stort het hele bewijs in.

Jarenlang waren de beste AI-modellen voor deze taak Auto-Regressieve (AR) modellen. Denk aan deze modellen als een persoon die een verhaal schrijft woord voor woord, strikt van links naar rechts. Ze kunnen niet zien wat ze over een moment gaan schrijven, en ze kunnen niet gemakkelijk een woord dat ze vijf minuten geleden hebben geschreven, terugdraaien en veranderen zonder de hele zin opnieuw te schrijven.

Het Probleem:
In lange wiskundige bewijzen veroorzaakt deze "éénrichtingsweg"-aanpak twee grote problemen:

Het Domino-effect: Als de AI vroeg in het proces een kleine fout maakt, blijft deze voortbouwen op die fout, waardoor de fout steeds erger wordt totdat het bewijs waardeloos is.
Geen "Terugkijken": Als de AI halverwege beseft dat de eerste stap fout was, kan hij die eerste stap niet gemakkelijk corrigeren. Hij moet opnieuw beginnen of op een onhandige manier proberen het einde van de zin aan te passen om bij het begin te passen.

De Oplossing: De "Diffusion"-aanpak

De auteurs van dit paper stellen een nieuwe manier voor om AI voor wiskunde te bouwen, genaamd Diffusion-Proof. In plaats van woord voor woord te schrijven, gebruiken ze een Diffusion Large Language Model (dLLM).

De Analogie: De Beeldhouwer versus de Klerk

De Oude Manier (AR-model): Stel je een klerk voor die een brief schrijft. Zodra de inkt droog is, kan hij niets meer veranderen. Als hij een woord verkeerd spelt, moet hij het doorstrepen en een slordige aantekening ernaast schrijven.
De Nieuwe Manier (Diffusion-model): Stel je een beeldhouwer voor die werkt met een blok klei. Hij voegt niet alleen klei toe; hij begint met een ruwe, ruisige klomp en verfijnt deze iteratief. Hij kan naar de hele vorm tegelijk kijken, een bult aan de linkerkant gladstrijken terwijl hij naar de curve aan de rechterkant kijkt, en fouten herstellen door de hele afbeelding te "ontruisen" (denoising) totdat deze perfect is.

In technische termen genereert het Diffusion-model tekst in blokken (groepen woorden) in plaats van enkele woorden. Het kan het begin en het einde van een zin tegelijkertijd bekijken om te bepalen wat er in het midden hoort te staan.

Hoe Diffusion-Proof werkt: Het Duo-team

Het paper introduceert een tweeledig team om deze wiskundige problemen op te lossen:

1. De Architect (dLLM-Prover-7B)

Dit is de hoofdbouwer. Omdat het de "beeldhouwer"-methode gebruikt (block diffusion), is het veel beter in planning op lange afstand.

Waarom het belangrijk is: Bij het bouwen van een lang bewijs kan de Architect het "grote plaatje" zien. Hij weet dat de laatste stap een specifieke voorwaarde vereist, dus zet hij het begin van het bewijs zo op dat het perfect bij die voorwaarde past. Hij raakt in het midden niet verdwaald omdat hij het hele tekstblok tegelijk kan "zien".

2. De Inspecteur (dLLM-Corrector-7B)

Zelfs de beste Architect maakt fouten. Soms ziet het bewijs er goed uit, maar is een specifieke stap onjuist.

De Oude Manier: Als een AR-model een fout maakt, probeert het die vaak te herstellen door meer tekst na de fout te schrijven, wat de situatie meestal alleen maar verslechtert.
De Nieuwe Manier: De Inspecteur is een speciaal model dat getraind is om tekst gaten in te vullen. Als het bewijs faalt, neemt het systeem het kapotte deel, dekt het af met een "masker" (zoals een lege ruimte) en vraat de Inspecteur om juist dat specifieke deel te herschrijven.
De Superkracht: Omdat de Inspecteur de diffusion-methode gebruikt, kan hij de tekst vóór de fout en de tekst ná de fout bekijken om precies te achterhalen wat het ontbrekende stukje moet zijn. Het is als een redacteur die de zin vóór en na een typefout leest om het juiste woord te raden, in plaats van alleen te gokken op basis van het vorige woord.

De Resultaten: De Reuzen Verslaan

De onderzoekers hebben dit nieuwe systeem getest op twee beroemde wiskundige benchmarks:

MiniF2F: Een verzameling wiskundeproblemen voor het voortgezet onderwijs en wedstrijden.
ProofNet: Een verzameling wiskundeproblemen op universitair niveau.

Het Scorebord:

Het nieuwe Diffusion-Proof systeem versloeg de beste traditionele (Auto-Regressieve) modellen die op exact dezelfde data zijn getraind.
Het loste 6,14% meer problemen op op de MiniF2F-test.
Het loste 1,61% meer problemen op op de ProofNet-test.

Het "IMO"-Moment:
Het meest opwindende resultaat was een specifere International Mathematical Olympiad (IMO) opdracht. Een zeer geavanceerd, beroemd AI-model genaamd DeepSeek-Prover-V2 (dat gebruikmaakt van "Chain of Thought"-redenering) slaagde er niet in deze op te lossen. Diffusion-Proof loste hem wel op.

Waarom? Het DeepSeek-model kwam vast te zitten in een lus van het proberen te herstellen van zijn eigen plan, maar kon de verbinding op lange afstand tussen het begin en het einde van het bewijs niet zien. Het Diffusion-model, met zijn vermogen om het hele "blok" van het bewijs in één keer te bekijken, vond de juiste weg.

Samenvatting

Het paper beweert dat door over te stappen van "woord voor woord schrijven" naar het "beeldhouwen van tekstblokken", AI veel beter kan worden in formele wiskunde. Het creëert een systeem dat beter plant over lange afstanden en zijn eigen fouten kan herstellen door naar de volledige context te kijken, en niet alleen naar het directe verleden. Dit stelt de AI in staat om moeilijke wiskundige problemen op te lossen die voorheen simpelweg onoplosbaar waren voor eerdere AI-modellen.

Technische Samenvatting: Diffusion-Proof

Probleemstelling

Formeel bewijzen vereist het handhaven van langetermijncoherentie en logische consistentie over complexe sequenties van redeneerstappen. Hoewel Large Language Models (LLM's) aanzienlijk zijn geavanceerd in dit domein, vertrouwen de huidige state-of-the-art benaderingen zwaar op Auto-Regressieve (AR) modellen. Deze modellen genereren tekst sequentieel van links naar rechts, waarbij de volgende token wordt voorspeld op basis van alleen voorgaande tokens. Deze architectuur lijdt aan inherente beperkingen, waaronder:

Foutaccumulatie: Kleine fouten in vroege tokens kunnen exponentieel cumuleren over lange sequenties, wat leidt tot logische inconsistenties.
Gebrek aan langetermijncoherentie: AR-modellen hebben moeite met het handhaven van een coherente globale planning voor een bewijs, en falen vaak in het afstemmen van intermediaire tactieken op het uiteindelijke doel.
Onvermogen tot In-filling: AR-modellen kunnen niet natuurlijk "in-filling" correcties uitvoeren (het aanpassen van een middensectie van een bewijs terwijl de omliggende context behouden blijft), wat cruciaal is voor het oplossen van lokale fouten zonder het hele bewijs te herschrijven.

Diffusion LLM's (dLLM's) hebben veelbelovende resultaten getoond bij coderen en algemene tekstgeneratie door gebruik te maken van iteratieve denoising en bidirectionele context, maar hun toepassing op formeel wiskundig redeneren is grotendeels nog onontgonnen.

Methodologie

De auteurs stellen Diffusion-Proof voor, het eerste framework dat specifiek is ontworpen om dLLM's te trainen en toe te passen voor formeel bewijzen. Het framework opereert binnen de Lean4-omgeving en maakt gebruik van een dual-model architectuur: dLLM-Prover-7B en dLLM-Corrector-7B.

1. Datacollectie en Preprocessing

Dataset: De auteurs hebben 5,5 miljoen bewijzen uit eerdere werken verzameld.
Opschoning: Ze hebben de data gestandaardiseerd met regelgebaseerde methoden om Natuurlijke Taal (NL) verklaringen, Formele Taal (FL) verklaringen en FL-bewijzen van elkaar te scheiden.
SFT Dataset: 300.000 records werden geselecteerd om een Supervised Fine-Tuning (SFT) dataset te creëren, waarbij een ratio van 1:2 tussen pure Lean-bewijzen en bewijzen met NL-annotaties werd aangehouden.
Corrector Data: Een subset van data met subdoel-decompositie (gemarkeerd door have keywords) werd verwerkt. Bewijsblokken werden gevuld met placeholder-tokens om trainingsdata te creëren voor "in-filling" correcties.

2. Modelarchitectuur en Training

Het framework is gebouwd op Fast-dLLM-V2-7B, een blokgebaseerd diffusiemodel. In tegenstelling tot traditionele dLLM's die tokens onafhankelijk maskeren, verdeelt dit model sequenties in blokken van grootte $B$ met bidirectionele aandacht die beperkt is tot individuele blokken, terwijl causale relaties tussen blokken behouden blijven.

dLLM-Prover-7B:
- Doel: Volledige bewijsgeneratie uitvoeren met langetermijn coherente tactiek-instelling.
- Training: Gefinetuned op de 300k SFT-dataset met behulp van een standaard text-to-text framework.
- Strategie: Maakt gebruik van curriculum learning, waarbij de trainingsdata wordt georganiseerd op basis van bewijskomplexiteit (toenemende bewijslengte) om de loss-curve te stabiliseren. De diffusie-blokgrootte is ingesteld op 32.
dLLM-Corrector-7B:
- Doel: Lokale bewijscorrectie uitvoeren met behulp van bidirectionele informatie.
- Training: Gefinetuned op de 128k subdoel-decompositie dataset.
- Innovatie: Introduceert een Large Block Correction methode. De diffusie-blokgrootte wordt uitgebreid van 32 naar 512. Het model is getraind om foutieve subdoel-bewijzen te vervangen door een sequentie van mask-tokens en vervolgens het blok te regenereren met behulp van de uitgebreide context (zowel prefix als suffix) om in-filling correcties uit te voeren.

3. Inference Pipeline

Generatie: De dLLM-Prover-7B genereert een volledig bewijs voor een gegeven stelling met behulp van block-diffusion generatie.
Verificatie: Het bewijs wordt geverifieerd door Lean.
Correctie: Als het bewijs de verificatie niet doorstaat maar de top-level structuur (subgoal statements) correct is, wordt de dLLM-Corrector-7B aangeroepen. Het vervangt de foutieve subdoel-bewijzen door mask-tokens en regenereert deze met een 512-token diffusieblok, waarbij de bidirectionele context wordt benut om lokale fouten te herstellen terwijl de globale coherentie behouden blijft.

Belangrijkste Bijdragen

Eerste dLLM Framework voor Theorem Proving: Diffusion-Proof is het eerste framework dat diffusiemodellen aanpast voor formeel bewijzen, waarmee de specifieke uitdagingen van langetermijncoherentie en foutcorrectie in wiskundig redeneren worden aangepakt.
Large Block Correction Training: De auteurs introduceren een nieuwe trainingsmethode die gebruikmaakt van grote diffusieblokken (512 tokens) en bidirectionele informatie om effectieve in-filling correcties mogelijk te maken, een capaciteit die inherent is aan diffusiemodellen maar ontbreekt bij AR-modellen.
Dual-Model Synergie: Het framework demonstreert een synergetische aanpak waarbij een prover verantwoordelijk is voor globale planning en een corrector voor lokale verfijning, wat beter presteert dan single-model baselines.

Experimentele Resultaten

Het framework werd geëvalueerd op MiniF2F-Test (244 problemen) en ProofNet-Test (186 problemen) met behulp van de pass@32 metriek.

Prestatiewinst: Vergeleken met een baseline AR-model (Qwen-2.5-Lean-SFT-7B) dat op exact dezelfde dataset is getraind:
- MiniF2F-Test: Diffusion-Proof behaalde 50,00% nauwkeurigheid, een absolute verbetering van 6,14% ten opzichte van de baseline (43,85%).
- ProofNet-Test: Diffusion-Proof behaalde 7,53% nauwkeurigheid, een absolute verbetering van 1,61% ten opzichte van de baseline (5,91%).
Probleemtype Analyse: Het model vertoonde significante winst in uitdagende categorieën, met name IMO (International Mathematical Olympiad) problemen, waar het verbeterde van 5,00% naar 15,00%.
Casestudy: Opvallend genoeg loste Diffusion-Proof succesvol het IMO-probleem imo_1962_p2 op, die het meer geavanceerde DeepSeek-Prover-V2-7B (uitgerust met Long Chain-of-Thought redeneren) onder pass@32 niet kon oplossen. De analyse gaf aan dat het AR-model moeite had met de langetermijn afhankelijkheden en coherente tactiek-planning die nodig waren, terwijl de diffusie-corrector succesvol de bidirectionele context gebruikte om het bewijs op te lossen.
Ablatie Studies:
- Het verwijderen van de corrector verminderde de prestaties met 1,64% op MiniF2F, wat de waarde van de correctiestap bevestigt.
- Zelfs zonder de corrector presteerde de dLLM-Prover alleen al beter dan de AR-baseline met 4,51%, wat de inherente voordelen van de diffusie-architectuur voor formeel redeneren valideert.

Betekenis en Claims

Het artikel claimt dat Diffusion-Proof de unieke voordelen van diffusiemodellen in formeel bewijzen benadrukt, specif gevol voor hun vermogen om langetermijncoherentie te handhaven en bidirectionele in-filling correcties uit te voeren.

Architecturaal Voordeel: De resultaten suggereren dat het diffusie-generatieparadigma een structureel voordeel biedt ten opzichte van AR-modellen voor taken die strikte logische consistentie over lange sequenties vereisen, zoals blijkt uit de lagere validatie loss-distributies en hogere succespercentages op complexe bewijzen.
Toekomstig Potentieel: De auteurs positioneren dit werk als een fundamentele stap, waarbij zij aantonen dat dLLM's de AR-baselines kunnen overtreffen zelfs zonder Reinforcement Learning (RL) of Long CoT redeneren. Zij merken op dat hoewel huidige beperkingen onder meer de computationele schaal en het gebrek aan RL-integratie zijn, het framework een veelbelovende richting biedt voor toekomstig onderzoek naar modellen met verbeterde redeneercapaciteiten.

De auteurs benadrukken dat hun primaire doel was om het architecturale potentieel van dLLM's te onderzoeken, in plaats van het bereiken van state-of-the-art prestaties door massale schaling of RL, waardoor de geobserveerde verbeteringen een sterk indicator zijn van de effectiviteit van het diffusie-paradigma voor formeel redeneren.