🤖 machine learning

Support-Proximity Augmented Diffusion Estimation for Offline Black-Box Optimization

Dit artikel introduceert SPADE, een nieuw raamwerk voor offline black-box optimalisatie dat gebruikmaakt van een op diffusie gebaseerd forward-surrogaatmodel, versterkt met gekalibreerde schatting en regularisatie op basis van steunpunt-nabijheid, om effectief uitdagingen buiten de verdeling aan te pakken en state-of-the-art prestaties te behalen.

Oorspronkelijke auteurs: Yonghan Yang, Ye Yuan, Zipeng Sun, Linfeng Du, Bowei He, Haolun Wu, Can Chen, Xue Liu

Gepubliceerd 2026-05-13

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Yonghan Yang, Ye Yuan, Zipeng Sun, Linfeng Du, Bowei He, Haolun Wu, Can Chen, Xue Liu

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een architect bent die probeert de meest efficiënte brug ter wereld te ontwerpen. Je hebt een enorme, stoffige bibliotheek vol met blauwdrukken van bruggen die al zijn gebouwd, samen met een scorekaart voor hoe goed elke brug heeft gepresteerd. Je kunt echter geen nieuwe brug bouwen om deze te testen; je hebt alleen de oude blauwdrukken om van te leren. Dit is de uitdaging van Offline Black-Box Optimalisatie: het vinden van het beste nieuwe ontwerp met uitsluitend een statische geschiedenis van eerdere pogingen.

Het artikel introduceert een nieuwe methode genaamd SPADE (Support-Proximity Augmented Diffusion Estimation) om dit op te lossen. Hieronder wordt uitgelegd hoe dit werkt, via eenvoudige analogieën.

Het Probleem: De "Hallucinerende" Architect

Wanneer je probeert te leren van oude blauwdrukken om iets nieuws te ontwerpen, loop je tegen twee valkuilen aan:

De "Gokspel"-valkuil: Als je probeert terug te werken vanuit een "perfecte score" naar een ontwerp, kun je een blauwdruk bedenken die er op papier geweldig uitziet, maar fysiek onmogelijk is (zoals een brug van glas). Dit wordt een "ill-posed" probleem genoemd.
De "Overmoedige"-valkuil: Als je probeert de score van een nieuw ontwerp te voorspellen op basis van oude, kan je computer overmoedig worden. Het kan een vreemd, onzinnig ontwerp bekijken (een dat er totaal niet uitziet als de bruggen in je bibliotheek) en zeggen: "Dit wordt een 10/10!" omdat het nog nooit zoiets heeft gezien. In werkelijkheid zou dat ontwerp waarschijnlijk instorten. Dit is het "Out-of-Distribution"-probleem.

De Oplossing: SPADE

SPADE is een nieuwe manier om een computer te leren een slimme, voorzichtige en accurate "scorevoorspeller" te zijn. In plaats van slechts één getal te raden, maakt het gebruik van een Diffusiemodel.

Stel je een Diffusiemodel voor als een beeldhouwer die begint met een blok ruis en langzaam de stof wegkapt om een vorm te onthullen. In dit geval begint de computer met een willekeurige gok van een score en verfijnt deze langzaam totdat deze overeenkomt met het ontwerp dat je hebt gegeven.

SPADE voegt twee speciale "regels" toe aan deze beeldhouwer om het perfect te maken voor optimalisatie:

1. De "Realiteitscheck"-regel (Gecalibreerde Diffusie-estimatie)

Stel je een leraar voor die een toets van een student corrigeert. Een standaardcomputer zou gewoon kunnen zeggen: "Dit ontwerp krijgt een 90." Maar is die 90 accuraat? Is deze consistent met andere ontwerpen?
SPADE voegt een Calibratie-stap toe. Het dwingt de computer om:

Het gemiddelde goed te krijgen: Als de computer zegt dat een ontwerp goed is, moet het in werkelijkheid gemiddeld goed zijn, niet alleen geluk hebben.
De rangschikking goed te krijgen: Als Ontwerp A beter is dan Ontwerp B in de oude blauwdrukken, moet de computer voorspellen dat A ook beter is dan B in de nieuwe ontwerpen.
Analogie: Het is als ervoor zorgen dat de leraar niet zomaar willekeurige cijfers geeft, maar echt het verschil begrijpt tussen een "A"-werkstuk en een "C"-werkstuk.

2. De "Blijf in de Bibliotheek"-regel (Support-Proximity Regularisatie)

Dit is het meest kritieke deel. De computer moet weten wanneer het te ver afwijkt van de bekende blauwdrukken.

Het Concept: Het artikel maakt gebruik van een techniek genaamd k-Nearest Neighbors (kNN). Stel je voor dat je staat in een drukke zaal (de bibliotheek van goede ontwerpen). Als je omringd bent door mensen, ben je veilig. Als je alleen staat op een leeg veld, ben je in gevaar.
Het Mechanisme: Als de computer probeert een ontwerp te evalueren dat ver weg ligt van elke bekende blauwdruk (staand op het lege veld), zegt SPADE automatisch: "Stop! Dit is riskant."
De Straf: Het straft de computer door de voorspelde score te verlagen en de "onzekerheid" te verhogen (waardoor de computer zegt: "Ik weet het niet zeker, dit kan vreselijk zijn").
Analogie: Het is als een veiligheidsbewaker die je stopt van het af te lopen van een klif. Zelfs als het uitzicht geweldig lijkt, zegt de bewaker: "Je bent te ver van het pad; ga daar niet heen."

Hoe het het Beste Ontwerp Vindt

Zodra de computer is getraind met deze twee regels, gokt het niet zomaar één ontwerp. Het voert een zoektocht uit (zoals een genetisch algoritme) om het ontwerp te vinden met de hoogste "Lower Confidence Bound" (onderste betrouwbaarheidsgrens).

Stel je dit voor als het zoeken naar de veiligste hoge score. De computer zoekt naar ontwerpen die:

Een hoge voorspelde score hebben (Hoge Beloning).
Dicht bij de bekende blauwdrukken liggen (Laag Risico).

Het negeert ontwerpen die een hoge score hebben maar ver weg liggen van de bibliotheek, omdat die waarschijnlijk "hallucinaties" zijn die in de echte wereld zullen falen.

De Resultaten

De auteurs hebben SPADE getest op zes verschillende real-world problemen, waaronder:

Het ontwerpen van betere robotlichamen (zodat ze beter kunnen lopen of kruipen).
Het ontwerpen van supergeleiders (materialen die elektriciteit geleiden met nul weerstand).
Het optimaliseren van hoe data wordt gemengd om Large Language Models (LLM's) te trainen.

In elk geval versloeg SPADE de vorige beste methoden. Het vond ontwerpen die hoger scoorden dan iets in de oorspronkelijke bibliotheek, maar in tegenstelling tot andere methoden liet het zich niet bedriegen door "nep"-hoge scores. Het vond de "echte" winnaars.

Samenvatting

SPADE is een slimme tool die ingenieurs en wetenschappers helpt de beste nieuwe ontwerpen te vinden met uitsluitend oude data. Dit doet het door een "beeldhouwer" (diffusiemodel) te gebruiken die twee dingen wordt geleerd: wees accuraat in je voorspellingen en wandel nooit te ver weg van wat je kent. Dit zorgt ervoor dat de nieuwe ontwerpen die het voorstelt niet alleen wiskundig slim zijn, maar ook daadwerkelijk betrouwbaar en veilig.

Technische Samenvatting: Support-Proximity Augmented Diffusion Estimation (SPADE) voor Offline Black-Box Optimalisatie

Probleemstelling
Offline black-box optimalisatie (BBO) streeft naar het ontdekken van nieuwe ontwerpen met hoge eigenschapsscores, uitsluitend gebruikmakend van een statische dataset van eerdere evaluaties, zonder toegang tot een ground-truth-orakel voor verificatie. Deze setting komt veel voor in domeinen waar online datacollectie onaanvaardbaar duur of gevaarlijk is, zoals proteïneontwerp, DNA-sequentieoptimalisatie en het afstemmen van hardware-accelerators. De kernuitdaging in offline BBO is het extrapolatieprobleem buiten de verdeling (out-of-distribution, OOD): optimalisatiealgoritmes hebben de neiging om epistemische fouten in surrogate-modellen te exploiteren en aan te trekken naar adversariële gebieden waar de prestaties worden overschat.

Bestaande benaderingen vallen over het algemeen in twee paradigma's met onderscheidende beperkingen:

Inverse Methoden: Deze modelleren de conditionele ontwerpverdeling $p(x|y)$ om kandidaten te genereren voor hoge doelscores. Het leren van de inverse mapping is echter vaak een slecht gesteld één-op-veel-probleem, wat leidt tot trainingsmoeilijkheden en mode-collapse.
Forward Methoden: Deze leren een surrogate $y \approx f_\theta(x)$ om het zoekproces te sturen. Standaard regressiemodellen (bijv. deterministische neurale netwerken) slagen er vaak niet in om de complexe distributieonzekerheid te vangen die nodig is om OOD-risico's te detecteren. Hoewel ensemble- of Bayesiaanse methoden bestaan, kunnen deze rekenkundig intensief zijn en moeilijk schaalbaar zijn. Bovendien is het simpelweg vervangen van een regressor door een diffusiemodel onvoldoende, aangezien standaard diffusietraining zich richt op het vangen van de trainingsdistributie zonder de gekalibreerde verwachte waarden of globale rangschikkingsnauwkeurigheid te garanderen die noodzakelijk zijn voor effectieve optimalisatie.

Methodologie: SPADE
De auteurs stellen SPADE (Support-Proximity Augmented Diffusion Estimation) voor, een unificerend kader dat forward-surrogatmodellering herdenkt via conditionele generatieve modellering. SPADE modelleert de forward-likelihood $p(y|x)$ met behulp van een diffusiemodel, versterkt door twee synergetische modules om aan de specifieke behoeften van optimalisatie te voldoen:

Gekalibreerde Diffusieschatting:
Om ervoor te zorgen dat het diffusiemodel als een betrouwbare surrogate dient, dwingt deze module globale consistentie af in statistische momenten en paarsgewijze rangschikkingen. Het introduceert een kalibratieverlies dat omvat:
- Matching van eerste-orde momenten: Het verankeren van de voorspellende gemiddelde aan de ground truth.
- Rangconsistentie: Het afdwingen dat de topologie van de surrogate overeenkomt met het ware objectiviteitslandschap door het straffen van incorrecte paarsgewijze ordeningen van ontwerpen.
  Dit overbrugt de kloof tussen standaard ruisvoorspellingsdoelstellingen en de globale statistieken die nodig zijn voor optimalisatie.
Support-Proximity Regularisatie:
Om het OOD-probleem aan te pakken, internaliseert SPADE de data-manifold-beperking $p(x)$ direct in het likelihood-model zonder een apart generatief model te trainen. Het maakt gebruik van een niet-parametrische k-nearest neighbor (kNN) dichtheidsschatting om de datadrag te meten.
- Mechanisme: Voor ontwerpen die ver van de data-manifold verwijderd zijn (lage dichtheid), straft de regularisatie de surrogate expliciet door krimp van het gemiddelde (het voorspellen van lagere scores) en inflatie van de variantie (het vergroten van de onzekerheid) te induceren.
- Theoretische Equivalentie: De auteurs bewijzen dat deze geometrische regularisatie in eerste orde equivalent is aan het maximaliseren van een Bayesiaanse posterior $p(x|y) \propto p(y|x)p(x)$ . Specifiek wordt aangetoond dat het maximaliseren van een support-bewuste acquisitiefunctie equivalent is aan het optimaliseren van het gezamenlijke doel van nut (likelihood) en a-priori-kans.

Optimalisatiestrategie
Zodra de surrogate is getraind, hanteert het kader een op acquisitie gebaseerde optimalisatiestrategie. In tegenstelling tot deterministische methoden die gebruikmaken van gradiëntascent, maakt SPADE gebruik van een probabilistische surrogate om een globaal zoekproces mogelijk te maken. Het hanteert de Lower Confidence Bound (LCB) als acquisitiefunctie, die de verwachte prestatie en de epistemische onzekerheid in evenwicht brengt. De optimalisatie wordt uitgevoerd met behulp van een Evolutionair Algorithm (EA) dat is geïnitieerd met hoogscorende zaden uit de dataset.

Belangrijkste Bijdragen

Forward Diffusiemodellering: Het paper onderzoekt het potentieel van diffusiemodellen voor forward-surrogatmodellering ( $p(y|x)$ ), en toont hun superioriteit aan ten opzichte van deterministische regressie in het vangen van complexe voorspellende distributies (heteroscedasticiteit en multi-modale verdeling) voor offline BBO.
Gekalibreerde Diffusieschatting: De introductie van een module die momentmatching en paarsgewijze rangschikkingsregularisatie integreert, waardoor het diffusietrainingsdoel effectief wordt toegespitst op optimalisatie-eisen.
Support-Proximity Regularisatie: Een nieuw mechanisme om data-manifold-beperkingen af te dwingen via kNN-gebaseerde dichtheidsschatting, met een theoretisch bewijs dat de equivalentie aantoont met het maximaliseren van het gezamenlijke nut en de a-priori-kans.
State-of-the-Art Prestaties: Empirische validatie die aantoont dat SPADE superieure resultaten behaalt over diverse benchmarks.

Experimentele Resultaten
De auteurs evalueerden SPADE op zes taken uit de Design-Bench-suite (die continue domeinen zoals Superconductor, Ant Morphology en D'Kitty Morphology omvatten, en discrete domeinen zoals TF Bind 8 en TF Bind 10) en een LLM Data Mixture-optimalisatiebenchmark.

Prestaties: SPADE behaalde state-of-the-art prestaties, met de beste gemiddelde rang (2,8) en mediane rang (1,5) onder 24 geëvalueerde methoden. Het behaalde top-2 genormaliseerde maximumscores op 5 van de 6 taken.
Robuustheid: Op continue taken toonde SPADE uitzonderlijke extrapolatiecapaciteiten met lage variantie, en vermijdt het de instabiliteit die wordt waargenomen bij methoden zoals CMA-ES. Op discrete taken overtrof het inverse generatieve methoden (die vaak lijden aan mode-collapse) en standaard ensemble-methoden, met name op de complexe TF Bind 10-taak.
Ablatiestudies: Experimenten bevestigden dat zowel de module voor Gekalibreerde Diffusieschatting als die voor Support-Proximity Regularisatie essentieel en complementair zijn; het verwijderen van een van beide resulteerde in prestatiedegradatie ten opzichte van het volledige kader.

Betekenis en Claims
Het paper claimt dat SPADE een nieuwe state-of-the-art benchmark vestigt in offline BBO door effectief de exploratie van hoogscorende gebieden in evenwicht te brengen met rigoureuze support-proximity-beperkingen. Door forward-modellering te verenigen met Bayesiaanse inferentieprincipes via geometrische regularisatie, produceert het kader ontwerpen die niet alleen hoogpresterend zijn, maar ook fysiek of biologisch plausibel, waardoor "reward hacking" wordt tegengegaan en de betrouwbaarheid in OOD-gebieden wordt verbeterd. De auteurs positioneren dit werk als een stap richting veiligere en robuustere optimalisatiesystemen voor wetenschappelijke ontdekking en engineeringontwerp.