🤖 machine learning

Support-Proximity Augmented Diffusion Estimation for Offline Black-Box Optimization

Dieser Beitrag stellt SPADE vor, ein neuartiges Framework für die Offline-Optimierung mit Blackbox-Funktionen, das ein diffusionsbasiertes Forward-Surrogatmodell nutzt, das durch kalibrierte Schätzung und Regularisierung der Support-Nähe ergänzt wird, um Herausforderungen außerhalb der Verteilung wirksam zu adressieren und einen State-of-the-Art-Performance zu erreichen.

Ursprüngliche Autoren: Yonghan Yang, Ye Yuan, Zipeng Sun, Linfeng Du, Bowei He, Haolun Wu, Can Chen, Xue Liu

Veröffentlicht 2026-05-13

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Yonghan Yang, Ye Yuan, Zipeng Sun, Linfeng Du, Bowei He, Haolun Wu, Can Chen, Xue Liu

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein Architekt, der die weltweit effizienteste Brücke entwerfen soll. Sie besitzen eine riesige, staubige Bibliothek voller Baupläne bereits gebauter Brücken sowie eine Wertungstabelle, die zeigt, wie gut jede einzelne performt hat. Allerdings dürfen Sie keine neue Brücke bauen, um sie zu testen; Sie können nur aus den alten Bauplänen lernen. Dies ist die Herausforderung der Offline Black-Box-Optimierung: die Suche nach dem besten neuen Entwurf unter Verwendung ausschließlich einer statischen Historie vergangener Versuche.

Die Arbeit stellt eine neue Methode namens SPADE (Support-Proximity Augmented Diffusion Estimation) vor, um dieses Problem zu lösen. Hier ist die Funktionsweise, erklärt durch einfache Analogien.

Das Problem: Der „halluzinierende" Architekt

Wenn Sie versuchen, aus alten Bauplänen zu lernen, um etwas Neues zu entwerfen, lauern zwei Hauptfallen:

Die „Raten"-Fallen: Wenn Sie versuchen, von einem „perfekten Ergebnis" rückwärts auf einen Entwurf zu schließen, könnten Sie einen Bauplan erfinden, der auf dem Papier großartig aussieht, aber physikalisch unmöglich ist (wie eine Brücke aus Glas). Dies wird als „schlecht gestelltes" Problem bezeichnet.
Die „übermütige" Fallen: Wenn Sie versuchen, das Ergebnis eines neuen Entwurfs basierend auf alten zu prognostizieren, könnte Ihr Computer übermütig werden. Er könnte einen seltsamen, unsinnigen Entwurf betrachten (einen, der gar nichts mit den Brücken in Ihrer Bibliothek gemein hat) und sagen: „Das wird 10/10!", weil er so etwas noch nie gesehen hat. In Wirklichkeit würde dieser Entwurf wahrscheinlich einstürzen. Dies ist das „Out-of-Distribution"-Problem.

Die Lösung: SPADE

SPADE ist eine neue Art, einem Computer beizubringen, ein kluger, vorsichtiger und genauer „Ergebnis-Prognostiker" zu sein. Anstatt einfach eine einzelne Zahl zu raten, verwendet es ein Diffusionsmodell.

Stellen Sie sich ein Diffusionsmodell wie einen Bildhauer vor, der mit einem Block aus Rauschen beginnt und langsam den Staub weghämmert, um eine Form freizulegen. In diesem Fall beginnt der Computer mit einer zufälligen Schätzung eines Ergebnisses und verfeinert sie langsam, bis sie zu dem von Ihnen gegebenen Entwurf passt.

SPADE fügt diesem Bildhauer zwei spezielle „Regeln" hinzu, um ihn perfekt für die Optimierung zu machen:

1. Die „Realitätscheck"-Regel (Kalibrierte Diffusionsschätzung)

Stellen Sie sich einen Lehrer vor, der einen Schülertest benotet. Ein Standardcomputer würde einfach sagen: „Dieser Entwurf bekommt eine 90." Aber ist diese 90 genau? Ist sie konsistent mit anderen Entwürfen?
SPADE fügt einen Kalibrierungs-Schritt hinzu. Er zwingt den Computer dazu:

Den Durchschnitt richtig zu treffen: Wenn der Computer sagt, ein Entwurf sei gut, muss er im Durchschnitt tatsächlich gut sein, nicht nur durch Glück.
Die Rangfolge richtig zu treffen: Wenn Entwurf A in den alten Bauplänen besser ist als Entwurf B, muss der Computer vorhersagen, dass A auch bei neuen Entwürfen besser ist als B.
Analogie: Es ist so, als würde man sicherstellen, dass der Lehrer nicht einfach zufällige Noten vergibt, sondern tatsächlich den Unterschied zwischen einem „A"-Aufsatz und einem „C"-Aufsatz versteht.

2. Die „Bleib in der Bibliothek"-Regel (Support-Proximity-Regularisierung)

Dies ist der kritischste Teil. Der Computer muss wissen, wann er zu weit von den bekannten Bauplänen entfernt ist.

Das Konzept: Die Arbeit verwendet eine Technik namens k-Nearest Neighbors (kNN). Stellen Sie sich vor, Sie stehen in einem überfüllten Raum (der Bibliothek guter Entwürfe). Wenn Sie von Menschen umgeben sind, sind Sie sicher. Wenn Sie allein auf einem leeren Feld stehen, sind Sie in Gefahr.
Der Mechanismus: Wenn der Computer versucht, einen Entwurf zu bewerten, der weit entfernt von allen bekannten Bauplänen liegt (stehend auf dem leeren Feld), sagt SPADE automatisch: „Stopp! Das ist riskant."
Die Strafe: Er bestraft den Computer, indem er das vorhergesagte Ergebnis senkt und die „Unsicherheit" erhöht (indem er den Computer sagen lässt: „Ich bin mir hier nicht sicher, es könnte schrecklich sein").
Analogie: Es ist wie ein Sicherheitswächter, der Sie daran hindert, von einer Klippe zu laufen. Selbst wenn die Aussicht fantastisch aussieht, sagt der Wächter: „Sie sind zu weit vom Pfad entfernt; gehen Sie nicht dorthin."

Wie es den besten Entwurf findet

Sobald der Computer mit diesen beiden Regeln trainiert ist, ratet er nicht einfach einen Entwurf. Er führt eine Suche durch (wie einen genetischen Algorithmus), um den Entwurf mit der höchsten „Unteren Konfidenzgrenze" zu finden.

Stellen Sie sich dies als die Suche nach dem sichersten hohen Ergebnis vor. Der Computer sucht nach Entwürfen, die:

Ein hohes vorhergesagtes Ergebnis haben (Hohe Belohnung).
Nahe an den bekannten Bauplänen liegen (Niedriges Risiko).

Er ignoriert Entwürfe, die ein hohes Ergebnis haben, aber weit entfernt von der Bibliothek liegen, da diese wahrscheinlich „Halluzinationen" sind, die in der realen Welt scheitern werden.

Die Ergebnisse

Die Autoren testeten SPADE an sechs verschiedenen realen Problemen, darunter:

Das Entwerfen besserer Roboterkörper (damit diese besser laufen oder kriechen können).
Das Entwerfen von Supraleitern (Materialien, die Elektrizität ohne Widerstand leiten).
Die Optimierung der Datenmischung zum Trainieren von Large Language Models (LLMs).

In jedem Fall schlug SPADE die bisherigen besten Methoden. Es fand Entwürfe, die besser abschnitten als alles in der ursprünglichen Bibliothek, aber im Gegensatz zu anderen Methoden ließ es sich nicht von „gefälschten" hohen Ergebnissen täuschen. Es fand die „echten" Gewinner.

Zusammenfassung

SPADE ist ein intelligentes Werkzeug, das Ingenieuren und Wissenschaftlern hilft, die besten neuen Entwürfe unter Verwendung ausschließlich alter Daten zu finden. Dies erreicht es, indem es einen „Bildhauer" (Diffusionsmodell) einsetzt, dem zwei Dinge beigebracht werden: Sei präzise in deinen Vorhersagen und wandle niemals zu weit von dem ab, was du kennst. Dies stellt sicher, dass die vorgeschlagenen neuen Entwürfe nicht nur mathematisch clever sind, sondern tatsächlich zuverlässig und sicher.

Technisches Fazit: Support-Proximity Augmented Diffusion Estimation (SPADE) für Offline Black-Box-Optimierung

Problemstellung
Die Offline Black-Box-Optimierung (BBO) zielt darauf ab, neue Designs mit hohen Eigenschaftswerten ausschließlich mithilfe eines statischen Datensatzes vergangener Bewertungen zu entdecken, ohne Zugriff auf eine Ground-Truth-Oracle zur Verifizierung. Dieses Szenario ist in Bereichen verbreitet, in denen die Online-Datenerhebung unvertretbar teuer oder gefährlich ist, wie etwa beim Protein-Design, der DNA-Sequenzoptimierung und der Feinabstimmung von Hardware-Beschleunigern. Die zentrale Herausforderung bei der Offline-BBO ist das Problem der Extrapolation außerhalb der Verteilung (Out-of-Distribution, OOD): Optimierungsalgorithmen neigen dazu, epistemische Fehler in Surrogatmodellen auszunutzen und zu adversären Regionen zu tendieren, in denen die Leistung überschätzt wird.

Bestehende Ansätze lassen sich im Allgemeinen in zwei Paradigmen mit unterschiedlichen Einschränkungen einteilen:

Inverse Methoden: Diese modellieren die bedingte Designverteilung $p(x|y)$ , um Kandidaten für hohe Zielwerte zu generieren. Das Erlernen der inversen Abbildung ist jedoch oft ein schlecht gestelltes Problem mit einer-zu-vielen-Zuordnungen, was zu Trainingsproblemen und Mode-Collapse führt.
Vorwärtsmethoden: Diese lernen ein Surrogat $y \approx f_\theta(x)$ , um die Suche zu steuern. Standard-Regressionsmodelle (z. B. deterministische neuronale Netze) erfassen häufig die komplexe Verteilungsunsicherheit nicht, die zur Erkennung von OOD-Risiken erforderlich ist. Zwar existieren Ensemble- oder Bayes'sche Methoden, diese können jedoch rechenintensiv und schwer skalierbar sein. Darüber hinaus reicht es nicht aus, einen Regressor einfach durch ein Diffusionsmodell zu ersetzen, da das Standard-Diffusionstraining darauf abzielt, die Trainingsverteilung zu erfassen, ohne die für eine effektive Optimierung notwendigen kalibrierten Erwartungswerte oder die globale Rangordnungsgenauigkeit zu garantieren.

Methodik: SPADE
Die Autoren schlagen SPADE (Support-Proximity Augmented Diffusion Estimation) vor, ein einheitliches Framework, das die Vorwärts-Surrogatmodellierung durch bedingte generative Modellierung neu konzipiert. SPADE modelliert die Vorwärts-Wahrscheinlichkeit $p(y|x)$ unter Verwendung eines Diffusionsmodells, das durch zwei synergistische Module erweitert wird, um die spezifischen Anforderungen der Optimierung zu adressieren:

Kalibrierte Diffusionsschätzung:
Um sicherzustellen, dass das Diffusionsmodell als zuverlässiges Surrogat dient, erzwingt dieses Modul eine globale Konsistenz in statistischen Momenten und paarweisen Rangfolgen. Es führt einen Kalibrierungsverlust ein, der Folgendes umfasst:
- Anpassung erster Ordnung: Verankerung des vorhergesagten Mittelwerts an die Ground Truth.
- Rangkonsistenz: Erzwingung, dass die Topologie des Surrogats mit der wahren Ziel-Landschaft übereinstimmt, indem falsche paarweise Ordnungen von Designs bestraft werden.
  Dies schließt die Lücke zwischen Standard-Zielen zur Rauschvorhersage und den für die Optimierung erforderlichen globalen Statistiken.
Support-Proximity-Regularisierung:
Um das OOD-Problem zu adressieren, internalisiert SPADE die Daten-Mannigfaltigkeitsbeschränkung $p(x)$ direkt im Wahrscheinlichkeitsmodell, ohne ein separates generatives Modell zu trainieren. Es verwendet einen nicht-parametrischen k-nächste-Nachbarn (kNN)-Dichteschätzer, um die Datenunterstützung zu messen.
- Mechanismus: Für Designs, die weit von der Datenmannigfaltigkeit entfernt sind (geringe Dichte), bestraft die Regularisierung das Surrogat explizit, indem sie eine Mittelwert-Schrumpfung (Vorhersage niedrigerer Werte) und eine Varianz-Vergrößerung (Erhöhung der Unsicherheit) induziert.
- Theoretische Äquivalenz: Die Autoren beweisen, dass diese geometrische Regularisierung in erster Ordnung äquivalent zur Maximierung eines Bayes'schen Posterior $p(x|y) \propto p(y|x)p(x)$ ist. Insbesondere wird gezeigt, dass die Maximierung einer support-bewussten Akquisitionsfunktion äquivalent zur Optimierung des gemeinsamen Ziels aus Nutzen (Wahrscheinlichkeit) und Prior-Wahrscheinlichkeit ist.

Optimierungsstrategie
Sobald das Surrogat trainiert ist, verwendet das Framework eine auf Akquisition basierende Optimierungsstrategie. Im Gegensatz zu deterministischen Methoden, die Gradientenanstieg verwenden, nutzt SPADE ein probabilistisches Surrogat, um eine globale Suche zu ermöglichen. Es verwendet die Lower Confidence Bound (LCB) als Akquisitionsfunktion, die erwartete Leistung und epistemische Unsicherheit ausbalanciert. Die Optimierung wird mittels eines Evolutionären Algorithmus (EA) durchgeführt, der mit hochbewerteten Samen aus dem Datensatz initialisiert wird.

Hauptbeiträge

Vorwärts-Diffusionsmodellierung: Der Artikel untersucht das Potenzial von Diffusionsmodellen für die Vorwärts-Surrogatmodellierung ( $p(y|x)$ ) und zeigt deren Überlegenheit gegenüber deterministischer Regression beim Erfassen komplexer Vorhersageverteilungen (Heteroskedastizität und Multi-Modalität) für Offline-BBO.
Kalibrierte Diffusionsschätzung: Die Einführung eines Moduls, das Momentenanpassung und Regularisierung der paarweisen Rangfolge integriert, wodurch das Diffusionstraining-Ziel effektiv auf die Anforderungen der Optimierung zugeschnitten wird.
Support-Proximity-Regularisierung: Ein neuer Mechanismus zur Durchsetzung von Daten-Mannigfaltigkeitsbeschränkungen mittels kNN-basierter Dichteschätzung, mit einem theoretischen Nachweis seiner Äquivalenz zur Maximierung der gemeinsamen Nutzen- und Prior-Wahrscheinlichkeit.
State-of-the-Art-Leistung: Empirische Validierung, die zeigt, dass SPADE bei diversen Benchmarks überlegene Ergebnisse erzielt.

Experimentelle Ergebnisse
Die Autoren bewerteten SPADE an sechs Aufgaben aus der Design-Bench-Suite (die kontinuierliche Domänen wie Superconductor, Ant Morphology und D'Kitty Morphology sowie diskrete Domänen wie TF Bind 8 und TF Bind 10 abdecken) und einem LLM Data Mixture-Optimierungs-Benchmark.

Leistung: SPADE erzielte State-of-the-Art-Leistung und sicherte sich den besten mittleren Rang (2,8) und Median-Rang (1,5) unter 24 bewerteten Methoden. Es erreichte auf 5 von 6 Aufgaben Top-2-normalisierte Maximalwerte.
Robustheit: Bei kontinuierlichen Aufgaben zeigte SPADE außergewöhnliche Extrapolationsfähigkeiten mit geringer Varianz und vermied die Instabilität, die bei Methoden wie CMA-ES beobachtet wurde. Bei diskreten Aufgaben übertraf es inverse generative Methoden (die häufig unter Mode-Collapse leiden) und Standard-Ensemble-Methoden, insbesondere bei der komplexen Aufgabe TF Bind 10.
Ablationsstudien: Experimente bestätigten, dass sowohl das Modul der kalibrierten Diffusionsschätzung als auch das der Support-Proximity-Regularisierung essentiell und komplementär sind; das Entfernen eines von beiden führte im Vergleich zum vollständigen Framework zu einer Leistungsverschlechterung.

Bedeutung und Behauptungen
Die Arbeit behauptet, dass SPADE einen neuen State-of-the-Art-Benchmark in der Offline-BBO etabliert, indem es die Exploration hochbewerteter Regionen effektiv mit rigorosen Support-Proximity-Beschränkungen ausbalanciert. Durch die Vereinigung von Vorwärtsmodellierung mit Prinzipien der Bayes'schen Inferenz mittels geometrischer Regularisierung erzeugt das Framework Designs, die nicht nur leistungsstark, sondern auch physikalisch oder biologisch plausibel sind, wodurch „Reward Hacking" gemildert und die Zuverlässigkeit in OOD-Bereichen verbessert wird. Die Autoren positionieren diese Arbeit als einen Schritt hin zu sichereren und robusteren Optimierungssystemen für wissenschaftliche Entdeckungen und technisches Design.