📊 statistics

BEACON: A Bayesian Optimization Inspired Strategy for Efficient Novelty Search

Das Papier stellt BEACON vor, eine beispiel-effiziente Novelty-Search-Strategie, die von der Bayesschen Optimierung inspiriert ist und Multi-Output-Gauß-Prozesse sowie eine unsicherheitssensible, distanzbasierte Akquisitionsfunktion nutzt, um effizient diverse Systemverhalten in aufwendigen Black-Box-Szenarien wie dem Design von Materialien und Molekülen zu entdecken.

Ursprüngliche Autoren: Wei-Ting Tang, Ankush Chakrabarty, Joel A. Paulson

Veröffentlicht 2026-06-30

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Wei-Ting Tang, Ankush Chakrabarty, Joel A. Paulson

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein Schatzsucher, der eine riesige, neblige Insel erkundet. Ihr Ziel ist es nicht, den einen, größten Diamanten zu finden (die „beste“ Antwort). Stattdessen wollen Sie so viele verschiedene Arten von Schätzen wie möglich finden – glänzende Steine, farbenfrohe Muscheln, seltene Münzen und seltsame Kristalle. Da Sie nur eine begrenzte Menge Treibstoff für Ihr Boot haben, können Sie nicht einfach wahllos überall hinsegeln. Sie brauchen eine kluge Karte, die Sie zu den interessantesten, noch unerforschten Orten führt.

Dies ist das Problem, das die Arbeit BEACON löst. Es ist eine neue Strategie für wissenschaftliche Entdeckungen, insbesondere wenn das Testen von Ideen teuer, langsam oder riskant ist (wie etwa bei komplexen Computersimulationen oder dem Mischen von Chemikalien im Labor).

So funktioniert BEACON, aufgeschlüsselt in einfache Konzepte:

1. Das Problem: Warum „Best“ nicht immer ausreicht

Die traditionelle Wissenschaft agiert oft wie ein Golfer, der versucht, den Ball mit den wenigsten Schlägen ins Loch zu bringen. Sie haben ein spezifisches Ziel (Gewinn maximieren, Kosten minimieren) und versuchen, so schnell wie möglich dorthin zu gelangen.

Aber in Feldern wie der Chemie oder den Materialwissenschaften wissen Wissenschaftler oft noch nicht genau, wonach sie suchen. Sie wollen lediglich die gesamte Landschaft sehen. Sie wollen wissen: „Was sind all die verschiedenen Dinge, die dieses System leisten kann?“ Wenn man nur nach dem „Besten“ sucht, übersieht man vielleicht ein seltsames, seltenes oder nützliches Verhalten, das nicht in das spezifische Bewertungsschema passt.

2. Der alte Weg: Raten und Prüfen

Frühere Methoden zur Suche nach vielfältigen Dingen (genannt „Novelty Search“) waren ein wenig so, als würde man im Dunkeln mit Pfeilen werfen. Man probierte zufällige Kombinationen aus, sah, was passierte, und wenn das Ergebnis anders war als das, was man zuvor gesehen hatte, behielt man es bei.

Der Fehler: Dies ist sehr verschwenderisch. Wenn jeder „Wurf“ 1.000 $ kostet oder eine Woche dauert, kann man es sich nicht leisten, wahllos mit Pfeilen zu werfen. Man muss klüger sein.

3. Die BEACON-Lösung: Die „kluge Karte“

BEACON ist, als würde man dem Schatzsucher eine magische, sich selbst aktualisierende Karte (einen sogenannten Gauß-Prozess) geben, die lernt, während er erkundet.

Die Karte (Der Surrogate): Anstatt jeden einzelnen Punkt zu testen, baut BEACON ein Modell basierend auf den wenigen Tests auf, die bereits durchgeführt wurden. Dieses Modell sagt voraus, was in ungetesteten Bereichen passieren könnte. Es rät nicht nur das Ergebnis, sondern rät auch, wie unsicher es sich ist.
Die Strategie (Thompson Sampling): Stellen Sie sich vor, die Karte ist etwas neblig. BEACON sagt: „Lass uns so tun, als hätte der Nebel gerade eine ganz bestimmte Form, und finde den Punkt, der sich am stärksten von dem unterscheidet, wo wir schon einmal waren.“ Es wählt einen Punkt aus, der wahrscheinlich neuartig (weit entfernt von bisherigen Ergebnissen) ist, aber auch plausibel (basierend auf den Vorhersagen der Karte).

4. Wie es „Neuheit“ misst

In der Vergangenheit mussten Wissenschaftler, um zu entscheiden, ob etwas „neu“ war, die Welt oft in kleine, starre Boxen unterteilen (wie ein Gitter auf einer Karte) und zählen, wie viele Boxen sie ausgefüllt hatten.

BEACONS Trick: Es benötigt keine starren Boxen. Es misst die Distanz in einem glatten, kontinuierlichen Raum. Es fragt: „Wie weit entfernt ist dieses neue Ergebnis vom ‚Archiv‘ der Dinge, die wir bereits gesehen haben?“
Das Archiv: Dies kann als ein Museum betrachtet werden, das alles enthält, was man bisher gefunden hat. BEACON schaut sich das Museum an, bereinigt die Exponate (entfernt Rauschen oder Fehler) und fragt dann die Karte: „Wo ist der wahrscheinlichste Ort, um etwas zu finden, das nicht wie irgendetwas in diesem Museum aussieht?“

5. Warum es besser ist

Das Paper hat BEACON bei mehreren Herausforderungen getestet:

Synthetische Rätsel: Mathematische Probleme, die darauf ausgelegt sind, knifflig zu sein.
Materialwissenschaften: Das Finden neuer Arten von porösen Materialien (wie Schwämme zur Gasspeicherung), um zu sehen, welche verschiedenen Gase sie speichern können.
Molekulardesign: Die Suche nach neuen, drogenähnlichen Molekülen mit unterschiedlichen Eigenschaften (wie z. B. wie gut sie sich in Wasser lösen).
Robotik: Die Steuerung eines Roboterballs durch ein Labyrinth, in dem die „Belohnung“ (Punkte) irreführend ist.

Das Ergebnis: In all diesen Tests fand BEACON eine größere Vielfalt an einzigartigen Ergebnissen mit der gleichen Anzahl an Versuchen wie die anderen Methoden. Es war viel besser darin, den „Long Tail“ der seltenen Verhaltensweisen zu finden, die andere Methoden übersehen haben.

6. Die „Benutzerhandbuch“-Funktion

Das Paper stellt auch eine Version namens UG-BEACON vor. Dies ist, als würde man dem Schatzsucher eine spezifische Liste von „Muss-gefunden“-Gegenständen geben.

Beispiel: „Es ist mir egal, rote Muscheln zu finden; ich möchte nur blaue Muscheln und Goldmünzen finden.“
Das System respektiert diese Regeln, ignoriert Bereiche, die der Benutzer nicht benötigt, und konzentriert seinen begrenzten Treibstoff auf die spezifischen Arten von Neuartigkeit, die der Benutzer sucht.

Zusammenfassung

BEACON ist ein kluger, effizienter Entdecker. Es nutzt eine lernende Karte, um vorherzusagen, wo das interessanteste, noch unerforschte Territorium liegt, ohne jeden einzelnen Punkt testen zu müssen. Es hilft Wissenschaftlern, ein breiteres Spektrum an Möglichkeiten in teuren Experimenten zu entdecken und stellt sicher, dass sie das „Seltsame und Wunderbare“ nicht übersehen, nur weil sie nach dem „Perfekten“ gesucht haben.

Technisches Resümee: BEACON

Problemformulierung

Die Arbeit befasst sich mit der Herausforderung der Novelty Search (NS) im Kontext teurer, verrauschter Black-Box-Systeme, wie sie in der Chemie, Materialwissenschaft und dem molekularen Design üblich sind. Im Gegensatz zur traditionellen Optimierung, die nach einem einzelnen skalaren Optimum sucht, besteht das Ziel hier darin, eine vielfältige Menge an erreichbaren Systemverhalten (Outcomes) innerhalb eines begrenzten Evaluierungsbudgets aufzudecken.

Formal handelt es sich um eine vektorwertige Black-Box-Funktion $f: \mathcal{X} \to \mathcal{O}$ , wobei $\mathcal{X} \subset \mathbb{R}^d$ den Eingangsraum und $\mathcal{O} \subset \mathbb{R}^n$ den Ergebnisraum (Verhaltensraum) darstellt. Das Ziel ist die Maximierung der Erreichbarkeit (Reachability), definiert als der Anteil der entdeckten distinkten Verhaltensregionen innerhalb einer endlichen Partitionierung des Ergebnisraums.

Bestehende NS-Methoden, die oft auf Metaheuristiken wie evolutionären Algorithmen basieren, sind typischerweise ineffizient hinsichtlich der Stichprobenanzahl (Sample Efficiency). Sie haben Schwierigkeiten in Szenarien, in denen jede Funktionsauswertung (z. B. eine Simulation oder ein physikalisches Experiment) kostspielig ist. Zudem ist die Standard-Bayessche Optimierung (BO) ungeeignet, da sie Ergebnisse in eine einzige Nutzenfunktion kollabieren lässt, wodurch potenziell wissenschaftlich wertvolle intermediäre oder seltene Verhaltensweisen übersehen werden könnten.

Methodik: BEACON

Die Autoren schlagen BEACON vor (Bayesian Exploration Algorithm for outCOme Novelty), eine sample-effiziente Strategie, die von Prinzipien der Bayesschen Optimierung inspiriert, aber für die Novelty Search angepasst wurde.

Kernkomponenten

Multi-Output Gaussian Process (MOGP) Surrogate:
Anstatt ein skalares Ziel zu modellieren, setzt BEACON ein probabilistisches Surrogatmodell direkt auf die Input-zu-Outcome-Abbildung $f$ an. Das Framework nutzt Multi-Output-GPs, um die vollumfängliche vektorwertige Funktion zu modellieren. In den meisten Experimenten verwenden die Autoren unabhängige Output-GP-Modelle (das Anpassen eines skalaren GP pro Outcome-Koordinate), um die Komplexität gering zu halten, obwohl das Framework korrelierte Outputs und chemiewerffiziente Kernel (z. B. Tanimoto-Fragprint) für spezifische Domänen unterstützt.
Thompson-Sampling-basierte Akquisitionsfunktion:
BEACON führt eine neuartige Akquisitionsfunktion ein, die Kandidaten-Inputs basierend auf der Distanz ihrer plausiblen Ergebnisse zu einem entrauschten Archiv zuvor beobachteter Ergebnisse bewertet.
- Entrauschung (Denoising): Rohbeobachtungen werden durch die Posterior-Mittelwert-Vorhersagen ( $\mu_D$ ) ersetzt, um die Auswirkungen von Beobachtungsgrauschen zu mildern.
- Unsicherheitsquantifizierung: Der Algorithmus zieht eine Stichprobenfunktion $g(x)$ aus der MOGP-Posterior-Verteilung (mittels Thompson Sampling).
- Bewertung (Scoring): Der Novelty-Score $\alpha_{NS}$ für einen Kandidaten $x$ ist die durchschnittliche Distanz zwischen dem Stichproben-Outcome $g(x)$ und den $k$ nächsten Nachbarn im entrauschten Archiv:
  $\alpha_{NS}(x | g, D) = \frac{1}{k} \sum_{i=1}^{k} \text{dist}(g(x), \mu_D(x_i^*))$
- Optimierung: Diese Akquisitionsfunktion wird mittels gradientenbasierter Methoden (z. B. L-BFGS-B) mit mehreren Restarts optimiert. Die Verwendung von differenzierbaren Relaxationen für die Sortieroperation in der $k$ -nächste-Nachbarn-Berechnung ermöglicht eine effiziente gradientenbasierte Maximierung.
Erweiterungen:
- Skalierung in hohe Dimensionen: Für hochdimensionale Eingangsräume integriert BEACON SAAS (Sparse Axis-Aligned Subspace)-Priors, um eine Sparsity in den GP-Längenskalen zu induzieren, oder nutzt chemiewerffiziente Surrogates (z. B. molekulare Kernel) für strukturierte diskrete Inputs.
- Nutzergesteuerte Constraints (UG-BEACON): Das Framework erlaubt es Nutzern, Partitionen des Ergebnisraums zu definieren, um entweder bereits explorierte Regionen auszuschließen oder die Suche auf spezifische Regime von Interesse zu fokussieren.

Wichtigste Beiträge

Das Paper skizziert vier primäre Beiträge:

Algorithmenentwicklung: Einführung von BEACON, einem neuen NS-Algorithmus, der speziell für verrauschte, teure Black-Box-Systeme entwickelt wurde und die Erreichbarkeit im Verhaltensraum bei begrenzten Evaluierungen verbessert.
Neuartige Akquisitionsstrategie: Eine auf Thompson Sampling basierende Akquisitionsfunktion, die in einem kontinuierlichen Ergebnisraum operiert. Sie berücksichtigt prädiktive Unsicherheit und Beobachtungsrauschen, ohne eine direkte Optimierung über eine feste, diskretisierte Verhaltenspartition zu erfordern.
Skalierbarkeit: Erweiterungen auf hochdimensionale Settings durch Sparsity-induzierende Priors und domänenspezifische Surrogatmodellierung (z. B. für molekulare Graphen).
Empirische Validierung: Demonstration der Effektivität des Algorithmus über synthetische Benchmarks, Materialentdeckung (Metal-Organic Frameworks), molekulare Eigenschaftsentdeckung und Reinforcement-Learning-Aufgaben hinweg.

Ergebnisse

Die Autoren evaluierten BEACON gegen mehrere Baselines, darunter evolutionäre Novelty Search (NS-EA), Distance-to-Explored-Area Search (NS-DEA), Maximum Variance Sampling und Random Search.

Synthetische Benchmarks: Bei Ackley-, Rosenbrock- und Styblinski-Tang-Funktionen erreichte BEACON konsistent die höchste Erreichbarkeit, insbesondere in höherdimensionalen Eingangsräumen (bis zu 12 Dimensionen). Es übertraf auch die Baselines bei einem synthetischen Multi-Output-Problem mit einer Long-Tail-Verteilung, indem es effektiv die Regionen mit geringer Dichte am Rand (Tail-Regionen) abdeckte, die andere Methoden übersahen.
Materialentdeckung: Bei Aufgaben bezüglich Wasserstoffaufnahme, Stickstoffaufnahme und gemeinsamer CO2/CH4-Aufnahme in Metal-Organic Frameworks (MOFs) erreichte BEACON innerhalb des Evaluierungsbudgets eine vollständige Abdeckung des diskretisierten Verhaltensraums und übertraf damit die anwendbaren Baselines.
Molekulare Entdeckung: Für Wasserlöslichkeit, ESOL (wässrige Löslichkeit mit 2.133-dimensionalen Inputs) und LogD-Aufgaben demonstrierte BEACH eine überlegene Abdeckung. Die Verwendung von aufgabenbezogenen Kerneln (Tanimoto-Fragprint) und SAAS-Priors war entscheidend für die Leistung in hochdimensionalen molekularen Räumen.
Täuschende Landschaften (Deceptive Landscapes): In einer Reinforcement-Learning-Maze-Navigation-Aufgabe mit einer täuschenden Reward-Landschaft war BEACON die einzige Methode, die die Aufgabe über alle Replikate hinweg konsistent löste, während reward-getriebene Methoden (wie Expected Improvement) und andere Novelty-Baselines scheiterten, aus lokalen Fallen zu entkommen.
Nutzergesteuerte Entdeckung: In eingeschränkten Aufgaben (MNIST-Ziffernentdeckung und Öl-Absorber-Materialdesign) konnte UG-BEACON Nutzerpräferenzen erfolgreich integrieren, um Zielverhaltensweisen schneller als die unbeschränkten Versionen zu entdecken.

Bedeutung und Behauptungen

Das Paper behauptet, dass BEACON die Novelty-getriebene Exploration für Domänen praktikabel macht, in denen traditionelle evolutionäre Ansätze zu ineffizient in der Stichprobenanzahl sind. Durch die Nutzung von Bayesschen Surrogatmodellen kann BEACON Evaluierungen gezielt in Richtung unerforschter Regionen des Ergebnisraums lenken, während Modellunsicherheit und Rauschen rigoros berücksichtigt werden.

Die Autoren positionieren BEACON als Werkzeug für Low-Data-Discovery-Settings, in denen das wissenschaftliche Ziel die breite Abdeckung erreichbarer Eigenschaften statt eines einzelnen Optimums ist. Sie deuten an, dass dieser Ansatz besonders wertvoll für autonome Experimentier-Workflows in der Chemie und Materialwissenschaft ist, wo das Aufdecken bisher unbekannter Phänomene ebenso kritisch ist wie die Optimierung bekannter Ziele.

Das Paper räumt Einschränkungen hinsichtlich "sprunghafter" Ergebnisräume (z. B. Phasenwechsel) ein, bei denen das Surrogatmodell dazu neigen könnte, abrupte Sprünge zu stark zu glätten. Es wird angemerkt, dass die Entdeckung in solchen Fällen weiterhin auf breiter Exploration oder Zufallsstichproben beruhen kann, falls keine lernbare Struktur existiert. Dennoch argumentieren sie, dass das Framework flexibel genug ist, um hybride Strategien (z. B. Space-Filling-Initialisierung) zu integrieren, um diese Probleme zu mildern.