Sequential Experimental Designs for Kriging Model

Technische Zusammenfassung: Sequenzielle experimentelle Designs für Kriging-Modelle

Problemstellung
Computer-Experimente verlassen sich häufig auf Kriging-Modelle (Gauß-Prozesse) als Ersatzmodelle (Surrogatmodelle), um komplexe physikalische und ingenieurtechnische Systeme zu approximieren. Das primäre Ziel besteht darin, die Diskrepanz zwischen dem Ersatzmodell und dem wahren Modell über den gesamten experimentellen Bereich zu minimieren. Während einphasige Space-Filling-Designs üblich sind, basieren diese auf A-priori-Annahmen und können dazu führen, dass kritische Regionen nicht abgedeckt werden, was eine Verschwendung von Ressourcen zur Folge hat. Sequenzielle Designs bieten eine dynamische Alternative, indem sie iterativ Punkte basierend auf den akkumulierten Daten hinzufügen. Bestehende sequenzielle Methoden stehen jedoch vor zwei signifikanten Einschränkungen:

1. Beobachtungsbasierte Batch-sequenzielle Designs sind unteruntersucht. In vielen praktischen Szenarien (z. B. hochpräzise Luft- und Raumfahrt-Simulationen) sind die Fixkosten für die Einrichtung eines Experiments (Kalibrierung, Initialisierung) hoch, während die Grenzkosten für das Hinzufügen mehrerer Punkte innerhalb einer einzigen Runde vernachlässigbar sind. Aktuelle Methoden adressieren dieses „Batch“-Szenario selten effektiv.
2. Ineffizienz von Ein-Punkt-sequenziellen Designs. Traditionelle Ein-Punkt-Ansätze erfordern zahlreiche iterative Runden, um ausreichend Daten zu akkumulieren, was zu verlängerten Experimentzyklen und ineffizienter Ressourcennutzung führt. Zudem führt eine naive Batch-Auswahl oft zu einer Punkt-Clusterbildung um einen einzelnen optimalen Ort, wodurch die Exploration des Designraums nicht effektiv erfolgt.

Methodik
Die Arbeit schlägt ein umfassendes Framework vor, um diese Lücken zu schließen, bestehend aus zwei neuartigen Auswahlkriterien und einem allgemeinen Batch-sequenziellen Design-Algorithmus.

1. Neuartige Auswahlkriterien:

   • Gradientenbasiertes Kriterium ($\phi_{gra}$): Motiviert durch die Beobachtung, dass Regionen mit großen Gradientenbeträgen oft eine dichtere Abtastung erfordern, um den Anpassungsfehler zu reduzieren, wählt dieses Kriterium Punkte aus, die den erwarteten Betrag des Gradienten der wahren Funktion, $\|\nabla f(x)\|$, maximieren und gleichzeitig einen Abstand zu bereits existierenden Punkten einhalten. Es beinhaltet einen Term für die lokale Antwortvariabilität ($|\hat{y}_X(x) - f(x^*)|$), um sicherzustellen, dass Punkte dort ausgewählt werden, wo die Funktion tatsächlich variiert. Theoretisch approximiert dieses Kriterium die obere Schranke des Vorhersagefehlers.
   • Varianzbasiertes Kriterium ($\phi_{var}$): Dieses Kriterium zielt darauf ab, den maximalen Anpassungsfehler zu minimieren, indem Punkte ausgewählt werden, die eine Funktion maximieren, die aus der Vorhersagevarianz und der Varianz der Gradientenschätzung abgeleitet ist. Es ist fundiert in theoretischen Schranken, die zeigen, dass der Schätzfehler sowohl durch die Vorhersagevarianz als auch durch die Gradientenvarianz reguliert wird.

2. Cluster-basiertes Top-$b$ Sequenzielles Design-Framework:
   Um jedes Ein-Punkt-sequenzielle Kriterium auf ein Batch-Szenario zu erweitern (bei dem $b > 1$ Punkte pro Iteration hinzugefügt werden), schlagen die Autoren einen Clustering-Algorithmus (Algorithmus 2) vor.

   • Mechanismus: Anstatt einfach die Top-$b$ Punkte auszuwählen, die das Kriterium $\phi(x)$ maximieren (was zu einer Clusterbildung nahe einem einzelnen globalen Maximum führen würde), diskretisiert der Algorithmus den Designraum und sortiert die Kandidatenpunkte nach ihren $\phi$-Werten.
   • Clustering-Logik: Punkte werden basierend auf räumlicher Nähe und Dichteregeln (gesteuert durch die Parameter $\alpha$ und $\beta$) Clustern zugeordnet. Der Algorithmus identifiziert distinkte lokale Maxima (Cluster) und wählt den Repräsentativpunkt aus den Top-$b$ Clustern aus.
   • Ziel: Dieser Ansatz verhindert die Punkt-Clusterbildung, gewährleistet eine diverse Exploration von Hochwertregionen und ermöglicht es, jedes existierende Ein-Punkt-Kriterium auf Batch-Szenarien zu adaptieren.

Wesentliche Beiträge

• Zwei neue Kriterien: Die Einführung des gradientenbasierten und des varianzbasierten Kriteriums, die unterschiedliche theoretische Perspektiven auf die Minimierung des globalen Anpassungsfehlers (durchschnittlicher vs. maximaler Fehler) bieten.
• Allgemeines Batch-Framework: Ein neuartiges „Cluster-basiertes Top-$b$“-Framework, das das inhärente Problem der Punkt-Clusterbildung bei naiver Batch-Auswahl löst und somit die effiziente Erweiterung jedes sequenziellen Kriteriums auf Batch-Szenarien ermöglicht.
• Theoretische Rechtfertigung: Die Arbeit liefert Lemmata und Theoreme, die belegen, dass die vorgeschlagenen Kriterien mit den oberen Schranken der Vorhersagefehler und Gradientenvarianzen zusammenhängen, und bietet somit eine theoretische Basis für deren Auswahlstrategien.

Ergebnisse
Die Autoren evaluierten die vorgeschlagenen Methoden im Vergleich zu bestehenden Kriterien (einschließlich Expected Improvement-Varianten, Varianzminimierung und Mischungs-Diskrepanz) unter Verwendung von sieben Testfunktionen (Branin, Hartman, Ackley, Zakharov, Rosenbrock etc.) mit variierenden Dimensionen.

• Ein-Punkt-Performance: In Bezug auf den Root Mean Square Error (RMSE) übertraf das gradientenbasierte Kriterium im Allgemeinen bestehende Methoden. Für den maximalen absoluten Fehler (MAE) zeigte das varianzbasierte Kriterium eine überlegene Leistung.
• Batch-Performance: Die durch das Cluster-basierte Top-$b$ Design erzeugten Verfahren übertrafen konsistent Batch-Designs, die auf bestehenden Kriterien basieren, sowie das Benchmark-sequenzielle Uniform-Design.
• Effizienz: Die Batch-Designs erreichten eine Leistung, die vergleichbar mit – und in einigen Fällen besser als – ihren Ein-Punkt-Pendants war, während sie gleichzeitig die Anzahl der experimentellen Runden (Iterationen) signifikant reduzierten.

Bedeutung und Ansprüche
Die Arbeit behauptet, dass die vorgeschlagenen Methoden kritische Einschränkungen in der aktuellen Literatur zu sequenziellen Designs adressieren, insbesondere den Mangel an effektiven beobachtungsbasierten Batch-Designs und die Ineffizienz von Ein-Punkt-Ansätzen. Durch den Nachweis, dass das gradientenbasierte Kriterium den durchschnittlichen Fehler minimiert und das varianzbasierte Kriterium den maximalen Fehler minimiert, stellen die Autoren Praktikern gezielte Werkzeuge für spezifische Optimierungsziele zur Verfügung. Darüber hinaus wird das vorgeschlagene Batch-Framework als vielseitige Lösung präsentiert, die die Ressourceneffizienz durch Reduzierung der experimentellen Runden erhöht, ohne die Anpassungsgenauigkeit zu opfern, was es besonders geeignet für ressourcenintensive Computer-Experimente macht. Die Autoren kommen zu dem Schluss, dass ihre vorgeschlagenen Kriterien und das Framework im Allgemeinen bestehende Ansätze in Bezug auf die Anpassungsgenauigkeit übertreffen.