Bayesian Optimization of Partially Known Systems using Hybrid Models

Die vorgestellte Arbeit entwickelt eine hybride Bayesian-Optimierungsmethode, die partiell bekannte physikalische Modelle mit probabilistischen Gauß-Prozessen kombiniert, um effizientere und schneller konvergierende Lösungen für komplexe Systeme wie Destillationsprozesse zu finden als herkömmliche Black-Box-Ansätze.

Das Wesentliche

Das Problem: Der blinde Koch im Labor

Stell dir vor, du bist ein Koch, der ein neues, perfektes Rezept für einen Kuchen entwickeln muss. Aber es gibt ein riesiges Problem:

1. Der Ofen ist teuer: Jedes Mal, wenn du einen Kuchen backst, kostet es eine Menge Geld und Zeit.
2. Du hast keine Anleitung: Du weißt nicht genau, wie Temperatur und Mehlmenge den Geschmack beeinflussen. Es ist ein "Black Box"-Problem.

Normalerweise würden Wissenschaftler hier Bayesian Optimization (BO) nutzen. Das ist wie ein sehr cleverer Assistent, der sagt: "Probier mal hier, dann dort." Er lernt aus jedem Versuch und wird mit der Zeit besser. Aber bei sehr komplexen Rezepten (wie in der Chemie oder Robotik) braucht dieser Assistent oft hunderte von Versuchen, bis er das perfekte Ergebnis findet. Das ist zu teuer und zu langsam.

Die Lösung: Der halbblinde Koch mit einem Kochbuch

Die Autoren dieses Papiers haben eine geniale Idee: Warum nicht das, was wir schon wissen, mit dem, was wir noch lernen müssen, mischen?

Stell dir vor, du hast zwar kein komplettes Rezept, aber du kennst die Grundregeln der Physik:

• "Wenn du mehr Mehl hinzufügst, wird der Teig schwerer." (Massenerhaltung)
• "Wenn du den Ofen heißer machst, backt er schneller." (Energieerhaltung)

Das ist dein mechanisches Modell (das Kochbuch). Aber du weißt nicht genau, wie sich die Zutaten wirklich vermischen (die komplexe Chemie). Das ist das Unbekannte.

Die neue Methode, die sie Hybrid-BO nennen, funktioniert so:

1. Das Fundament: Sie schreiben alle bekannten physikalischen Gesetze (wie Massenerhaltung) in den Computer. Das ist wie das Gerüst eines Hauses.
2. Das Flicken: Für die Teile, die sie nicht verstehen (z. B. wie sich die Zutaten genau verhalten), nutzen sie einen "KI-Assistenten" (einen sogenannten Gaussian Process oder GP). Dieser KI-Assistent füllt die Lücken im Rezept.
3. Der Trick: Statt den KI-Assistenten zu bitten, das ganze Ergebnis vorherzusagen, bitten sie ihn nur, die Lücken zu füllen.

Die Analogie: Die Brücke und das fehlende Stück

Stell dir vor, du musst eine Brücke bauen, um einen Fluss zu überqueren.

• Standard-BO (Der alte Weg): Du kennst das Ufer nicht. Du wirfst einfach Steine ins Wasser, bis du einen Pfad findest. Das dauert ewig.
• Hybrid-BO (Der neue Weg): Du kennst die Ufer und die Strömung (die Physik). Du baust die Brücke aus Stahlträgern, wo du die Gesetze kennst. Aber in der Mitte des Flusses fehlt dir ein Stück. Hier setzt du einen flexiblen, lernfähigen Gummiseil-Teil ein (die KI).
  • Der Vorteil? Du musst nicht das ganze Ufer neu vermessen. Du nutzt das, was du schon weißt, und lernst nur das eine fehlende Stück.

Was passiert in der Praxis? (Das Beispiel mit dem Destillationskolonne)

Die Autoren haben das an einem chemischen Prozess getestet (einer Art "Siede-Turm", um Wasser und Essigsäure zu trennen).

• Das Szenario: Sie kannten die Grundgleichungen (wie viel Wasser verdampft), aber nicht genau, wie sich die Moleküle bei hohen Temperaturen verhalten (die "Thermodynamik").
• Das Ergebnis:
  • Der Standard-Assistent (ohne Physik-Wissen) brauchte über 25 Versuche und war immer noch nicht sicher.
  • Der Hybrid-Assistent (mit Physik-Wissen) fand das perfekte Ergebnis oft schon nach einem einzigen zusätzlichen Versuch!

Warum? Weil die Physik-Gesetze dem Assistenten sagten: "Hey, in diesem Bereich ist das Ergebnis unmöglich, such nicht dort!" Er musste also nicht blind herumtasten, sondern konnte sich auf die wenigen, wirklich wichtigen Bereiche konzentrieren.

Warum ist das wichtig?

1. Zeit und Geld sparen: In der echten Welt (Chemiefabriken, Medikamentenentwicklung) sind Experimente extrem teuer. Wenn man sie von 25 auf 1 reduziert, spart man Unmengen an Ressourcen.
2. Sicherheit: Da physikalische Gesetze (wie "Masse bleibt erhalten") fest eingebaut sind, kann das System keine physikalisch unmöglichen Ergebnisse vorschlagen.
3. Die Zukunft: Es ist wie ein Teamwork zwischen einem erfahrenen Ingenieur (der die Gesetze kennt) und einem schnellen KI-Lernenden (der die Details lernt). Zusammen sind sie stärker als jeder allein.

Zusammenfassung in einem Satz

Die Forscher haben einen Weg gefunden, KI-Optimierung so zu programmieren, dass sie nicht alles neu lernen muss, sondern stattdessen auf dem Fundament der bekannten Physik aufbaut – wie ein Architekt, der ein Haus baut, indem er die tragenden Wände nutzt und nur die Inneneinrichtung von einer KI designen lässt.

Technische Zusammenfassung

1. Problemstellung

Die Bayes'sche Optimierung (BO) ist ein effizienter Algorithmus zur Optimierung von „Black-Box"-Systemen, deren Auswertung teuer ist (z. B. physikalische Experimente oder hochauflösende Simulationen). Der Standard-BO-Ansatz behandelt das gesamte System als Black-Box und lernt eine direkte Abbildung von Eingangsgrößen auf die Zielgröße mittels eines probabilistischen Modells (meist Gauß-Prozesse, GP).

Das Hauptproblem besteht darin, dass der Standard-BO-Loop für hochdimensionale und nichtlineare Systeme oft eine prohibitiv große Anzahl an Experimenten benötigt, um zum Optimum zu konvergieren. In vielen ingenieurwissenschaftlichen Anwendungen liegen jedoch bereits teilweise bekannte mechanistische Modelle vor (z. B. basierend auf Massenerhaltungssätzen, Energiebilanzen oder bekannten Thermodynamik-Gleichungen), während andere Teile des Systems unbekannt oder zu komplex für eine vollständige mechanistische Beschreibung sind. Die Herausforderung besteht darin, dieses partielle Wissen effizient in den BO-Prozess zu integrieren, ohne die Vorteile der datengesteuerten Optimierung zu verlieren.

2. Methodik: Hybrid-Modell-basierte Bayes'sche Optimierung

Die Autoren schlagen einen hybriden Ansatz vor, der mechanistische Gleichungen mit datengesteuerten Gauß-Prozessen kombiniert.

• Hybride Modellformulierung:
  Anstatt die gesamte Zielfunktion durch einen GP zu approximieren, werden alle bekannten mechanistischen Gleichungen explizit als Gleichheitsnebenbedingungen in ein nichtlineares Optimierungsproblem (NLP) geschrieben. Die unbekannten Teile des Systems (z. B. fehlende Zustandsgleichungen oder Aktivitätskoeffizienten) werden durch einen GP modelliert.
  Das resultierende Problem ist ein stochastisches Programm, da der GP-Ausgang eine Zufallsvariable ist. Die Gleichungen haben die Form:
  $$\min f(x, y, u)$$
  $$\text{u. d. N. } 0 = g(x, y, u) \quad (\text{bekannte mechanistische Gleichungen})$$
  $$y = \mu_y(x, u) + L_y(x, u)\xi \quad (\text{GP als Gleichheitsnebenbedingung})$$
  wobei $u$ die Entscheidungsvariablen, $x$ und $y$ abhängige Variablen und $\xi$ eine standardnormalverteilte Zufallsvariable ist.

• Diskretisierung (Sample Average Approximation - SAA):
  Da keine geschlossene Lösung für den Erwartungswert des Zielfunktionsexpressions existiert, wird das stochastische Problem durch die SAA-Methode diskretisiert. Dabei werden $S$ Monte-Carlo-Stichproben ($\xi_s$) aus der GP-Verteilung gezogen. Dies wandelt das stochastische Problem in ein großes, aber dünnbesetztes (sparse) deterministisches NLP um, das für alle Szenarien gleichzeitig gelöst wird.

• Acquisition-Funktion (Erwartete Verbesserung - EI):
  Im hybriden Ansatz dient der GP nicht zur direkten Approximation der Zielfunktion, sondern als Nebenbedingung. Daher kann die analytische Form der Expected Improvement (EI) nicht direkt angewendet werden. Stattdessen wird die EI als Optimierungsproblem formuliert, das den Erwartungswert der Verbesserung über die diskretisierten Szenarien minimiert (SAA-EI). Dies führt zu einem nicht-glatten Optimierungsproblem, das jedoch in der Praxis mit Second-Order-Solvern wie IPOPT gelöst werden kann.

• Implementierung:
  Die Autoren entwickelten eine Python-basierte Bibliothek unter Verwendung von CasADi, die es ermöglicht, GPs als differenzierbare Gleichheitsnebenbedingungen in NLPs zu integrieren. Dies nutzt die Matrixalgebra-Fähigkeiten von CasADi (inkl. differenzierbarer Cholesky-Zerlegung), die in anderen Frameworks wie Pyomo derzeit fehlen.

3. Wichtige Beiträge

1. Stochastische Programmierung für BO: Einführung einer Formulierung für Acquisition-Probleme, die mechanistische Modelle mit GPs als Gleichheitsnebenbedingungen kombiniert. Dies unterscheidet sich von früheren Ansätzen (z. B. composite functions), da hier implizite Gleichungen und Nebenbedingungen genutzt werden.
2. Erweiterung auf implizite Modelle: Der Ansatz erlaubt die Einbindung von physikalischen Constraints und neuen Variablen, die nicht direkt im GP enthalten sind, und nutzt etablierte NLP-Paradigmen.
3. Software-Tool: Bereitstellung einer Open-Source-Bibliothek für das Training von GPs und die Formulierung von NLPs mit eingebetteten GPs in CasADi.
4. Effizienzsteigerung: Demonstration, dass durch die Nutzung von physikalischem Vorwissen die Anzahl der benötigten Experimente drastisch reduziert werden kann.

4. Ergebnisse

Die Methode wurde an zwei Fallstudien getestet:

• Fallstudie 1: Illustratives univariates Beispiel (Forrester-Funktion):

  • Das hybride BO-Modell konvergierte signifikant schneller als Standard-BO und zufällige Suche.
  • Nach 10 Iterationen war der „Regret" (Abweichung vom Optimum) der hybriden Methode um sieben Größenordnungen niedriger als bei Standard-BO.
  • Die Analyse zeigte, dass die SAA-EI-Funktion zwar viele lokale Minima aufweist, aber durch Multi-Start-Strategien erfolgreich gelöst werden kann.

• Fallstudie 2: Optimierung einer Flash-Einheit (Wasser/Essigsäure):

  • Szenario: Trennung von Wasser und Essigsäure. Bekannte Gleichungen: Massenbilanzen, Antoine-Gleichung, modifiziertes Raoult-Gesetz. Unbekannt: Der Aktivitätskoeffizient (nichtideale Thermodynamik), modelliert durch einen GP.
  • Ergebnis: Das hybride BO erreichte in nur 4 Iterationen ein Zielwert-Niveau, das Standard-BO erst nach 25 Iterationen (oder gar nicht) erreichte.
  • Konvergenz: Während Standard-BO in 25 Iterationen nicht konvergierte, fand das hybride Modell das Optimum bereits in wenigen Schritten.
  • Mechanismus: Das physikalische Modell eliminierte große Bereiche des Suchraums, die physikalisch unmöglich oder suboptimal sind, ohne dass dort Experimente durchgeführt werden mussten. Die Acquisition-Funktion (SAA-EI) zeigte fast überall den Wert Null, außer in der Nähe des Optimums.

5. Bedeutung und Ausblick

• Signifikanz: Die Arbeit zeigt, dass die Kombination von mechanistischen Modellen und datengesteuerter Optimierung (Hybrid Modeling) die Effizienz von BO für teilweise bekannte Systeme massiv steigert. Dies ist besonders relevant für chemische Verfahrenstechnik, Biochemie und andere Disziplinen mit komplexen, teils verstandenen Systemen.
• Herausforderungen:
  • Die SAA-Näherung führt zu einer nicht-glatten Acquisition-Funktion, was die Optimierung erschwert.
  • In späten Iterationen kann die SAA-EI-Funktion numerisch gegen Null gehen, was die Konvergenz zum globalen Optimum behindern kann (das Modell „vergisst" die Unsicherheit in den Rändern).
• Zukünftige Arbeiten: Geplant sind kontinuierliche Approximationen der Acquisition-Funktion, die Behandlung von bekannten und unbekannten Ungleichheitsnebenbedingungen (infeasible regions) sowie die Validierung mit realen Experimenten.

Fazit: Der vorgestellte hybride BO-Ansatz nutzt die Stärken beider Welten – die strukturelle Genauigkeit physikalischer Modelle und die Flexibilität datengesteuerter Modelle – um die Kosten und den Aufwand für die Optimierung teurer Systeme drastisch zu senken.