CarbonNet: How Computer Vision Plays a Role in Climate Change? Application: Learning Geomechanics from Subsurface Geometry of CCS to Mitigate Global Warming

Technisches Resümee: CarbonNet – Computer Vision für die Geomechanik in der CCS

Problemstellung
Die Kohlenstoffabscheidung und -speicherung (Carbon Capture and Sequestration, CCS) ist eine entscheidende Technologie zur Milderung der globalen Erwärmung, bei der überkritisches CO₂ in tiefe Soleaquifere oder stillgelegte Ölreservoire injiziert wird. Ein primäres Risiko, das mit diesem Prozess verbunden ist, ist die Oberflächenhebung (Geländeverformung) durch übermäßigen Fluiddruck, die Infrastrukturen beschädigen und die menschliche Sicherheit gefährden kann. Die Vorhersage der räumlichen Verteilung und zeitlichen Entwicklung dieser Oberflächenverformung ist für die Vermeidung von Gefahren unerlässlich. Herkömmliche numerische Simulationen (z. B. die Finite-Elemente-Methode) sind jedoch aufgrund der großen räumlichen und zeitlichen Skalen von CCS-Projekten rechenintensiv. Darüber hinaus haben bestehende Deep-Learning-Ansätze oft Schwierigkeiten mit Materialheterogenität, der Kopplung zwischen Fluidströmung und Mechanik oder sind auf spezifische geologische Settings beschränkt. Dieses Projekt adressiert die Herausforderung, die Oberflächenverformung unter variierenden unterirdischen Geometrien mithilfe von Computer-Vision-Techniken effizient vorherzusagen.

Methodik
Die Autoren formulieren das Problem als Image-to-Image-Vorhersageaufgabe für die statische Mechanik und als Video-Vorhersageaufgabe für die transiente Mechanik. Der Input besteht aus 2D-Bildern, die die unterirdische Geometrie repräsentieren (speziell eine Schieferlage mit variierenden Neigungswinkeln, eingebettet zwischen zwei permeablen Schichten), und der Output ist das entsprechende Oberflächenverformungsfeld.

1. Datensatzgenerierung:

   • Statisches Modell: 10.000 Stichproben wurden mittels FEniCS (FEM-basierte Simulation) generiert. Die Inputs sind Geometrie-Bilder mit Neigungswinkeln von 0° bis 45°. Die Labels sind vertikale Verschiebungs-Werte ($u_y$) an 1.250 Punkten auf einem 50×25-Gitter.
   • Transientes Modell: 3.000 Stichproben wurden mittels gekoppelter hydro-mechanischer Simulationen generiert. Die Inputs sind Geometrie-Bilder und die Labels sind Zeitreihendaten der vertikalen Verschiebung an 40 Punkten an der Erdoberfläche über 1.000 Zeitschritte. Datensequenzen wurden mittels Sliding Windows (5 Schritte, um den nächsten vorherzusagen) erstellt und mittels Min-Max-Skalierung normalisiert.

2. Modelle der statischen Mechanik (Bildvorhersage):

   • Baselines: Standardmäßige CNN- und ResNet (ResNet18)-Architekturen wurden getestet. Diese Modelle führen eine Downsampling-Operation der Bilder durch, um Merkmale zu extrahieren, verloren dabei jedoch kritische räumliche Informationen, was zu Ungenauigkeiten in heterogenen Regionen führt.
   • Vorgeschlagenes Modell (ResNetUNet): Eine benutzerdefinierte Architektur, die ResNet und UNet kombiniert. Der Encoder nutzt ResNet-Blöcke, um komplexe physikalische Gesetze und heterogene Materialverteilungen zu erfassen, während der Decoder ein UNet-ähnliches Upsampling mit Skip-Connections verwendet, um räumliche Details wiederherzustellen und Informationsverlust zu verhindern.

3. Modelle der transienten Mechanik (Video-/Zeitreihenvorhersage):

   • Merkmalsextraktion: Beide Modelle nutzen das vortrainierte ResNetUNet, um Merkmale aus dem Eingangs-Geometriebild zu extrahieren.
   • LSTM: Ein Long Short-Term Memory Netzwerk (gestapelte 4 LSTM-Zellen) verarbeitet die Sequenz der Verschiebungswerte (Größe 40), um den nächsten Zeitschritt vorherzusagen.
   • Transformer: Eine Transformer-Encoder-Decoder-Architektur verarbeitet die Sequenz. Sie nutzt Self-Attention-Mechanismen, um langfristige Abhängigkeiten zu erfassen, was theoretisch den sequentiellen Informationsverlust überwindet, der LSTMs inhärent ist. Sowohl der Encoder als auch der Decoder bestehen aus vier Schichten mit einer Modell-Dimension von 16 und 8 Attention-Heads.

Wichtigste Ergebnisse

• Statische Mechanik: Das ResNetUNet-Modell übertraf sowohl die CNN- als auch die ResNet-Baselines deutlich. Visuelle Vergleiche zeigten, dass die ResNetUNet-Vorhersagen nahezu identisch mit der physikbasierten Ground Truth waren, während CNN und ResNet Informationsverluste und geringere Genauigkeit aufwiesen, insbesondere in heterogenen Regionen. Quantitativ erreichte ResNetUNet einen Validierungs-MSE von $7,33 \times 10^{-8}$ und einen MAE von $2,00 \times 10^{-4}$, was um Größenordnungen unter den Baselines liegt.
• Transiente Mechanik: Sowohl LSTM- als auch Transformer-Modelle konnten die zeitliche Entwicklung der Oberflächenverformung erfolgreich vorhersagen. Das Transformer-Modell zeigte eine überlegene Leistung mit einem niedrigeren Validierungs-MSE ($3,86 \times 10^{-9}$) und MAE ($1,50 \times 10^{-6}$) im Vergleich zum LSTM. Während das LSTM vielversprechendes Potenzial zeigte, ermöglichte der Self-Attention-Mechanismus des Transformers eine bessere Handhabung der hochdimensionalen Sequenzdaten (40 Punkte) und passte sich fast perfekt an die Ground Truth an.
• Trainingsdynamik: Alle Modelle wurden ohne Kreuzvalidierung trainiert, da eine Fülle an synthetischen Daten vorhanden war. Die Verlusthistorien zeigten keine Anzeichen von Overfitting oder Underfitting.

Bedeutung und Ansprüche
Das Paper beansprucht, einen State-of-the-Art-Ansatz zu präsentieren, der die Intelligenz der Computer Vision nutzt, um komplexe gekoppelte geomechanische und Fluidfluss-Probleme zu lösen. Die primäre Bedeutung liegt in der Generalisierung der Lösung auf beliebige Eingangs-Geometriebilder, wodurch Modelle, die auf spezifische geologische Formationen beschränkt sind, überwunden werden.

• Effizienz: Der Ansatz bietet eine recheneffiziente Alternative zu traditionellen numerischen Simulationen und ermöglicht so eine schnellere Entscheidungsfindung bei der Planung von CCS-Projekten.
• Effektivität der Architektur: Die Studie zeigt, dass die ResNetUNet-Architektur besonders effektiv für heterogene statische Mechanikprobleme ist, da sie räumliche Informationen durch Skip-Connections bewahrt.
• Temporale Modellierung: Die Arbeit validiert die Anwendbarkeit von Transformer-Modellen in der geomechanischen Zeitreihenvorhersage und zeigt, dass diese herkömmliche rekursive Netzwerke (LSTM) bei der Erfassung langfristiger Abhängigkeiten in physikalischen Systemen übertreffen können.
• Zukünftige Auswirkungen: Die Autoren postulieren, dass diese Modelle die Entscheidungsfindung bei der Überwachung der Kohlenstoffspeicherung unterstützen können, um den Klimawandel zu mildern. Zukünftige Arbeiten umfassen das Testen der Robustheit mit Generative Adversarial Networks (GANs) für komplexere Geometrien sowie die Bereitstellung einer Alpha-Version einer Webanwendung für den öffentlichen Zugang.