Analytic continuation of Green's functions with a neural network

Diese Arbeit stellt eine Methode vor, bei der ein positives semidefinites Convolutional Neural Network zur analytischen Fortsetzung von imaginärzeitlichen Green-Funktionen in Spektraldichten trainiert wird und zeigt, dass es zwar bei datennahen Fällen den Standard MaxEnt-Algorithmus übertrifft, bei physikalischen Modellen jedoch noch hinter dessen Genauigkeit zurückbleibt.

Das Wesentliche

Das große Rätsel: Vom unscharfen Foto zum scharfen Bild

Stellen Sie sich vor, Sie haben ein Foto gemacht, das extrem unscharf und verrauscht ist. Vielleicht war es dunkel, oder die Kamera hat gezittert. Ihr Ziel ist es, das ursprüngliche, scharfe Bild wiederherzustellen, das vor der Kamera stand.

In der Welt der Physik (speziell bei vielen Teilchen, die zusammen interagieren) passiert genau das:

• Das unscharfe Foto: Das sind Daten, die man im Computer leicht berechnen kann (man nennt sie "imaginäre Zeit"). Sie sind wie ein verschwommener Schattenwurf der Realität.
• Das scharfe Bild: Das ist die wahre physikalische Realität, die wir eigentlich sehen wollen (die "Spektraldichte" bei echten Frequenzen). Sie verrät uns, wie sich Teilchen bewegen, wie sie leuchten oder wie sie sich verhalten.

Das Problem: Wenn man versucht, aus dem unscharfen Schatten das scharfe Bild zurückzurechnen, ist das extrem schwierig. Es ist wie ein Puzzle, bei dem die Teile vermischt wurden und einige fehlen. Kleine Fehler im unscharfen Bild führen zu riesigen, verrückten Fehlern im scharfen Bild. Das nennt man in der Physik ein "schlecht gestelltes Problem".

Die alten und die neuen Methoden

Bisher gab es zwei Hauptwege, dieses Puzzle zu lösen:

1. Der alte Weg (MaxEnt): Das ist wie ein erfahrener Detektiv, der sehr vorsichtig ist. Er nutzt Regeln und Wahrscheinlichkeiten, um das Bild zu rekonstruieren. Er ist sehr stabil und findet oft die richtigen physikalischen Gesetze, aber er neigt dazu, das Bild etwas "verwaschen" zu machen. Feine Details gehen dabei oft verloren.
2. Der neue Weg (Neuronales Netz): Die Autoren dieser Arbeit haben einen künstlichen Intelligenz-Künstler (ein neuronales Netz) trainiert. Dieser Künstler hat tausende von Beispielen gelernt: "Wenn das unscharfe Bild so aussieht, dann muss das scharfe Bild so aussehen."

Wie haben sie den Künstler trainiert?

Ein KI-Modell lernt nur, wenn man ihm viele Beispiele zeigt. Aber echte physikalische Daten sind selten und schwer zu bekommen. Also mussten die Forscher künstliche Trainingsdaten erschaffen.

Stellen Sie sich vor, sie haben einen Roboter gebaut, der zufällige Berglandschaften (die "Spektraldichten") malt.

• Der Trick: Statt einfach zufällige Berge zu malen, haben sie "Kollisionszentren" eingeführt. Das bedeutet, sie haben Berge so platziert, dass sie sich überlappen, genau wie es in der echten Physik oft vorkommt.
• Das Rauschen: Sie haben dem Bild absichtlich "Körnung" (Rauschen) hinzugefügt, damit der KI-Künstler lernt, auch mit schlechten Fotos umzugehen, wie sie echte Computer-Simulationen liefern.

Der KI-Künstler hat dann gelernt, aus dem verrauschten, unscharfen Schatten das scharfe Bergpanorama zu rekonstruieren.

Das Duell: KI gegen Detektiv

Die Forscher haben nun beide Methoden gegeneinander antreten lassen:

1. Auf den künstlichen Trainingsdaten: Hier war die KI unschlagbar. Sie war schneller und präziser als der alte Detektiv (MaxEnt). Sie konnte die genauen Spitzen der Berge (die physikalischen Signale) besser lokalisieren.

   • Aber: Die KI hatte eine Macke. Sie war so darauf trainiert, die Spitzen genau zu treffen, dass sie manchmal kleine Nebelberge ignorierte, die der Detektiv trotzdem sah.

2. Auf echten physikalischen Modellen: Als sie die KI auf echte, komplexe Physik-Probleme anwendeten (wie Elektronen in einem Gitter, die sich in "Spin" und "Ladung" aufspalten), war es anders.

   • Der Detektiv (MaxEnt) war hier vorsichtiger und erkannte die physikalischen Strukturen sicherer.
   • Die KI war etwas chaotischer. Sie erzeugte manchmal "Geisterbilder" (künstliche Streifen im Bild), weil sie auf Daten trainiert war, die nicht genau genug die echte Physik abbildeten.

Das Fazit: Ein vielversprechender Anfänger

Was sagen uns diese Ergebnisse?

• Die KI ist ein Genie für Muster, solange die Aufgaben denen ähneln, die sie gelernt hat. Sie ist schneller und kann bei ähnlichen Daten besser sein als die alten Methoden.
• Aber die KI ist noch nicht perfekt, weil sie noch nicht genug "echte" Physik gesehen hat. Sie hat zu viel mit künstlichen Bergen trainiert und zu wenig mit echten Landschaften.
• Der alte Detektiv (MaxEnt) ist immer noch der sicherere Partner für echte, unbekannte physikalische Probleme, weil er auf festen Regeln basiert.

Die große Hoffnung:
Die Autoren glauben, dass man die KI noch viel besser machen kann. Wenn man ihr in Zukunft mehr echte Daten zeigt (vielleicht sogar echte Messdaten aus Laboren, die man digitalisiert), könnte sie den Detektiv bald komplett ablösen. Sie ist wie ein junger Sportler, der im Training schon Weltrekordzeiten läuft, aber im echten Wettkampf noch an der Erfahrung fehlt.

Kurz gesagt: Die Wissenschaftler haben einen neuen, schnellen Weg gefunden, physikalische Rätsel zu lösen, der in Zukunft noch besser werden könnte, wenn man ihn nur noch mehr "füttert" mit den richtigen Daten.

Technische Zusammenfassung

Titel: Analytische Fortsetzung von Green-Funktionen mit einem neuronalen Netzwerk

Autoren: Fakher Assaad, Johanna Erdmenger, Anika Götz, René Meyer, Martin Rackl, Yanick Thurn
Institution: Julius-Maximilians-Universität Würzburg (Theoretische Physik und Astrophysik)

---

1. Problemstellung

Ein zentrales Problem in der Vielteilchenphysik ist die Rekonstruktion der spektralen Dichte $A(\omega)$ im Real-Frequenz-Bereich aus der Green-Funktion $G(\tau)$ im imaginären Zeit-Bereich. Dieser Prozess wird als analytische Fortsetzung bezeichnet.

• Herausforderung: Die Beziehung zwischen $G(\tau)$ und $A(\omega)$ wird durch ein Integral mit einem Fermionen-Kernel $K(\tau, \omega)$ beschrieben, der für große Frequenzen exponentiell abfällt. Die Inversion dieses Operators ist ein schlecht gestelltes (ill-posed) Problem: Kleine numerische Fehler oder Rauschen in den $G(\tau)$-Daten (die typischerweise aus Monte-Carlo-Simulationen stammen) führen zu exponentiell anwachsenden Instabilitäten in der Lösung.
• Ziel: Entwicklung einer robusten Methode, um $A(\omega)$ aus verrauschten $G(\tau)$-Daten zu rekonstruieren, die den etablierten Methoden (insbesondere der Maximum-Entropy-Methode, MaxEnt) überlegen oder zumindest vergleichbar ist.

2. Methodik

A. Neuronales Netzwerk-Architektur

Die Autoren verwenden ein Convolutional Neural Network (CNN), das speziell für die physikalischen Anforderungen des Problems konzipiert wurde:

1. Eingabe: Imaginäre Zeit-Green-Funktionen $G(\tau)$ mit einer Dimension von $n=101$.
2. Faltungsteil (Convolution): Drei Faltungsschichten berechnen lokale Ableitungen (Steigungen) der Eingabedaten. Dies nutzt die Translation-Invarianz und lokale Eigenschaften der Daten. Die Aktivierungsfunktion ist PReLU (Parametric ReLU).
3. Dichter Teil (Dense): Drei vollvernetzte Schichten mit 6336, 7000 und 7500 Neuronen, die die hochdimensionalen Merkmale verarbeiten.
4. De-Faltungsteil (Deconvolution): Zwei transponierte Faltungsschichten und eine finale Faltungsschicht erweitern die Ausgabe auf 20.000 Neuronen, um die spektrale Dichte mit hoher Frequenzauflösung darzustellen.
5. Normalisierung: Eine abschließende Schicht erzwingt die Summenregel (Normierung der spektralen Dichte auf 1), indem sie die Fläche unter der Kurve berechnet und skaliert.
6. Ausgabe: Die spektrale Dichte $A(\omega)$, die positiv definit ist.

B. Generierung der Trainingsdaten

Da keine großen Mengen an realen, gelabelten Daten für dieses inverse Problem existieren, wurde ein komplexer Prozess zur Erzeugung synthetischer Trainingsdaten entwickelt:

• Basis: Spektrale Dichten werden als Überlagerung von Gauß-Funktionen konstruiert.
• Innovation (Kollisionszentren): Im Gegensatz zu früheren Arbeiten, die Gauß-Funktionen gleichverteilt platzierten, wurden hier zufällige "Kollisionszentren" eingeführt. Um diese Zentren herum werden mehrere Gauß-Funktionen mit zufälligen Varianzen und Höhen gruppiert, um Überlappungen und realistischere Strukturen zu erzeugen.
• Komplexität:
  • 20 % der Daten enthalten zufällige Stufenfunktionen (Heaviside), um nicht-glattes Verhalten zu simulieren.
  • Ein Tiefpassfilter (IIR) wird angewendet, um die Schärfe der Stufen zu reduzieren.
  • Rauschen: Künstliches, räumlich korreliertes Rauschen (pink noise mit zufällig gewähltem Potenzgesetz-Exponenten) wird hinzugefügt, um die Korrelationen von Monte-Carlo-Simulationen nachzuahmen.
• Datensatz: 35.008 Trainings- und 3.200 Testdaten für inverse Temperaturen $\beta \in \{10, 20\}$.

C. Verlustfunktion und Training

• Verlustfunktion: Eine Kombination aus quadratischem Fehler ($L_{l2}$) und absolutem Fehler ($L_{l1}$).
  • $L = L_{l2} + L_{l1}$.
  • Dies verhindert, dass das Netzwerk nur auf große Peaks optimiert wird (durch $L_{l2}$), während gleichzeitig kleine Abweichungen bestraft werden (durch $L_{l1}$).
• Optimierung: Stochastischer Gradientenabstieg (SGD) über 2.000 Epochen mit einer Lernrate, die von $10^{-2}$ auf $10^{-5}$ sinkt.

3. Ergebnisse und Vergleich

Das Netzwerk wurde gegen den Standardalgorithmus MaxEnt (Maximum Entropy) getestet.

A. Validierung mit synthetischen Daten

• Auf einem Testset, das der Trainingsverteilung entspricht, übertrifft das neuronale Netzwerk MaxEnt in allen Metriken (MSE, MAE, Wasserstein-Distanz).
• Beobachtungen:
  • Das Netzwerk lokalisiert die Position von hohen Peaks präziser als MaxEnt.
  • MaxEnt ist jedoch sensitiver für sehr kleine Peaks, die das Netzwerk manchmal ignoriert (vermutlich aufgrund der Verlustfunktion, die Höhenunterschiede priorisiert).
  • MaxEnt neigt bei scharfen Peaks zu Oszillationen (Überanpassung), während das Netzwerk glattere, aber manchmal zu glatte Ergebnisse liefert.

B. Physikalische Modelle

1. 1D Hubbard-Modell (Spin-Ladungs-Trennung):
   • Das Netzwerk erkennt die Trennung von Spinon- und Holon-Verhalten, zeigt jedoch Artefakte in Form einer "Stratifizierung" des Bildes.
   • Es verliert spektrale Gewichte an den Rändern (Schattenbänder) im Vergleich zu MaxEnt.
   • Ergebnis: MaxEnt erfasst die physikalischen Feinheiten hier präziser.
2. 2D SSH-Modell (Self-Consistent Born Approximation):
   • Das Modell enthält kohärente Quasiteilchen-Exzitationen und inkohärente Hintergründe.
   • Das Netzwerk kann die inkohärenten Hochfrequenz-Features erkennen, scheitert jedoch daran, die Infrarot-Lücke (Gap) korrekt aufzulösen.
   • Ursache: Die Trainingsdaten basierten auf Gauß-Funktionen und enthielten keine expliziten Lücken. Daher sind diese physikalischen Daten "Out-of-Distribution" für das Netzwerk.

4. Schlüsselerkenntnisse und Bedeutung

• Stärke des Ansatzes: Das neuronale Netzwerk ist ein leistungsfähiges Werkzeug für schlecht gestellte inverse Probleme, insbesondere wenn die Testdaten der Trainingsverteilung nahe kommen. Es bietet eine schnelle Vorhersage ohne iterative Optimierung wie bei MaxEnt.
• Limitierung: Die Qualität des neuronalen Netzwerks hängt stark von der Vielfalt und Qualität der Trainingsdaten ab. Das aktuelle Training mit rein gaußförmigen Peaks reicht nicht aus, um komplexe physikalische Phänomene wie Lücken oder spezifische Korrelationen in realen Modellen perfekt abzubilden.
• Vergleich mit MaxEnt:
  • Bei synthetischen Daten: Netzwerk > MaxEnt.
  • Bei realen physikalischen Modellen: MaxEnt > Netzwerk (bisher).
• Ausblick: Die Autoren schlagen vor, die Trainingsdaten durch physikalisch motivierte Modelle (wie das SSH-Modell selbst) oder experimentelle Spektroskopiedaten zu erweitern. Da die Transformation von Real-Frequenz-Daten zu imaginärer Zeit stabil ist, könnten solche Daten direkt für das Training genutzt werden, um die Generalisierungsfähigkeit des Netzwerks zu verbessern.

Fazit: Die Arbeit demonstriert das Potenzial von Deep Learning für die analytische Fortsetzung in der Vielteilchenphysik. Obwohl MaxEnt derzeit bei komplexen physikalischen Modellen noch robuster ist, bietet das neuronale Netzwerk einen vielversprechenden Weg, der durch systematische Verbesserung der Trainingsdatengenerierung weiter optimiert werden kann.