PASM: Population Adaptive Symbolic Mixture-of-Experts Model for Cross-location Hurricane Evacuation Decision Prediction

Das Paper stellt PASM vor, ein populationsadaptives Symbolisches Mixture-of-Experts-Modell, das durch die Kombination von symbolischer Regression und einem Routing-Mechanismus interpretierbare Entscheidungsregeln für Evakuierungsverhalten entwickelt und dabei die Generalisierungsfähigkeit über verschiedene geografische Regionen hinweg signifikant verbessert.

Das Wesentliche

Das große Problem: Ein Rezept passt nicht für alle

Stellen Sie sich vor, Sie sind ein Notfallmanager. Ein riesiger Hurrikan kommt auf die USA zu. Ihre Aufgabe ist es, vorherzusagen: Wer wird evakuieren und wer bleibt?

Das ist lebenswichtig. Wenn Sie wissen, wer geht, können Sie Busse schicken, Notunterkünfte vorbereiten und Rettungskräfte dorthin lenken, wo sie gebraucht werden.

Das Problem ist aber: Was in Florida funktioniert, funktioniert nicht unbedingt in Georgia.

Die Forscher haben Daten aus Texas, Florida und Georgia analysiert. Sie stellten fest: Selbst wenn zwei Familien genau gleich aussehen (gleicher Einkommen, gleiche Kinder, gleiche Angst vor dem Sturm), treffen sie in verschiedenen Bundesstaaten völlig unterschiedliche Entscheidungen.

• In Florida bleibt vielleicht die Familie mit dem hohen Einkommen, weil sie denkt, ihr Haus hält stand.
• In Georgia evakuiert genau diese Familie sofort, weil sie dort eine andere Kultur oder andere Erfahrungen mit Stürmen hat.

Frühere Computermodelle waren wie ein einheitlicher Koch, der versucht, für alle Gäste das gleiche Gericht zu kochen. Er probiert ein Rezept (das "globale Modell"), das für die meisten in Florida gut ist. Aber wenn er dieses Rezept nach Georgia bringt, schmeckt es dort furchtbar, weil er die lokalen Vorlieben ignoriert. Er übersieht die schwächsten und gefährdetsten Gruppen, weil sie im Durchschnitt "untergehen".

Die Lösung: PASM – Das "All-Star-Team" mit einem cleveren Manager

Die Autoren haben eine neue Methode namens PASM entwickelt. Man kann sich das wie ein All-Star-Team von Spezialisten vorstellen, die von einem sehr klugen Manager gelenkt werden.

Hier ist, wie es funktioniert, Schritt für Schritt:

1. Die Spezialisten (Die "Experten")

Statt eines einzigen großen Modells hat PASM viele kleine Modelle, die wir "Experten" nennen. Jeder Experte ist ein klarer, verständlicher Satz (eine Formel), der eine bestimmte Art von Menschen beschreibt.

• Experte A sagt vielleicht: "Wenn du jung bist und deine Nachbarn schon weg sind, dann geh auch."
• Experte B sagt vielleicht: "Wenn du alt bist und in einem Wohnmobil wohnst, dann geh sofort, egal was die Nachbarn tun."

Diese Formeln wurden nicht von Menschen erfunden, sondern von einer KI (einem großen Sprachmodell) entdeckt, die in den Daten nach Mustern gesucht hat. Das Tolle: Die Formeln sind so einfach, dass ein Mensch sie lesen und verstehen kann.

2. Der Manager (Der "Router")

Jetzt kommt der Clou. Wenn eine neue Familie anruft und sagt: "Wir wohnen in Georgia, sind 35 Jahre alt und haben zwei Kinder", schaut sich der Manager (ein kleines KI-Programm) diese Familie an.
Der Manager fragt sich: "Welcher Experte passt am besten zu dieser Familie?"

• Er schickt die junge Familie zu Experte A.
• Er schickt die alte Familie zu Experte B.

Der Manager lernt dabei aus ein paar wenigen Beispielen (nur 100 Personen aus Georgia), wie er die Leute in die richtigen Gruppen einteilt. Er muss nicht das ganze Land neu lernen, er muss nur wissen, welcher Experte für welche Person zuständig ist.

3. Die Anpassung (Der "Feinschliff")

Manchmal ist ein Experte fast richtig, aber die Zahlen passen nicht ganz. Der Manager kann die Formel des Experten noch ein wenig anpassen.

• Beispiel: Ein Experte sagt "Geh, wenn der Wind 50 km/h hat". Aber in Georgia ist die Toleranz vielleicht niedriger. Der Manager sagt dem Experten: "Okay, für diese Gruppe in Georgia, setze die Grenze auf 40 km/h."
  Das macht das Modell extrem flexibel und genau.

Warum ist das so viel besser als die alten Methoden?

Die Forscher haben PASM gegen die besten anderen Methoden getestet (wie XGBoost, TabPFN und sogar moderne KI wie GPT-5).

• Das Ergebnis: PASM war deutlich genauer. Stellen Sie sich vor, die alten Methoden hatten eine Trefferquote von 40 %, während PASM bei 60 % lag. Das ist in der Welt der Katastrophenvorsorge ein riesiger Unterschied.
• Die Fairness: Die alten Modelle haben oft die armen oder älteren Menschen übersehen. PASM hat sich als fair erwiesen: Es trifft für alle Bevölkerungsgruppen (Männer, Frauen, verschiedene Altersgruppen) etwa gleich gute Vorhersagen.
• Die Geschwindigkeit: Sobald der Manager trainiert ist, ist die Vorhersage blitzschnell. Der aufwendige Teil (das Finden der Formeln) passiert nur einmal im Hintergrund.

Ein Bild zur Veranschaulichung

Stellen Sie sich vor, Sie versuchen, das Wetter vorherzusagen.

• Das alte Modell ist wie ein einziger Wetterbericht, der für ganz Deutschland gilt. Er sagt: "Es wird regnen." Aber in München ist es sonnig, und in Hamburg stürmt es. Der Bericht ist für beide falsch.
• PASM ist wie ein Team von lokalen Wetterexperten. Es gibt einen Experten für den Alpenraum, einen für die Küste und einen für das Flachland. Ein cleverer Assistent schaut sich an, wo Sie stehen, und ruft genau den Experten an, der für Ihre Region zuständig ist. Der Assistent weiß auch: "Ach ja, in Bayern ist es heute etwas kühler als sonst, also korrigiere den Experten ein bisschen."

Fazit

PASM ist ein Werkzeug, das hilft, Menschen in Notlagen besser zu verstehen. Es erkennt an, dass nicht alle Menschen gleich denken, auch wenn sie auf dem Papier gleich aussehen. Indem es viele kleine, verständliche Regeln kombiniert und intelligent steuert, kann es Vorhersagen treffen, die nicht nur genauer sind, sondern auch fairer und für echte Menschen nachvollziehbar.

Das bedeutet: Wenn der nächste Hurrikan kommt, können die Helfer besser wissen, wer Hilfe braucht, bevor der Sturm überhaupt losgeht.

Technische Zusammenfassung

1. Problemstellung

Die genaue Vorhersage von Evakuierungsentscheidungen ist für das Katastrophenmanagement entscheidend. Bestehende Modelle, die in einer Region trainiert wurden, versagen jedoch oft bei der Übertragung auf andere Regionen (Cross-Location Generalization).

• Herausforderung: Der Leistungsabfall liegt nicht nur an einer Verschiebung der Merkmalsverteilung (Feature Distribution Shift). Vielmehr folgen Haushalte mit ähnlichen sozioökonomischen Merkmalen in verschiedenen Bundesstaaten (z. B. Florida, Texas, Georgia) systematisch unterschiedlichen Entscheidungsmustern.
• Folgen globaler Modelle: Ein einzelnes globales Modell neigt dazu, dominante Verhaltensmuster zu überanpassen (Overfitting), was dazu führt, dass verletzliche Subpopulationen falsch eingeschätzt werden und das Modell bei der Übertragung auf neue Standorte schlecht generalisiert.
• Beobachtung: Die Studie zeigt eine asymmetrische Transferierbarkeit: Modelle funktionieren gut zwischen Florida und Texas, scheitern aber drastisch bei der Anwendung auf Georgia, obwohl die Datenstrukturen ähnlich erscheinen. Dies deutet auf latente, standortspezifische Verhaltensheterogenität hin.

2. Methodik: PASM (Population-Adaptive Symbolic Mixture-of-Experts)

Die Autoren schlagen PASM vor, ein hybrides Framework, das symbolische Regression mit einer Mixture-of-Experts (MoE)-Architektur kombiniert, um sowohl Interpretierbarkeit als auch Robustheit gegenüber Verteilungsverschiebungen zu gewährleisten.

Das Framework besteht aus drei Hauptphasen:

• Phase 1: Entdeckung von Subpopulationen (Subpopulation Discovery)

  • Anstatt vordefinierte Gruppen zu verwenden, werden Haushaltsmerkmale mittels UMAP (Dimensionsreduktion) und HDBSCAN (dichtebasiertes Clustering) in einen niedrigdimensionalen Raum eingebettet.
  • Dies ermöglicht die Identifizierung latenter, kohärenter Subgruppen mit unterschiedlichen Evakuierungsverhalten, ohne die Anzahl der Cluster vorzugeben.

• Phase 2: Konstruktion symbolischer Experten (Symbolic Expert Construction)

  • Es wird eine Bibliothek aus interpretierbaren symbolischen Ausdrücken erstellt.
  • Ein globaler Experte modelliert populationsweite Muster.
  • Cluster-spezifische Experten modellieren die Entscheidungslogik einzelner Subpopulationen.
  • Die symbolischen Regressionen werden mittels LaSR (LLM-guided Symbolic Regression) durchgeführt, wobei ein Large Language Model (Qwen3-8B) als Leitfaden dient, um kompakte und physikalisch plausible Formeln zu entdecken.

• Phase 3: Integration via Mixture-of-Experts (MoE)

  • Ein gelernter Router (ein MLP) weist jedem Eingabevektor eine Wahrscheinlichkeitsverteilung über die Experten zu.
  • Coefficient-Adaptive MLP: Ein entscheidendes Merkmal ist die Anpassung der internen Koeffizienten der symbolischen Formeln an die Eingabe. Da dieselben Merkmale (z. B. hohes Einkommen) in verschiedenen Kontexten unterschiedliche Bedeutungen haben können, werden die Koeffizienten nicht als feste Werte, sondern als input-abhängige Funktionen gelernt.
  • Die endgültige Vorhersage ist eine gewichtete Summe der kalibrierten Experten-Logits, gefolgt von einer Sigmoid-Funktion.

• Optimierung: Das Modell wird end-to-end trainiert. Neben der Hauptverlustfunktion (Binary Cross-Entropy) werden Regularisierungen eingesetzt, um Router-Kollaps zu verhindern, die Nutzung der Experten zu balancieren (KL-Divergenz) und die Diversität der Experten zu fördern.

3. Wichtige Beiträge

• Neue Architektur: PASM ist das erste Framework, das LLM-gestützte symbolische Regression mit einem gelernten MoE-Router und input-abhängiger Koeffizienten-Anpassung kombiniert, um heterogenes Verhalten in Katastrophenszenarien zu modellieren.
• Interpretierbarkeit: Im Gegensatz zu Black-Box-Modellen (wie neuronalen Netzen) liefert PASM geschlossene mathematische Formeln (z. B. EvacPctZip/c0 - log(Age)), die direkt für Notfallplaner verständlich sind.
• Umgang mit Heterogenität: Das Modell erkennt, dass keine universelle Entscheidungsgesetzgebung existiert, und passt sich dynamisch an verschiedene demografische und verhaltensbasierte Subgruppen an.
• Fairness: Eine Fairness-Auditierung über vier demografische Achsen (Rasse, Geschlecht, Bildung, Alter) ergab nach Bonferroni-Korrektur keine statistisch signifikanten Diskriminierungen.

4. Ergebnisse

Die Evaluation erfolgte auf Daten von Hurrikan Harvey (Texas) und Irma (Florida/Georgia). Das Szenario war: Training auf Florida/Texas, Transfer auf Georgia mit nur 100 Kalibrierungsstichproben (Few-Shot).

• Leistungsmetriken (Matthews Correlation Coefficient - MCC):

  • PASM: 0.607
  • XGBoost: 0.404
  • GPT-5-mini: 0.434
  • TabPFN: 0.333
  • Meta-Learning Baselines (MAML, Prototypical Networks): ≤ 0.346
  • PASM übertrifft die besten Baselines um 40–82 % (relativ).

• Robustheit: Der Leistungsabfall von der Kalibrierung auf den Testdatensatz war bei PASM minimal (9,3 %), während andere Modelle Verluste von über 55 % zeigten.

• Entdeckte Muster: Der Router ordnete drei Formel-Archetypen zu:

  1. Ein linearer Additiv-Modell für die jüngste Kohorte (direkte Reaktion auf sozialen Druck).
  2. Ein geografischer Druck vs. Alterswiderstand (für mittlere bis ältere Demografien).
  3. Ein komplexes, nichtlineares Modell mit acht Merkmalen für sozial isolierte Gruppen.

• Ablationsstudien:

  • Das Entfernen des Routers (statisches Mittel) führte zu starken Leistungseinbußen.
  • Der Ersatz der symbolischen Experten durch logistische Regressionen zeigte, dass nichtlineare Interaktionen (erfasst durch die symbolischen Formeln) für die Leistung entscheidend sind.
  • Die input-abhängige Koeffizienten-Anpassung war essenziell; statische Koeffizienten führten zu schlechterer Leistung.

5. Bedeutung und Fazit

PASM schließt mehr als die Hälfte der Generalisierungslücke bei der Übertragung von Evakuierungsmodellen zwischen verschiedenen Bundesstaaten.

• Praktische Relevanz: Da die Modelle interpretierbare Regeln liefern, können Notfallmanager die Entscheidungslogik nachvollziehen und Vertrauen in die Vorhersagen gewinnen.
• Effizienz: Obwohl die symbolische Suche rechenintensiv ist (LLM-Calls), ist die Inferenz und das Training des Routers extrem schnell (Sekunden).
• Datenbedarf: Das Modell benötigt nur sehr wenige lokale Kalibrierungsdaten (ca. 50–100 Stichproben), um sich an einen neuen Standort anzupassen, was es für den Einsatz in neuen Katastrophengebieten ideal macht.

Zusammenfassend demonstriert PASM, dass die Kombination aus symbolischer KI (für Interpretierbarkeit) und Mixture-of-Experts (für Heterogenität) ein vielversprechender Weg ist, um robuste und faire Entscheidungsunterstützungssysteme für Katastrophenmanagement zu entwickeln.