🧬 biology

FLUX: Geometry-Aware Longitudinal Flow Matching with Mixture of Experts

FLUX ist ein geometriebewusstes longitudinales Flow-Matching-Framework, das eine Mixture-of-Experts-Architektur nutzt, um kontinuierliche Transportdynamiken gemeinsam zu modellieren und latente Regimewechsel aus ungepaarten biologischen Momentaufnahmen zu entdecken, indem es eine datenabhängige Metrik erlernt, um eine sparse Geschwindigkeitsfeldzerlegung zu steuern.

Ursprüngliche Autoren: Josue Ortega Caro, Yongxu Zhang, Hannah M Batchelor, Sizhuang He, Jessica Cardin, Shreya Saxena

Veröffentlicht 2026-05-12

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Josue Ortega Caro, Yongxu Zhang, Hannah M Batchelor, Sizhuang He, Jessica Cardin, Shreya Saxena

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ⚕️ Dies ist eine KI-generierte Erklärung eines Preprints, das nicht peer-reviewed wurde. Dies ist kein medizinischer Rat. Treffen Sie keine Gesundheitsentscheidungen auf Grundlage dieses Inhalts. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen zu verstehen, wie sich eine Stadt im Laufe der Zeit verändert. Sie haben eine Reihe von Fotos, die an verschiedenen Tagen aufgenommen wurden, aber es gibt einen Haken: Sie wissen nicht, welche spezifische Person auf Foto A dieselbe Person auf Foto B ist. Die Menschen haben sich bewegt, das Licht hat sich geändert und die Kamerawinkel sind leicht unterschiedlich. Sie haben lediglich eine Menschenmenge um 9:00 Uhr, eine um 10:00 Uhr und eine um 11:00 Uhr, aber keine Namen oder Verfolgungsetiketten.

Genau diesem Problem sehen sich Biologen gegenüber, wenn sie Dinge wie Gehirnzellen oder sich entwickelnde Embryonen untersuchen. Sie können Tausende von Zellen fotografieren, aber sie können dieselbe Zelle von einem Moment zum nächsten nicht verfolgen, da der Messprozess die Zelle oft zerstört oder die Zellen umherdriften.

Die Arbeit stellt ein neues Werkzeug namens FLUX vor, um dieses Rätsel zu lösen. So funktioniert es, unter Verwendung einfacher Analogien:

1. Das Problem: Die Falle der „geraden Linie"

Wenn Sie versuchen, zu erraten, wie sich die Stadt zwischen 9:00 und 10:00 Uhr verändert hat, indem Sie einfach eine gerade Linie zwischen den beiden Menschenmengen ziehen, könnten Sie einen Fehler machen.

Die Realität: Die Stadt liegt auf einem gekrümmten Hügel. Um von Punkt A nach Punkt B zu gelangen, müssen Sie entlang des Hügels laufen.
Der Fehler: Wenn Sie eine gerade Linie durch die Luft ziehen (einen „euklidischen" Abkürzungsweg), könnten Sie über den Gebäuden schweben oder in den Boden sinken. In der Biologie bedeutet dies, dass Ihr Modell möglicherweise vorschlägt, dass Zellen Dinge tun, die physikalisch unmöglich oder biologisch unsinnig sind.

FLUXs Lösung: Es lernt zuerst die Form des „Hügels" (die Mannigfaltigkeit), auf der alle Daten liegen. Anstatt durch die Luft zu fliegen, lernt FLUX, entlang der Oberfläche der Daten zu laufen und dabei die natürlichen Kurven und Einschränkungen des biologischen Systems zu respektieren.

2. Die große Wendung: Der „Verkehrswechsel"

Biologische Systeme bewegen sich nicht nur; sie ändern oft wie sie sich bewegen.

Die Analogie: Stellen Sie sich vor, Sie fahren ein Auto. Morgens fahren Sie durch eine ruhige Nachbarschaft (Regime A). Plötzlich geraten Sie in den Berufsverkehr und wechseln auf eine Autobahn (Regime B). Die Verkehrsregeln ändern sich komplett.
Die Herausforderung: Alte Modelle versuchen, einen einzigen Regelsatz für die gesamte Reise zu finden. Sie geraten in Verwirrung, wenn sich die Regeln ändern.
FLUXs Lösung: FLUX verwendet eine „Mischung von Experten". Stellen Sie sich dies als eine intelligente Verkehrsleitstelle mit einem Team spezialisierter Fahrer vor:
- Fahrer A weiß, wie man in der ruhigen Nachbarschaft fährt.
- Fahrer B weiß, wie man auf der Autobahn fährt.
- Der Router: Eine intelligente KI, die die aktuelle Situation betrachtet und sagt: „Okay, wir sind jetzt in der Nachbarschaft, nutzen wir Fahrer A", und später: „Wir sind auf die Autobahn gewechselt, wechseln wir zu Fahrer B!"

FLUX errät nicht nur den Pfad; es findet heraus, wann und warum sich die Verkehrsregeln geändert haben.

3. Worauf haben sie es getestet?

Die Autoren testeten FLUX an vier verschiedenen „Städten", um zu sehen, ob es funktionierte:

Der Hase (eine 3D-Form): Sie verwendeten ein digitales Modell eines Kaninchens. Sie kannten die exakte Form der Oberfläche. FLUX fand erfolgreich heraus, wie man Punkte entlang der gekrümmten Haut des Hasen bewegt, ohne herunterzufallen, selbst wenn die Daten in einen hochdimensionalen Raum gestreckt wurden.
Das Lorenz-System (ein Wettersimulator): Dies ist ein berühmtes mathematisches Modell für chaotisches Wetter. Es hat zwei distincte „Modi" des Verhaltens. FLUX identifizierte genau, wann das System von einem Modus in den anderen wechselte, während andere Modelle nur ein verschwommenes Durcheinander sahen.
Mäusegehirne (Lernen einer Aufgabe): Sie beobachteten Mäuse, die über mehrere Tage hinweg eine visuelle Aufgabe lernten. FLUX fand heraus, dass die Aktivität des Gehirns während der Phase des „frühen Lernens" einem Regelsatz folgt und während der Phase des „späten Lernens" einem völlig anderen. Es stimmte diese Entdeckung mit dem tatsächlichen Moment überein, zu dem die Mäuse anfingen, sich anders zu verhalten.
Embryonalzellen (Heranwachsen): Sie beobachteten, wie Stammzellen zu spezialisierten Zellen wurden. FLUX trennte erfolgreich die Phase der „Stammzelle" von der Phase der „spezialisierten Zelle" und identifizierte den genauen Übergangspunkt, an dem die Zellen ihre interne Programmierung änderten.

4. Die Kernaussage

Die Arbeit behauptet, dass Geometrie wichtig ist. Man kann nicht nur auf die Datenpunkte schauen; man muss die Form verstehen, auf der sie sitzen.

Wenn Sie die Form ignorieren, könnten Sie die Bewegung richtig erraten, aber den Grund für die Bewegung verpassen.
Wenn Sie die sich ändernden Regeln (Regimes) ignorieren, könnten Sie die Bewegung für einen Moment richtig erraten, aber das große Ganze nicht verstehen.

FLUX kombiniert diese beiden Ideen: Es lernt die Form der Daten und verwendet ein Team spezialisierter „Fahrer", um herauszufinden, wann sich die Regeln des Spiels ändern. Dies ermöglicht Wissenschaftlern, die vollständige Geschichte der Evolution biologischer Systeme wiederherzustellen, selbst wenn sie nur ungepaarte Schnappschüsse haben.

Technische Zusammenfassung: FLUX – Geometrie-bewusstes longitudinales Flow Matching mit Mixture of Experts

1. Problemstellung

Viele biologische Systeme, wie neuronale Schaltkreise und sich differenzierende Zellpopulationen, entwickeln sich durch kontinuierliche lokale Dynamiken weiter, während sie zwischen latenten Regimen wechseln, die durch Lernen, Stimulus-Kontext oder Entwicklungsstadien definiert sind. Diese Systeme werden jedoch häufig nur als ungepaarte longitudinale Momentaufnahmen beobachtet. In Szenarien wie der Weitfeld-Calcium-Bildgebung oder der Einzelzell-RNA-Sequenzierung können dieselben individuellen Zellen oder Neuronen nicht über Zeitpunkte hinweg verfolgt werden; stattdessen beobachten Forscher eine Sequenz von Randverteilungen ( $\mu_0, \mu_1, \dots, \mu_{T-1}$ ).

Dieses Setting stellt zwei gekoppelte Herausforderungen dar:

Geometrische Einschränkungen: Hochdimensionale biologische Messungen konzentrieren sich oft in der Nähe von niedrigdimensionalen, gekrümmten nichtlinearen Mannigfaltigkeiten. Standard-Euklidische Interpolanten zwischen ungepaarten Endpunkten können durch Regionen niedriger Dichte verlaufen, was biophysikalische Einschränkungen verletzt und die intrinsische Geometrie des Zustandsraums nicht respektiert.
Regime-Entdeckung: Der zugrunde liegende Transportmechanismus (der „Flow") ändert sich häufig über die Zeit. Beispielsweise kann neuronale Aktivität von einer breiten Stimulus-Belohnungserwartung zu einer spezifischen Diskriminierung wechseln, oder Zellen können von pluripotenten zu linienkommitierten Programmen übergehen. Dies sind Änderungen der lokalen Dynamiken (Regime), nicht lediglich räumliche Cluster. Bestehende Methoden konzentrieren sich oft auf die Transportgenauigkeit, versagen jedoch darin, das Geschwindigkeitsfeld zu zerlegen, um diese latenten dynamischen Regime zu identifizieren.

2. Methodik: FLUX

Die Autoren stellen FLUX (Flow matching for Unpaired longitudinal data with miXture-of-experts) vor, ein Framework, das kontinuierlichen Transport und unüberwachte Regime-Entdeckung gemeinsam modelliert. Die Methode arbeitet in drei sequenziellen Stufen:

A. Geometrie-bewusste bedingte Pfade

FLUX erweitert Metric Flow Matching auf longitudinale Settings. Anstatt gerade euklidische Pfade zwischen benachbarten Randverteilungen zu verwenden, lernt FLUX eine datenabhängige Metrik aus gepoolten Beobachtungen (einschließlich ungelabelter Proben).

Metrik-Lernen: Ein Geometrie-Backend (unter Verwendung von RBF- oder RBF-MLP Deep-Kernel-Metriken) schätzt den Score für den Abstand zur Mannigfaltigkeit und definiert eine Metrik $G(x)$ , die Pfade bestraft, die die Datenmannigfaltigkeit verlassen.
Bend Network: Ein Netzwerk $B$ parametrisiert einen approximativen, geometrie-bewussten Pfad $\gamma_k(\alpha)$ zwischen den Endpunkten $x_k$ und $x_{k+1}$ . Dieser Pfad biegt sich, um auf der Mannigfaltigkeit zu bleiben, und liefert Trainingspunkte $z_{k,\alpha}$ sowie Ziel-Tangenten $\dot{z}_{k,\alpha}$ , die der lokalen Geometrie entsprechen.

B. Regime-wechselnde Geschwindigkeitsfelder

FLUX zerlegt das globale Geschwindigkeitsfeld $v_\theta$ in eine Mixture of Experts (MoE).

Expert-Vektorfelder: Das Modell lernt $M$ sparse Expert-Vektorfelder $f_m$ .
Router: Ein Router-Netzwerk $g(t, x)$ bildet Zeit und Zustand auf Expert-Logits ab.
Routing-Mechanismus: Während des Trainings wählt ein Straight-Through Gumbel-Softmax-Mechanismus einen aktiven Experten für jede Probe aus, was eine differenzierbare Optimierung diskreter Routing-Entscheidungen ermöglicht. Bei der Inferenz wird das Regime durch die deterministische harte Zuweisung (argmax) bestimmt.
Ziel: Das Geschwindigkeitsfeld wird so trainiert, dass es den Tangenten der geometrie-bewussten Pfade entspricht. Der Router wird regularisiert, um sparse, zeitlich kohärente Zuweisungen zu fördern und den Experten-Kollaps zu verhindern.

C. Trainings-Pipeline

Das Training verläuft in drei Stufen, um Stabilität zu gewährleisten:

Metrik-Lernen: Training des Geometrie-Backends auf gepoolten Proben.
Training des Bend Networks: Training des Bend Networks mit der eingefrorenen Metrik, um geometrie-bewusste Interpolanten zu generieren.
Training des Geschwindigkeitsfelds: Einfrieren der Geometrie- und Bend-Netzwerke; Training der Geschwindigkeits-Experten und des Routers auf den generierten Pfaden und Tangenten.

3. Hauptbeiträge

Erweiterung auf longitudinale Randverteilungen: Die Autoren erweitern geometrie-bewusstes Flow Matching auf geordnete Ketten von Randverteilungen und betonen die Rolle des unüberwachten Manifold-Lernens, wenn Trajektorien-Labels spärlich sind, aber ungelabelte Beobachtungen verfügbar sind.
Regime-Entdeckung durch Geschwindigkeitszerlegung: Sie führen ein regime-wechselndes Geschwindigkeitsfeld ein, bei dem das sparse Expert-Routing latente dynamische Regime direkt aus der lokalen Transportstruktur entdeckt, anstatt statische Beobachtungen nachträglich zu clustern.
Wechselspiel zwischen Geometrie und Regime: Die Arbeit zeigt, dass geometrisches Lernen für die Regime-Entdeckung entscheidend ist, insbesondere wenn Regime durch Änderungen der lokalen Dynamiken definiert sind und nicht durch statische räumliche Trennung.
Biologische Validierung: Das Framework wird in zwei unterschiedlichen biologischen Settings validiert:
- Neuronale Daten: Trennung von früher/mittlerer Trainingsphase von später Trainingsphase beim assoziativen Lernen, korrelierend mit Verhaltensdivergenz.
- Entwicklungsbiologie: Wiederherstellung von Expressions-Evolutions-Regimen, die mit pluripotenten versus differenzierten Zellpopulationen in Embryoidkörpern assoziiert sind.

4. Ergebnisse

Die Arbeit evaluiert FLUX auf vier Datensätzen: Stanford Bunny (kontrollierte Mannigfaltigkeit), Lorenz-Attraktor (regime-wechselnde Dynamiken), Weitfeld-Calcium-Bildgebung (neuronales Lernen) und Differenzierung von Embryoidkörpern.

Stanford Bunny: FLUX erhält den Oberflächentransport in hochdimensionalen Einbettungen, wo euklidische Methoden versagen, auf der Mannigfaltigkeit zu bleiben.
Lorenz-Attraktor: FLUX erreicht eine perfekte Regime-Wiederherstellung (ARI=1.0, NMI=1.0), indem es den Wechsel zwischen chaotischen und subkritischen Regimen identifiziert. Entscheidend ist, dass FLUX ohne Manifold-Lernen (unter Verwendung euklidischer Pfade) zu einem einzigen Experten kollabiert und das Regime nicht entdeckt, obwohl es dieselbe MoE-Architektur besitzt. Dies beweist, dass geometrie-bewusste Pfade die Krümmungs- und Geschwindigkeitssignaturen freilegen, die für die Expertenspezialisierung notwendig sind.
Neuronale Daten: FLUX identifiziert einen Übergang in der kortikalen Dynamik, der mit dem Auftreten von Verhaltensdiskriminierung (CS+ vs. CS−) übereinstimmt und dabei euklidisches Routing sowie wechselnde dynamische Baselines übertrifft.
Embryoidkörper: Während euklidisches Routing hier gut funktioniert (da Stadien räumlich trennbar sind), bleibt FLUX mit geometrischem Lernen konkurrenzfähig, was unterstreicht, dass Geometrie am kritischsten ist, wenn Regime in lokalen Dynamiken kodiert sind.

Ablations-Ergebnisse: Die Arbeit stellt explizit fest, dass das Routing allein durch Mixture-of-Experts nicht ausreicht. Ohne geometrisches Lernen kann das Modell zwar den lokalen Transport anpassen, scheitert jedoch daran, Regime wiederherzustellen, wenn diese Regime in den lokalen Dynamiken und nicht in statischen Clustern kodiert sind.

5. Bedeutung und Behauptungen

Die Autoren behaupten, dass die geometrie-bewusste Geschwindigkeitszerlegung eine allgemeine Strategie zur Entdeckung latenter biologischer Zustandsübergänge aus ungepaarten longitudinalen Momentaufnahmen bietet.

Wissenschaftliche Auswirkung: FLUX verlagert den Fokus von der reinen Optimierung der Transportgenauigkeit (Minimierung der Wasserstein-Distanz) hin zur Wiederherstellung interpretierbarer dynamischer Strukturen. Es legt nahe, dass biologische Systeme sich während Prozesse wie Lernen und Differenzierung häufig in distincte dynamische Regime reorganisieren.
Limitationen: Die Autoren erkennen an, dass FLUX aufgrund des Trainings von drei verschiedenen Netzwerken rechnerisch teurer ist als euklidisches Flow Matching. Sie weisen zudem darauf hin, dass die Anzahl der Experten im Voraus festgelegt ist und dass abgeleitete Regime vorsichtig interpretiert werden sollten, wenn lokale Dynamiken verrauscht oder schwach beprobt sind.
Fazit: Die Arbeit schließt, dass FLUX ein Framework für die interpretierbare dynamische Modellierung ungepaarter biologischer Momentaufnahmen bietet und die Lücke zwischen geometrischem Manifold-Lernen und regime-wechselnden dynamischen Systemen schließt.