🧬 biology

Flow Matching for Count Data

Het artikel introduceert count-FM, een simulatievrij flow-matching-raamwerk gebaseerd op continue-tijd geboorte-sterfte-processen dat hoogdimensionale telgegevens, zoals single-cell RNA-sequencing en neurale spike-trains, efficiënt genereert en transporteert, terwijl het bestaande baselines overtreft in steekproefkwaliteit en modelleer-efficiëntie.

Oorspronkelijke auteurs: Ganchao Wei, John Pearson

Gepubliceerd 2026-05-11

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC0 1.0

Oorspronkelijke auteurs: Ganchao Wei, John Pearson

Oorspronkelijk artikel vrijgegeven aan het publieke domein onder CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/). ⚕️ Dit is een AI-gegenereerde uitleg van een preprint die niet peer-reviewed is. Dit is geen medisch advies. Neem geen gezondheidsbeslissingen op basis van deze inhoud. Lees de volledige disclaimer

Stel je voor dat je een enorme menigte mensen probeert van de ene kamer naar de andere te verplaatsen. In deze menigte houdt elke persoon een specifiek aantal appels vast. Sommigen hebben er nul, anderen één, weer anderen vijftig, en niemand kan een halve appel vasthouden. Dit noemen wetenschappers teltdata: informatie die in gehele getallen voorkomt, zoals het aantal actieve genen in een cel of het aantal keren dat een neuron vuur.

Het artikel introduceert een nieuw hulpmiddel genaamd count-FM om deze "appelhoudende" menigten van de ene toestand naar de andere te verplaatsen (bijvoorbeeld van jonge cellen naar oude cellen, of van een rustend brein naar een actief brein).

Hier is hoe het werkt, met eenvoudige analogieën:

1. Het Probleem: De "Pixel" versus de "Emmer"

Bestaande methoden om dit soort data te verplaatsen proberen meestal een van de twee dingen te doen, en beide zijn onhandig:

De "Pixel"-benadering: Ze behandelen elk mogelijk aantal appels (0, 1, 2, 3... tot 100) als een volledig verschillende, niet-gerelateerde categorie, net als "Rood", "Blauw" en "Groen" als totaal verschillende kleuren behandelen. Dit maakt de wiskunde enorm zwaar en traag, vooral als mensen duizenden appels kunnen vasthouden.
De "Emmer"-benadering: Ze doen alsof de appels eigenlijk vloeistof zijn (continue water) om de wiskunde makkelijker te maken, en proberen ze later weer terug te gieten in hele appels. Maar dit vervaagt de lijnen; je verliest het feit dat je geen 4,5 appels kunt hebben.

count-FM zegt: "Laten we stoppen met doen alsof. Laten we de appels de hele tijd als hele appels houden."

2. De Oplossing: De "Geboorte en Dood"-lift

In plaats van appels in vloeistof om te zetten of getallen als niet-gerelateerde kleuren te behandelen, gebruikt count-FM een continu-tijd geboorte-dood-proces.

Stel je een gigantisch liftsysteem voor waar mensen alleen omhoog of omlaag kunnen bewegen, één stap per keer.

Geboorte: Een persoon krijgt één appel.
Dood: Een persoon verliest één appel.

Het model leert de regels voor wanneer deze "geboorten" en "doden" moeten plaatsvinden. Het probeert niet om de eindbestemming in één grote sprong te raden. In plaats daarvan simuleert het een reis waarbij mensen, naarmate de tijd vordert, langzaam één voor één appels winnen of verliezen totdat ze de verdeling van de doelpopulatie bereiken.

3. Waarom het Efficiënt is: De "Lokale" Kaart

De meeste andere modellen proberen een enorme kaart te tekenen van elke mogelijke bestemming voor elke persoon. Als je 10.000 genen (variabelen) hebt en elk kan 100 waarden hebben, is die kaart onmogelijk groot.

count-FM is als een lokale GPS. Het vraagt alleen: "Als ik nu 5 appels heb, wat is de kans dat ik er één win? Wat is de kans dat ik er één verlies?"

Het negeert de verre mogelijkheden.
Het kijkt alleen naar de directe volgende stap (+1 of -1).
Resultaat: Het gebruikt een tiny fractie van het computergeheugen (parameters) in vergelijking met andere methoden, en verplaatst de menigte toch even goed, zo niet beter.

4. De "Brug"-analogie

Om het model te trainen, gebruiken de auteurs iets dat een Conditionele Binomiale Brug wordt genoemd.
Stel je voor dat je een persoon hebt die begint met 10 appels en je wilt dat ze eindigen met 20. De "brug" is een vooraf gepland, soepel pad dat zegt: "Bij 10% van de weg moet je 11 appels hebben. Bij 50% moet je 15 appels hebben."
Het model leert om dit soepele pad na te bootsen. Omdat het pad wiskundig eenvoudig is (zoals een rechte lijn op een grafiek), leert het model de regels zeer snel en efficiënt.

5. Wereldse Tests

De auteurs hebben dit "appelverplaatsende" systeem getest op twee echte biologische datasets:

Single-Cell RNA Sequencing: Het verplaatsen van cellen van een jonge ontwikkelingsfase (P12) naar een oudere fase (P35). Het model toonde succesvol hoe cellen geleidelijk hun genentellingen (hun "appelcount") in de loop van de tijd veranderen, waardoor een soepele, interpreteerbare film van ontwikkeling ontstaat in plaats van een springerige, verwarrende.
Neurale Spike Trains: Het voorspellen hoe vaak hersenneuronen vuren op basis van de positie van een rat. Het model kon realistische patronen van hersenactiviteit genereren die overeenkwamen met de complexe correlaties tussen verschillende neuronen, iets wat eenvoudigere modellen niet konden doen.

Samenvatting

count-FM is een nieuwe manier om discrete teltdata (zoals genentellingen of neuronspikes) te genereren en te verplaatsen. In plaats van deze getallen in een vloeibare vorm te dwingen of ze als niet-gerelateerde categorieën te behandelen, modelleert het ze als een reeks kleine, lokale stappen (één eenheid per keer winnen of verliezen). Dit maakt het systeem sneller, lichter op computergeheugen en nauwkeuriger in het behoud van de natuurlijke "geheelgetal"-aard van de data.

Technische Samenvatting: Flow Matching voor Teldata (count-FM)

Probleemstelling

Hoogdimensionale teldata, die veel voorkomen in gebieden zoals single-cell RNA-sequencing (scRNA-seq) en analyse van neurale spike-trains, stelt unieke uitdagingen voor generatieve modellering. Deze datatypen worden gekenmerkt door discretie, spaarzaamheid en complexe correlatiestructuren. Bestaande diepe generatieve benaderingen hebben vaak moeite op dit domein:

Categorieale State-benaderingen: Methoden die tellingen behandelen als categorische variabelen (bijv. tokens) vereisen uitvoerdimensies die schalen met het maximale telbereik. Dit leidt tot parameterinefficiëntie en behandelt aangrenzende tellingen als niet-gerelateerde toestanden, waardoor de inherente geometrie van de telruimte wordt genegeerd.
Continue Transformaties: Benaderingen die tellingen via dequantisatie of latente representaties naar continue ruimtes afbeelden, vervangen discrete waarschijnlijkheidsmassa door continue dichtheden, wat de onderliggende discrete structuur mogelijk vervaagt.
Beperkingen van Bestaande Telmodellen: Hoewel er enkele tel-specifieke jump-modellen bestaan (bijv. Poisson-JUMP), zijn deze vaak niet ontworpen voor transport tussen willekeurige telverdelingen of missen ze de efficiënte trainings- en generatie-eigenschappen van moderne flow-gebaseerde methoden.

Het artikel adresseert de behoefte aan een generatief raamwerk dat direct in telruimte opereert, de discrete geometrie van de data respecteert en efficiënt transport tussen willekeurige bron- en doelverdelingen mogelijk maakt zonder de parameteroverhead van categorieale-state-modellen.

Methodologie: count-FM

De auteurs stellen count-FM voor, een flow-matching raamwerk dat is toegespitst op teldata en gebaseerd is op een continue-tijd geboorte-dood-proces met lokale eenheidsjumps.

1. Continue-Tijd Geboorte-Dood-Proces

Het model definieert de overgang tussen een bronverdeling $p_0$ en een doelverdeling $p_1$ als een continue-tijd Markov-jump-proces (CTMC) op de ruimte van telvectoren $\mathbb{N}_0^d$ . Het proces evolueert via lokale eenheidsgeboortes ( $+1$ ) en doodgevallen ($-1$) voor elke coördinaat $i$ :

Geboortetarief: $\lambda_{t,i}(x)$
Doodtarief: $\mu_{t,i}(x)$
Dynamiek: Over een klein interval $h$ is de waarschijnlijkheid van overgang van toestand $x$ naar $x + e_i$ gelijk aan $h \lambda_{t,i}(x)$ , en naar $x - e_i$ gelijk aan $h \mu_{t,i}(x)$ . Dood is niet toegestaan wanneer een telling nul is.

Deze parametrisatie is zeer efficiënt: in plaats van een volledige categorische verdeling over alle mogelijke telniveaus te voorspellen (wat schaalt met het maximale aantal), voorspelt het model slechts twee tarieven per dimensie ( $2d$ uitvoer), ongeacht het telbereik.

2. Conditionele Binomiale Brug en Training

Om het model te trainen, definiëren de auteurs een conditionele brug tussen vaste eindpunten $(x_0, x_1)$ . Voor elke coördinaat $i$ wordt de brug geconstrueerd met behulp van een Binomiale verdeling:
$X_t^{(i)} = x_0^{(i)} + \text{sgn}(x_1^{(i)} - x_0^{(i)}) B_t^{(i)}, \quad B_t^{(i)} \sim \text{Binomial}(|x_1^{(i)} - x_0^{(i)}|, t)$
Deze brug zorgt ervoor dat het conditionele gemiddelde lineair beweegt van $x_0$ naar $x_1$ , terwijl tussenliggende toestanden met gehele waarden behouden blijven.

Door massabehoud (de Kolmogorov-voorwaartse vergelijking) af te dwingen op deze conditionele brug, leiden de auteurs gesloten-vorm uitdrukkingen af voor de conditionele geboorte- en doodtarieven:
$\lambda_{t,i}(x | x_0, x_1) = \frac{(x_1^{(i)} - x)^+}{1-t}, \quad \mu_{t,i}(x | x_0, x_1) = \frac{(x - x_1^{(i)})^+}{1-t}$
waarbij $(\cdot)^+$ positieve rectificatie aanduidt.

3. Trainingsdoelstelling

Het model wordt getraind door een Kullback-Leibler (KL)-divergentie in de padruimte te minimaliseren tussen het conditionele brugproces en het door het model geleerde proces. Dit decomponeert in een lokaal rate-matching doel:
$\mathcal{L}_{train}(\theta) = \mathbb{E} \left[ \sum_{i=1}^d \ell(\lambda_{t,i}, \lambda_{\theta,i}) + \sum_{i=1}^d \ell(\mu_{t,i}, \mu_{\theta,i}) \right]$
waarbij $\ell(u, v) = v - u \log v$ een gegeneraliseerde KL-term is. Dit maakt simulatie-vrije training van de marginale overgangstarieven mogelijk door de identificeerbare conditionele tarieven te leren.

4. Sampling en Koppeling

Sampling: Steekproeven worden gegenereerd door het geleerde geboorte-dood-proces voorwaarts te simuleren van $t=\epsilon_t$ tot $t=1-\epsilon_t$ met behulp van een discretisatie van de eerste orde voor lokale jumps.
Eindpuntkoppeling: Het artikel onderzoekt twee koppelingstrategieën voor het paren van bron- en doelsteekproeven:
- Onafhankelijke Koppeling: Willekeurige paring ( $p_0(x_0)p_1(x_1)$ ).
- Optimaal Transport (OT) Koppeling: Minibatch OT-paring met behulp van een symmetrische Poisson-kost. Dit neigt tot het induceren van transities met lagere kromming, wat de interpreteerbaarheid en sampling-efficiëntie verbetert.

5. Conditionele Generatie

Voor conditionele taken incorporateert het model covariaten $y$ en maakt gebruik van Classifier-Free Guidance (CFG). Tijdens training worden conditioneringsvariabelen willekeurig weggelaten. Bij sampling worden de conditionele en unconditional tarieven gecombineerd via een geleidingschaal $w$ om de sterkte van de conditie te controleren.

Belangrijkste Bijdragen

count-FM Raamwerk: Een flow-matching raamwerk voor teldata gebaseerd op lokale geboorte-dood-dynamiek, wat transport direct in telruimte mogelijk maakt waarbij tussenliggende toestanden telwaarden behouden.
Hanteerbaar Trainingschema: Een methode om marginale overgangstarieven te leren via een conditionele binomiale brug, waarbij de efficiëntie van flow matching behouden blijft terwijl de complexiteit van categorieale-state-modellering wordt vermeden.
Parameter-efficiëntie: Een formulering die slechts lokale geboorte- en doodtarieven voorspelt ( $2d$ uitvoer) in plaats van volledige categorische verdelingen, waardoor het geschikt is voor hoogdimensionale data met grote telbereiken.

Experimentele Resultaten

1. Simulatie (2D Gamma-Poisson Mengsel)

Prestatie: count-FM en count-FM-OT behaalden de beste steekproefkwaliteit (laagste 2-Wasserstein-afstand en MMD $^2$ ) in vergelijking met baselines zoals D3PM, discrete-FM, tauLDR, SEDD en Poisson-JUMP.
Efficiëntie: count-FM behaalde deze resultaten met aanzienlijk minder trainbare parameters (2.372) in vergelijking met categorieale-state baselines (14.000–67.000+).
Geometrie: Tussenliggende toestanden evolueerden soepel in telruimte. De OT-gekoppelde versie volgde een zichtbaar rebaarder transitiepad en bereikte doelkwaliteit met minder functiewaarderingen (NFEs).

2. Single-Cell RNA-seq (Dentate Gyrus)

Unconditional Generatie: Op een dataset van 2.930 cellen en 13.913 genen overtrof count-FM latent-variabele baselines (scVI) en latente diffusiemodellen (scDiffusion, scLDM) in steekproefkwaliteit (W2 en MMD $^2$ ), terwijl het minder parameters gebruikte (ongeveer 9,8M versus 29M–39M voor concurrenten).
Transport (P12 naar P35): Het model modelleerde succesvol ontwikkelingsvervoer van postnatale dag 12 naar dag 35. Met behulp van lijn-gerestrictie OT-koppeling respecteerden de transportpaden bekende ontwikkelingsstructuren (bijv. neuroblast naar korrelcel-progressie), waardoor interpreteerbare tussenliggende verdelingen werden geproduceerd die in telruimte bleven.

3. Neurale Spike-trains (Hippocampus/Entorhinaal)

Conditionele Generatie: Het model werd toegepast om spike-tellingen te genereren geconditioneerd op gelineariseerde positie en looprichting.
Vergelijking: count-FM met geleidingschaal $w=1$ overtrof een deterministische MLP-regressor en een Poisson-MLP-baseline.
Correlatiestructuur: In tegenstelling tot de Poisson-MLP, die populatiecorrelaties onderschatte, behield count-FM de cross-neuron afhankelijkheidsstructuur beter.
Guidance Trade-off: $w=1$ bood de beste balans tussen ruimtelijke afstemming en distributie-calibratie. $w=2$ scherpte place-velden maar vervormde amplitude-calibratie.

Betekenis en Beweringen

Het artikel beweert dat count-FM een effectief raamwerk biedt voor het modelleren van hoogdimensionale teldata door generatie en transport direct in de telruimte mogelijk te maken. De primaire betekenis ligt in:

Geometrische Fideliteit: Door transport te modelleren via lokale eenheidsjumps, respecteert de methode de discrete geometrie van teldata en vermijdt het de vervaagde effecten van continue benaderingen.
Schaalbaarheid: De parameter-efficiëntie maakt het levensvatbaar voor hoogdimensionale toepassingen (bijv. duizenden genen) waar categorieale-state-methoden computationeel onhaalbaar worden.
Interpreteerbaarheid: De tussenliggende toestanden in het transportpad zijn geldige telsteekproeven, wat inspectie van betekenisvolle overgangsverdelingen mogelijk maakt in toepassingen zoals ontwikkelingsbiologie.
Veelzijdigheid: Het raamwerk ondersteunt unconditional generatie, transport tussen willekeurige verdelingen en conditionele generatie met controleerbare guidance.

De auteurs erkennen beperkingen, met name dat de conditionele binomiale brug relatief eenvoudig is en mogelijk niet alle plausibele tussenliggende paden verkent, en dat de huidige discretisatie van de eerste orde kan worden verbeterd met nauwkeurigere simulatieschema's. Echter, de empirische resultaten over simulatie- en biomedische datasets tonen aan dat count-FM hoge steekproefkwaliteit bereikt met grotere modelleringsefficiëntie dan concurrerende benaderingen.