Technische Samenvatting: LineageFlow

Probleemstelling

Proteïne-engineering vereist het genereren van sequenties die biofysisch plausibel zijn en herkenbare leden van een doelgroep of domein blijven, terwijl binnen-familie diversiteit wordt verkend. Huidige discrete generatieve modellen, inclusief diffusie- en stromingsgebaseerde benaderingen, initialiseren de generatie doorgaans vanuit uniforme simplexruis of gemaskeerde-token corruptie. De auteurs betogen dat deze generieke priors "familie-agnostisch" zijn en sterke, positie-specifieke beperkingen die door evolutie worden opgelegd, weggooien. Bijgevolg wordt het model gedwongen om bijna elke residu, inclusief sterk geconserveerde, te reconstrueren vanuit zwaar gecorrumpeerde toestanden ("synthese van nul af"). Deze last leidt tot zwakke familiebeheersing, lage plausibiliteit en moeilijkheden bij het handhaven van herkenbare familie-domeinstructuren.

Methodologie: LineageFlow

De auteurs stellen LineageFlow voor, een Dirichlet-stroommatching-model dat proteïne-sequentiegeneratie herformuleert als gestructureerde mutatie vanuit een geëvolueerd stevigskelet in plaats van synthese vanuit generieke ruis.

1. Initialisatie met Lineage-Priors

In plaats van een uniforme prior, initialiseert LineageFlow het generatieve proces met ancestrale priors afgeleid van Ancestral Sequence Reconstruction (ASR).

• Constructie: Voor een gegeven proteïne-familie construeren de auteurs een Multiple Sequence Alignment (MSA), leiden ze een maximum-likelihood fylogenetische boom af en voeren ze marginale ASR uit bij de wortel om een postie-voor-residu posteriorverdeling te verkrijgen.
• Representatie: Deze wortel-posterior wordt gecodeerd als Dirichlet-concentratieparameters ($\alpha^{(h,l)}$), waarmee een familiespecifieke ancestrale prior wordt gedefinieerd: $q_0^{(h)}(X) = \prod_l \text{Dir}(x^{(l)}; \alpha^{(h,l)})$.
• Mechanisme: Deze benadering behoudt geconserveerde stevigskeletten (waar de familie invariant is) terwijl onzekerheid alleen wordt behouden op genuanceerd variabele posities. Het generatieproces wordt zo gemodelleerd als een continu transport op de waarschijnlijkheidssimplex vanuit deze ancestrale verdeling naar bestaande sequenties.

2. Stroommatching op de Simplex

LineageFlow maakt gebruik van Dirichlet Flow Matching (DFM).

• Traject: Een conditionele waarschijnlijkheidspad $p_t(x | x_1)$ wordt gedefinieerd waarbij de Dirichlet-massa zich in de loop van de tijd $t \in [0, 1]$ concentreert rond de doelvertex $x_1$.
• Vectorveld: Het model leert een neurale, tijdafhankelijke vectorveld $\hat{v}(X, t; \theta)$ dat de ancestrale prior naar de data-verdeling transporteert. De drift wordt gereconstrueerd via een classifier-parametrisatie $\hat{p}_\theta(x_1 | x_t, t)$, waarbij de sequentie-gegemiddelde cross-entropy-verliesfunctie wordt geminimaliseerd.
• Theoretisch Garandeer: De auteurs bewijzen dat het lineagespecifieke analytische veld voldoet aan de continuïteitsvergelijking op de simplex, waardoor behoud van waarschijnlijkheidsmassa wordt gewaarborgd en trajecten binnen de geldige toestandsruimte blijven.

3. Herleiding voor Doelgeleide Sampling

Om externe fitnessdoelen op te nemen zonder per-stap predictorgeleiding, introduceren de auteurs Rerouting.

• Proces: Op een intermediaire tijd $t_{int}$ wordt het generatietraject gepauzeerd. Een "muteren–selecteren–versterken" interventie wordt toegepast, geïnspireerd door gerichte evolutie.
  • Muteren: Een voorstelkernel injecteert diversiteit in de populatie deeltjes.
  • Selecteren: Deeltjes worden opnieuw gewogen op basis van een fitness-score $J(X)$ (bijv. plausibiliteit of specifieke eigendomsvoorspellers).
  • Versterken: Opnieuw bemonsteren wordt uitgevoerd volgens de gewichten.
• Theoretische Basis: De auteurs formaliseren herleiding als een KL-geregulariseerd selectieprobleem, waaruit blijkt dat de opnieuw gewogen verdeling de verwachte fitness maximaliseert terwijl de KL-divergentie van de voorstelwet wordt geminimaliseerd.
• Verfijning: Het geselecteerde deeltje wordt vervolgens geïntegreerd via de basisstroom van $t_{int}$ tot $t=1$ om het uiteindelijke monster te produceren.

Belangrijkste Bijdragen

1. Ancestrale Priors versus Generieke Ruis: Het artikel toont aan dat initialisatie vanuit ASR-afgeleide lineage-priors aanzienlijk beter presteert dan uniforme of gemaskeerde initialisatie-baselines. Het transformeert generatie van "van nul af" denoising naar gestructureerde mutatie, waarbij geconserveerde stevigskeletten worden behouden.
2. Manifoldbehoudende Geleiding: Rerouting biedt een eenstaps, intermediaire-tijd interventie die monsters naar doelen stuurt zonder dat gradiënten nodig zijn bij elke Euler-stap, en behoudt empirisch de familievaliditeit.
3. Hoge-Fideliteit Generatie: Het model bereikt familievaliditeit dicht bij vastgehouden natuurlijke sequenties en verbetert de voorspelde structurele zekerheid (plausibiliteit) terwijl aanzienlijke nieuwheid en diversiteit worden behouden.

Experimentele Resultaten

Het model werd geëvalueerd op 8.886 Pfam-A-families (RP35-dataset) met 1024 gegenereerde sequenties per methode.

• Familievaliditeit: LineageFlow behaalde een top-1 familie-accuraatheid (Accfam) van 95,3%, vergeleken met 0% voor uniform-prior baselines (DFM, EvoDiff) en 92,8% voor een ASR-only baseline (ASR-PSSM i.i.d.). Dit geeft aan dat generieke ruis-priors zelfs bij conditionering op familietags geen herkenbare familieleden produceren.
• Plausibiliteit (Vouwbaarheid): LineageFlow behaalde een gemiddelde pLDDT van 76,6, beter dan de ASR-only baseline (70,8) en aanzienlijk beter dan DFM (46,2) en EvoDiff (45,4). Het presteerde ook beter dan de vooraf getrainde ProtBFN (71,9), ondanks dat ProtBFN was getraind op een corpus ongeveer 8x groter.
• Nieuwheid en Diversiteit: Onder vouwbare monsters (pLDDT $\ge$ 70) voldeden 86,2% aan een nearest-neighbor identiteit (NNId) $< 0,8$, en 48,9% voldeden aan NNId $< 0,6$, wat diepe nieuwheid aantoont terwijl familie-identiteit behouden blijft.
• Zero-Shot Enzymgeneratie: In een zero-shot setting op drie vastgehouden enzym-families behield LineageFlow met herleiding geconserveerde motieven en verbeterde oplosbaarheids- en thermostabiliteit proxy-scores zonder fine-tuning op de doel-families.
• Theoretische Validatie: Analyse van het "harde regime" (vroege tijdstappen) toonde aan dat ASR-priors een hoger herstelbaar signaal bieden voor de denoiser vergeleken met uniforme priors, wat leidt tot hogere Bayes-optimale nauwkeurigheid en lagere trainingsverliezen.

Betekenis en Beweringen

Het artikel beweert dat LineageFlow een nieuw paradigma voor proteïne-sequentiegeneratie vestigt door evolutiegeschiedenis direct in de generatieve prior te benutten.

• Mechanisme: Door generieke ruis te vervangen door fylogenie-informeerd ancestrale stevigskeletten, reduceert het model de ambiguïteit van de vroege generatiestappen, waardoor het geleerde vectorveld zich kan richten op het modelleren van evolutionaire variatie in plaats van het reconstrueren van geconserveerde structuren.
• Praktijktoepasbaarheid: De introductie van Rerouting maakt doelgeleide sampling mogelijk (bijv. optimalisatie voor stabiliteit of oplosbaarheid) zonder de rekenkosten van per-stap geleiding, waardoor het geschikt is voor taken in de stijl van gerichte evolutie.
• Beperkingen: De auteurs merken op dat de methode afhankelijk is van hoogwaardige MSAs en fylogenetische inferentie. Generatie is gekoppeld aan familiespecifieke alignatie-coördinaten (waarbij gaten worden behandeld als vaste maskers) in plaats van expliciet indels te modelleren. Bovendien vertrouwen evaluaties op computationele proxies (bijv. OmegaFold pLDDT, ESM-IF) en voorspeller-gebaseerde scores, wat betekent dat echte functionele validatie nog moet worden getest.

Het werk suggereert dat het opnemen van expliciete evolutionaire context (lineage-priors) cruciaal is voor het bereiken van hoge-fideliteit, familie-bewuste proteïne-ontwerp, en biedt een robuust alternatief voor standaard ruisgebaseerde generatieve processen.