Technische Samenvatting: Pepti-drift

Probleemstelling

Het ontwerp van therapeutische peptiden staat voor een fundamentele afweging: de fysisch-chemische kenmerken die sterke antigeenbinding bevorderen (bijv. hoge positieve lading, membraanaffiniteit) overlappen vaak met de kenmerken die toxiciteit veroorzaken, zoals cytotoxiciteit en hemolyse. In geleerde representatieruimtes bezetten bindingspeptiden en toxische peptiden vaak overlappende regio's. Bijgevolg produceren generatieve modellen die uitsluitend optimaliseren voor binding kandidaten binnen deze "overlapzone", wat resulteert in sequenties die effectieve binders zijn maar aanzienlijke veiligheidsrisico's met zich meebrengen. Bestaande methoden zoals PepMLM (masked language modeling) missen expliciete mechanismen om toxiciteit te vermijden, terwijl benaderingen zoals PepTune (discrete diffusie met Monte Carlo Tree Guidance) veiligheidsbeperkingen integreren maar lijden onder hoge computationele kosten door iteratieve sampling, wat schaalbaarheid voor grootschalige antigeen-screening beperkt.

Methodologie

Pepti-drift is een toxiciteitsbewust, antigeen-geconditioneerd latent verfijningsframework ontworpen om peptidekandidaten te genereren in een enkele forward pass. Het opereert binnen een gedeelde, genormaliseerde latente ruimte afgeleid van een bevroren ESM-2 eiwittaalmodel.

1. Representatie en Architectuur

• Latente Ruimte: Antigeen- en peptide-sequenties worden gecodeerd door ESM-2 en geprojecteerd in een compacte, $\ell_2$-genormaliseerde embeddingruimte ($d_z = 1024$). Deze normalisatie zorgt ervoor dat afstanden worden beheerst door cosinus-gelijkenis, wat instorting naar de oorsprong voorkomt.
• One-Step Generatie: In tegen tegenstelling tot iteratieve diffusiemodellen genereert Pepti-drift peptiden in één stap. Een antigeen-geconditioneerde generator brengt Gaussische ruis in kaart naar een initiële latente $z_0$. Een geleerd drift-module verfijnt vervolgens $z_0$ naar een finale latente $z_1$ via een enkele vectorveld-update: $z_1 = z_0 + \eta \Delta$.
• Decoding: Een niet-autoregressieve Transformer-decoder voorspelt de gehele peptide-sequentie parallel vanuit $z_1$, waardoor de latentie van autoregressieve decoding wordt geëlimineerd.

2. Het Drift-mechanisme: Attractie en Repulsie

De kerninnovatie is de constructie van een vectorveld $V$ met twee tegengestelde componenten:

• Attractie ($V_{att}$): Trekt de gegenereerde latente ruimte naar de embedding van bekende antigeen-gematchte bindingspeptiden (positieve docent).
• Repulsie ($V_{rep}$): Duwt de latente ruimte weg van een lokale buurt van "harde negatieve" peptiden geassocieerd met cytotoxiciteit en hemolyse.
  Het driftveld wordt gedefinieerd als $V = V_{att} + V_{rep}$. De repulsieve term wordt gewogen door een kernel-temperatuur en een tijdsafhankelijke coëfficiënt $\alpha^-(e)$.

3. Trainingsstrategie: Warm-up Negatieve Repulsie

Een cruciale uitdaging is dat attractie- en repulsiesignalen conflicterende gradiënten kunnen produceren wanneer het model nog geen stabiele latente structuur heeft geleerd, vooral gezien de overlap tussen bindings- en toxiciteitsdistributies. Om dit op te lossen, gebruikt Pepti-drift een warm-up schema:

• Fase 1: De repulsiecoëfficiënt $\alpha^-$ wordt op nul gezet. Het model leert een stabiel traject naar antigeen-compatibele bindingsregio's.
• Fase 2: Zodra het op binding gerichte traject is gevestigd, wordt $\alpha^-$ geleidelijk opgevoerd, waardoor het toxiciteits-repulsiesignaal wordt geïntroduceerd. Dit stelt het model in staat eerst te leren "waarheen te bewegen" en vervolgens "wat te vermijden".

Belangrijkste Bijdragen

1. Latent Drift Framework: Een one-step generatief model dat het geleerde vectorveld ontbindt in attractieve (binding) en repulsieve (toxiciteit) componenten, waardoor target-compatibele en veiligheidsbewuste peptiden worden geproduceerd zonder iteratieve sampling.
2. Warm-Up Negatieve Repulsie: Een trainingsstrategie die het leerproces stabiliseert wanneer target- en vermijdingsdistributies overlappen, waardoor het model een compatibele drift kan leren tussen concurrerende doelstellingen.
3. Efficiënte, Schaalbare Generatie: Een framework dat veiligheidsbeperkingen geometrisch binnen het generatieproces codeert, wat orden van grootte snellere generatie oplevert dan bestaande baselines.

Resultaten

Geëvalueerd op antigen-level split-controlled benchmarks (met gebruik van CD-HIT om te garanderen dat antigen-clusters in de testsets niet tijdens de training aanwezig waren), toonde Pepti-drift het volgende aan:

• Computationele Efficiëntie: Pepti-drift is 16,2$\times$ sneller dan PepMLM en 1.092,0$\times$ sneller dan PepTune. Het genereert ~3.312 peptiden per seconde vergeleken met ~3 peptiden per seconde voor PepTune.
• Sequentiekwaliteit: Gegenereerde peptiden bereikten 100% validiteit, 98,1% uniciteit en de hoogste Shannon-entropie vergeleken met andere modellen. Cruciaal was dat het bijna nul cross-antigeen hergebruik vertoonde (0,27), wat duidt op een hoge antigeen-specificiteit vergeleken met PepTune (252,30) en PepMLM (12,36).
• Bindingsneiging: Hoewel de voorspelde bindingsaffiniteitsscores van Pepti-drift iets lager waren dan die van PepMLM, bleven ze significant hoger dan die van PepTune, wat aantoont dat de toxiciteits-repulsie de target-gerelateerde bindingssignalen niet heeft uitgewist.
• Veiligheidsprofiel:
  • Hemolyse: Pepti-drift vertoonde een lager of vergelijkbaar voorspeld hemolyserisico over de meeste peptide-lengtebins. In de 1–5 aa bin behaalde het de laagste score (0,102) vergeleken met PepMLM (0,169) en PepTune (0,185).
  • Toxiciteit: Het behaalde consistent lagere voorspelde toxiciteitsscores dan PepMLM over alle lengtebins, met significante reducties in langere peptiden (bijv. 0,239 vs. 0,352 voor 21–40 aa).
  • Validatie: Onafhankelijke evaluatie met HemoPI2 bevestigde de trend, waarbij lagere gemiddelde hemolyse-scores en een verminderd fractie van hemolytisch-positieve resultaten werden waargenomen voor Pepti-drift vergeleken met PepMLM.

Betekenis en Claims

Het artikel claimt dat Pepti-drift een snel, schaalbaar en controleerbaar framework biedt voor antigeen-specifiek peptide-ontwerp. Door peptidegeneratie te formuleren als een single-step latent drift, codeert het "veilige en actieve" eigenschappen direct in het generatieve traject, in plaats van te vertrouwen op post-hoc filtering of computationeel dure iteratieve optimalisatie.

De auteurs benadrukken dat de warm-up negative repulsion essentieel is voor het stabiliseren van de training wanneer binding en toxiciteit overlappende distributies hebben, een veelvoorkomend scenario in peptide-representatieruimtes. De resultaten suggereren dat antigeen-geconditioneerde latente drift succesvol de binding-toxiciteit afweging kan navigeren, waarbij diverse, valide en antigeen-specifieke kandidaten worden gegenereerd met een verminderd voorspeld toxiciteits- en hemolyserisico, terwijl de target-binding potentie behouden blijft. Het artikel concludeert dat deze aanpak een veelbelovende stap vormt richting schaalbare therapeutische peptide-ontdekking, hoewel het opmerkt dat experimentele validatie van bindingsactiviteit en biologische veiligheid noodzakelijk blijft.