DeepRHP: A Hybrid Variational Autoencoder for Designing Random Heteropolymers as Protein Mimics

Technische Samenvatting: DeepRHP

Probleemstelling
Synthetische willekeurige heteropolymeren (Random Heteropolymerss, RHPs) bieden een weg naar het ontwerpen van proteïne-achtige materialen die in staat zijn om eiwitten te stabiliseren in niet-natuurlijke omgevingen en functies zoals protonentransport te faciliteren. Het ontwerpen van RHPs met specifieke gewenste functies is echter uitdagend omdat synthetische RHP-ketens geen deterministische sequenties en conformaties bezitten. In tegenstelling tot traditioneel eiwitontwerp, dat vertrouwt op high-throughput sequencing en 3D-structuren voor methoden zoals gerichte evolutie of de novo ontwerp, mist RHP-ontwerp momenteel rationele principes. Bestaande benaderingen zijn grotendeels empirisch en vertrouwen op tijdrovende laboratoriumscreening van diverse monomeersamenstellingen en ketenlengtes. Bovendien is er een tekort aan computationele literatuur over hoe RHPs als een ensemble in plaats van individuele ketens gemodelleerd kunnen worden, waardoor cruciale ontwerpvragen onbeantwoord blijven: specifiek, hoeveel monomeren zijn vereist in het "alfabet" van een systeem, en hoe men monomeersamenstellingen identificeert die overeenkomen met specifieke eiwitfuncties.

Methodologie: DeepRHP
Om deze hiaten te adresseren, stellen de auteurs DeepRHP voor, een gemodificeerde Variational Autoencoder (VAE) die getraind is onder een semi-gesuperviseerd kader. Het model is ontworpen om laagdimensionale latente representaties van RHP-sequenties te leren die zowel sequentiepatronen als kritieke chemische kenmerken vastleggen.

• Hybride Architectuur: In tegenstelling tot standaard VAE's die kenmerken samenvoegen in een enkele vector, maakt DeepRHP gebruik van een hybride architectuur bestaande uit een klassieke VAE en een aanvullende, door kenmerken gestuurde VAE die parallel opereert. Beiden delen een gemeenschappelijke latente variabele $z$.
• Semi-Gesuperviseerd Leren: Het model maakt gebruik van sequentiedata $x$ en functie-gerelateerde chemische kenmerken $y$ (specifiek de gemiddelde hydrofiele-lipofiele balans (HLB) van glijdende vensters). Omdat $y$ een deterministische transformatie van $x$ is, vertrouwt de encoder uitsluitend op $x$, terwijl de decoder in staat is om zowel de sequentie als het kenmerk te reconstrueren.
• Doelfunctie: De trainingsdoelstelling maximaliseert de log-likelihood van de sequentie door een gemodificeerde Evidence Lower Bound (ELBO) te optimaliseren. Deze bovengrens bevat een gewogen som van de reconstructieverliezen voor zowel de sequentie ($x$) als het chemische kenmerk ($y$), naast de Kullback-Leibler (KL) divergentieterm:
  $$\log p(x) \geq \alpha E_q [\log p(x | z)] + (1 - \alpha) E_q [\log p(y | z)] - D_{KL} (q(z | x) \parallel p(z))$$
  Hierbij is $\alpha$ een hyperparameter die de balans bepaalt tussen de gewichtstoekenning aan sequentiestructuur en de getrouwheid van het chemische kenmerk.
• Implementatie: De encoder en decoder zijn geïmplementeerd als multilayer perceptrons (MLP's) met behulp van PyTorch. Het model wordt getraind met de ADAM-optimizer.

Belangrijkste Bijdragen

1. Eerste Deep Learning Toepassing voor RHP-ontwerp: Dit werk is de eerste die deep learning gebruikt om fundamentele RHP-ontwerpvragen te beantwoorden, waarbij interpreteerbare latente representaties voor RHP-ensembles worden geleerd.
2. Inzicht in Ontwerpparameters: Het model biedt data-gedreven inzichten in twee cruciale parameters: de alfabetgrootte van monomeren en de monomeersamenstelling.
3. Flexibiliteit en Interpreteerbaarheid: De hybride architectuur maakt de integratie van elke relevante chemische kenmerken mogelijk, wat de methode veelzijdig maakt voor diverse eiwitfuncties. Bovendien biedt het door het direct koppelen van latente variabelen aan chemische kenmerken, biedt het de interpreteerbaarheid die vaak ontbreekt in klassieke VAE's, waar de hoofdcomponenten fysiek obscuur zijn.

Resultaten
De auteurs valideerden DeepRHP met behulp van een systeem van vier methacrylaat-gebaseerde monomeren (MMA, EHMA, OEGMA, SPMA) en 30.000 membraan- en globulaire eiwitsequenties uit UniProt.

• Validatie van Monomeersamenstelling: Het model valideerde succesvol de empirische bevinding dat een monomeerverhouding van 30% hydrofiel tot 70% hydrofoob optimaal is voor het stabiliseren van membraaneiwitten zoals Aquaporine Z (AqpZ). Principal Component Analysis (PCA) van de latente ruimte toonde aan dat RHP-samenstellingen met deze ratio (specifiek RHP B en C in een twee-monomeer systeem) significant overlapten met natuurlijke membraan- en globulaire eiwitten.
• Analyse van Alfabetgrootte: De studie toonde aan dat een twee-monomeer alfabet een sequentieruimte creëert die te breed is ten opzichte van specifieke eiwitten. In contrast hiermee resulteerde het uitbreiden naar een vier-monomeer systeem (waarbij de MMA:EHMA-ratio varieert terwijl de 30:70 hydrofiele/hydrofobe balans behouden blijft) in een meer gelokaliseerde sequentieruimte. De latente projecties van AqpZ in de vier-monomeer ruimte dekten bijna volledig de ruimtes van RHP 4 en RHP 5 af.
• Experimentele Overeenstemming: Het model voorspelde dat RHP 4 en RHP 5 samenstellingen optimaal zouden zijn. Deze voorspelling kwam overeen met gepubliceerde wet-lab experimenten (Panganiban et al. 2018), die een RHP met dezelfde monomeerverhouding als RHP 4 identificeerden als de meest effectieve stabilisator voor AqpZ.
• Ablatie: In ablatie-studies presteerde het hybride DeepRHP-model beter dan een enkele klassieke VAE zonder de aanvullende decoding regressor.

Betekenis en Claims
Het artikel claimt dat DeepRHP het potentieel aantoont om hybride autoencoder-architecturen te gebruiken om het ontwerp van RHPs voor eiwitten en andere biologische verbindingen te sturen. Door de kloof tussen empirische screening en rationeel ontwerp te overbruggen, biedt de tool een platform voor gelijkenis-analyse tussen doelwitteiwitten en RHP-sequenties. De auteurs positioneren dit werk als een "eerste stap" in het integreren van deep learning in macromoleculaire chemische informatica. Zij hanteren een bescheiden toon met betrekking tot toekomstig werk, waarbij zij opmerken dat de huidige beoordelingen kwalitatief zijn en gevalideerd tegen laboratoriumresultaten. Zij stellen voor dat toekomstige inspanningen zich moeten richten op het ontwikkelen van kwantitatieve maten om de kwaliteit van latente representaties te evalueren en het uitvoeren van downstream taken zoals het classificeren van specifieke membraaneiwitten.