Deep learning assessment of nativeness and pairing likelihood for antibody and nanobody design with AbNatiV2

Deze paper introduceert AbNatiV2 en p-AbNatiV2, twee geavanceerde deep learning-modellen die de beoordeling van de natuurlijkheid en koppelingskans van antilichamen en nanobodies aanzienlijk verbeteren om zo het ontwerp van ontwikkelbare kandidaten te ondersteunen.

De kern

🛡️ De "Natuurlijkheids-Check" voor Antilichamen: AbNatiV2

Stel je voor dat het menselijke immuunsysteem een gigantische, super-snelle bakkerij is. Deze bakkerij maakt elke dag miljoenen unieke koekjes (antilichamen) om ziektekiemen te bestrijden. Deze koekjes zijn perfect gebakken: ze plakken goed aan de ziekte, ze breken niet snel en ze veroorzaken geen allergieën bij de klant (de patiënt).

Wanneer wetenschappers nieuwe medicijnen ontwerpen, proberen ze vaak zelf deze koekjes te bakken in een computer. Maar soms zijn die zelfgemaakte koekjes raar: ze smaken niet goed, vallen uit elkaar of maken de klant ziek.

De vraag is: "Is dit koekje echt van de bakkerij, of is het een nep-koekje?"

Dit is precies wat het nieuwe computerprogramma AbNatiV2 doet. Het is een slimme "nabootsings-check" die vertelt hoe natuurlijk een antilichaam is.

🚀 Wat is er nieuw? (De Upgrade van AbNatiV1)

Voorheen hadden de wetenschappers een eerste versie van dit programma (AbNatiV1). Die werkte goed, maar had twee grote gebreken:

1. Het kon alleen kijken naar losse stukjes deeg (één kant van het antilichaam), terwijl antilichamen eigenlijk uit twee perfect op elkaar afgestemde helften bestaan (een zware en een lichte keten).
2. Het had te weinig voorbeelden geleerd van de "kameel-achtige" antilichamen (nanobodies), waardoor het die niet goed herkende.

AbNatiV2 is de grote upgrade. Het is als het verschil tussen een simpele schets en een hyperrealistische 3D-foto.

🐫 De "Kameel-Training" (Voor Nanobodies)

Eerst hebben de onderzoekers een enorme hoeveelheid nieuwe data verzameld. Ze hebben in hun eigen lab bloed van kameelachtigen (zoals lama's en alpaca's) genomen en hun immuunsysteem in detail gescand.

• De Analogie: Stel je voor dat je een chef-kok wilt trainen om de perfecte pizza te maken. De oude chef had maar 2 miljoen recepten gezien. De nieuwe chef (AbNatiV2) heeft 20 miljoen recepten gezien, inclusief nieuwe variaties die niemand eerder had opgeschreven.
• Het Resultaat: Het programma kan nu veel beter zien of een nanobody (een klein, krachtig antilichaam) echt natuurlijk is of dat het er "raar" uitziet. Het herkent zelfs als een stukje van het antilichaam (de CDR-lus) is verplaatst naar een ander frame, wat vaak de werking verstoort.

🤝 De "Paar-Check" (Voor Gewone Antilichamen)

Dit is misschien wel het coolste nieuwe deel. Gewone antilichamen bestaan uit twee delen die als een slot en sleutel moeten passen. Als je een zware keten (de sleutel) en een lichte keten (het slot) uit verschillende bronnen pakt, passen ze misschien niet goed bij elkaar, zelfs als ze er allebei op zichzelf goed uitzien.

AbNatiV2 heeft nu een nieuwe functie genaamd p-AbNatiV2.

• De Analogie: Stel je voor dat je een danspartner zoekt. De oude software keek alleen of je zelf goed kon dansen. De nieuwe software kijkt naar jij en je partner samen. Ze zegt: "Jullie passen perfect bij elkaar!" of "Oeps, jullie stappen op elkaars tenen, dat gaat niet werken."
• Hoe werkt het? Het programma is getraind op 3,7 miljoen echte paren van menselijke antilichamen. Het leert niet alleen of ze menselijk zijn, maar ook of ze een goed team vormen.
• Het Succes: In tests wist dit nieuwe programma in 74% van de gevallen het juiste, natuurlijke paar te vinden, terwijl andere moderne programma's dat maar in 60% van de gevallen konden.

🎯 Waarom is dit belangrijk voor patiënten?

1. Veiligheid: Als je een medicijn ontwerpt dat er "natuurlijk" uitziet, is de kans kleiner dat het lichaam het als een indringer ziet en een aanval start (immuniteit).
2. Efficiëntie: In plaats van duizenden slechte medicijnen in het lab te testen (wat duur en tijdrovend is), kun je ze eerst door AbNatiV2 laten scannen. Alleen de "natuurlijke" en "goed passende" kandidaten gaan naar het lab. Dit bespaart tijd en geld.
3. Nieuwe Ontwerpen: Het helpt bij het ontwerpen van medicijnen die helemaal van scratch zijn gemaakt, zodat ze toch veilig en stabiel zijn.

🛠️ Beschikbaar voor iedereen

De onderzoekers hebben dit programma niet voor zichzelf gehouden. Ze hebben de code, de trainingsdata en een gratis website beschikbaar gesteld. Iedereen die aan antilichamen werkt, kan nu dit "slimme assistent" gebruiken om hun medicijnen te controleren voordat ze de kliniek in gaan.

Kortom: AbNatiV2 is als een super-intelligente keurmeester die met één blik ziet of een antilichaam een echte, natuurlijke "bakkerij-koek" is of een mislukte "huisbakkerij-experiment". En nu kan hij ook zien of de twee helften van het antilichaam echt van elkaar houden!

Technische samenvatting

Probleemstelling

Het ontwerpen van therapeutische antilichamen en nanobody's (VHH) vereist een delicate balans tussen hoge bindingsaffiniteit, stabiliteit en lage toxiciteit (weinig immunogeniciteit). Traditionele de novo ontwerpprocessen of generatieve modellen produceren vaak sequenties die afwijken van de natuurlijke evolutionaire verdeling, wat leidt tot slechte biophysieke eigenschappen en onvoorspelbaar gedrag in vivo.

De kernuitdagingen die in dit paper worden aangepakt zijn:

1. Beperkte schaal en diversiteit: Bestaande modellen (zoals AbNatiV1) waren getraind op beperkte datasets, wat resulteerde in een gebrek aan generalisatie naar nieuwe, diverse repertoires, vooral voor nanobody's.
2. Gebrek aan gepaarde data: Eerdere modellen analyseerden zware (VH) en lichte (VL) ketens onafhankelijk van elkaar. Dit negeert de cruciale interacties tussen de ketens die nodig zijn voor de structuur en stabiliteit van het Fv-gebied.
3. Pairing-likelihood: Het is moeilijk om computergestuurd te voorspellen of een specifieke combinatie van VH en VL ketens een stabiel, functioneel complex vormt, wat essentieel is voor het ontwerpen van bispecifieke antilichamen of het selecteren van lichtketen-partners.

Methodologie

De auteurs introduceren AbNatiV2 (voor ongepaarde sequenties) en p-AbNatiV2 (voor gepaarde sequenties), gebaseerd op een transformer-architectuur met Vector Quantised Variational Auto-Encoder (VQ-VAE).

1. Dataverzameling en Curatie:

• Nanobody's (VHH): Het trainingsdataset werd uitgebreid van ~2 miljoen naar 20,2 miljoen sequenties. Dit omvat nieuwe data uit gepubliceerde repertoires en ~9,2 miljoen nieuwe sequenties gegenereerd via in-house MiSeq-sequencing van niet-geïmmuniseerde alpaca's.
• Menselijke Antilichamen (VH/VL): Ongepaarde datasets werden opgeschaald naar ~19,6 miljoen VH en ~21,2 miljoen VL sequenties.
• Gepaarde Data: Voor p-AbNatiV2 werd een uniek dataset van 3,7 miljoen unieke gepaarde menselijke VH/VL sequenties samengesteld uit de OAS-database en PairedAbNGS.

2. Architecturale Verbeteringen (AbNatiV2):

• Transformer-verbeteringen: Invoering van rotary positional embeddings (voor relatieve positie), gated attention mechanisms, en SwiGLU activeringsfuncties in plaats van standaard MLP's.
• Focal Reconstruction Loss (FRL): In plaats van standaard Mean Squared Error (MSE), gebruiken ze een Focal Loss. Dit weegt posities die het model al goed kan reconstrueren (vaak conservatieve framework-regio's) minder zwaar, waardoor de modelcapaciteit zich richt op moeilijkere, variabele regio's (zoals CDR's) en somatische mutaties.
• Codebook: Sequences worden gemapt naar een discrete latente ruimte met een beperkt aantal codes, wat helpt bij het vangen van terugkerende motieven.

3. Gepaarde Modellering (p-AbNatiV2):

• Cross-Attention: Twee vooraf getrainde ongepaarde modellen (VH en VL) worden gekoppeld via cross-attention lagen. De gewichten van de originele modellen blijven vast; alleen de cross-attention lagen worden getraind om de interactie tussen de ketens te leren.
• Pairing Prediction Head: Een extra hoofd (gebaseerd op logistische regressie) wordt toegevoegd die de "koppelkans" (pairing likelihood) voorspelt.
• Noise-Contrastive Learning: Het model wordt getraind om native paren te onderscheiden van twee soorten negatieven:
  • Shuffled negatives: Lichtketens binnen dezelfde batch die willekeurig worden herschikt (moeilijke negatieven).
  • Mismatched negatives: Ketens uit verschillende B-celklassen, soorten of studies (makkelijke negatieven).

Belangrijkste Bijdragen

1. AbNatiV2: Een geüpgraded model voor het beoordelen van "nativeness" (hoe natuurlijk een sequentie is) voor zowel nanobody's als menselijke antilichamen, getraind op een dataset 10x groter dan de vorige versie.
2. p-AbNatiV2: Het eerste diep-lerende model dat simultaan de "humanness" (menselijkheid) van een VH/VL paar beoordeelt én de waarschijnlijkheid voorspelt dat deze twee ketens een stabiel complex vormen.
3. Open Data en Software: De auteurs maken de volledige datasets (inclusief de nieuwe alpaca data), de getrainde modellen, en een gebruiksvriendelijke webserver beschikbaar voor de gemeenschap.

Resultaten

• Verbeterde Nativeness Classificatie: AbNatiV2 presteert aanzienlijk beter dan AbNatiV1 bij het onderscheiden van natuurlijke sequenties van kunstmatige (PSSM-gegenereerde) sequenties. De PR-AUC (Precision-Recall Area Under Curve) voor nanobody's steeg van 0,961 naar 0,984.
• Generalisatie: Het model toont een sterke generalisatie naar "diverse" testsets (sequenties die >5% verschillen van de trainingsdata), waar AbNatiV1 faalde.
• CDR-grafting: AbNatiV2 kan nauwkeuriger detecteren of CDR-lussen die op een ander frame zijn geplaatst (grafting) hun nativeness verliezen (90% detectie vs. 64% voor AbNatiV1).
• Pairing Prediction: p-AbNatiV2 slaagt erin om in 74% van de gevallen de native partner van een VH te identificeren boven een willekeurige partner (vs. ~60% voor concurrenten zoals Humatch en ImmunoMatch). In een "top-5" ranking test (uit 50 opties) scoorde het model in >35% van de gevallen, significant beter dan de concurrentie.
• Out-of-Distribution Robustheid: In tegenstelling tot ImmunoMatch, dat hoge scores gaf aan kunstmatige of muismodellen, geeft p-AbNatiV2 correct lage scores aan sequenties die niet tot de menselijke verdeling behoren.

Betekenis en Impact

Dit werk vormt een mijlpaal in de computationele antilichamingenieurskunst:

• Van Unpaired naar Paired: Het schakelt over van het analyseren van ketens als geïsoleerde eenheden naar een holistische benadering die de cruciale VH-VL interactie meeneemt.
• Ontwerpgids: De modellen fungeren als een krachtige filter voor generatieve modellen (zoals diffusion models), waardoor alleen "ontwikkelbare" kandidaten worden geselecteerd.
• Humanisatie: Het biedt een gestandaardiseerde methode om nanobody's en antilichamen te humaniseren zonder de stabiliteit of binding te verliezen, wat direct toepasbaar is in de ontwikkeling van therapeutische kandidaten.
• Toegankelijkheid: Door de beschikbaarstelling van software en data wordt de drempel verlaagd voor onderzoekers om state-of-the-art nativeness- en pairing-assessments toe te passen in hun eigen pipelines.

Samenvattend introduceert AbNatiV2 en p-AbNatiV2 een nieuwe standaard voor het kwantificeren van de kwaliteit van antilichamensequenties, met name door de integratie van schaalbare datasets en geavanceerde architecturen die specifiek zijn ontworpen om de complexiteit van gepaarde antilichamen te modelleren.