Deep learning assessment of nativeness and pairing likelihood for antibody and nanobody design with AbNatiV2

Ce papier présente AbNatiV2 et p-AbNatiV2, deux modèles d'apprentissage profond améliorés capables d'évaluer la naturalité et la probabilité d'appariement des anticorps et des nanocorps, offrant ainsi des outils essentiels pour la conception et l'optimisation de candidats thérapeutiques à différents niveaux structuraux.

L'essentiel

🌟 Le Grand Défi : Créer des "Super-Gardiens" pour le corps

Imaginez que votre système immunitaire est une forteresse et que les anticorps sont ses soldats de l'ombre. Ces soldats sont incroyablement intelligents : ils savent exactement comment se battre contre les ennemis (virus, bactéries) sans jamais attaquer la forteresse elle-même (votre propre corps) et sans se fatiguer.

Les scientifiques veulent créer de nouveaux soldats artificiels pour soigner des maladies. Mais il y a un problème : quand on invente ces soldats sur ordinateur, ils ressemblent souvent à des faux soldats. Ils peuvent être beaux sur le papier, mais dès qu'on les envoie sur le terrain, ils sont maladroits, se cassent, ou pire, ils attaquent le bon camp (ce qui provoque des allergies ou des rejets).

🤖 La Solution : AbNatiV2, le "Détective de la Nature"

Les chercheurs de ce papier ont créé un nouveau super-outil appelé AbNatiV2. C'est comme un détective ultra-intelligent qui a lu des millions de livres d'histoire sur les vrais soldats naturels.

Son travail est simple : il prend un nouveau soldat (un anticorps) et lui pose une seule question :

"Est-ce que tu ressembles vraiment à un soldat naturel, ou es-tu un imposteur fabriqué en usine ?"

Si le soldat ressemble trop à un imposteur, le détective dit : "Non, ce n'est pas bon, il faut le réparer."

🚀 Qu'est-ce qui a changé avec la version 2 ?

L'ancienne version (AbNatiV1) était déjà bien, mais elle avait deux gros défauts, un peu comme un détective qui aurait des lunettes de vue mal ajustées :

1. Elle ne voyait que des soldats seuls : Elle pouvait juger un soldat s'il était seul, mais pas s'il était en couple. Or, dans la nature, les anticorps sont souvent des duos (un gros soldat et un petit soldat qui travaillent ensemble). Si le duo ne s'entend pas, la mission échoue.
2. Elle connaissait mal les "Nanobodies" : Ce sont des soldats miniatures (très petits et très puissants). L'ancienne version n'avait pas assez de livres d'histoire sur eux pour bien les juger.

AbNatiV2 corrige tout cela :

• Il a lu des millions de nouveaux livres : Les chercheurs ont séquentiellement (lu) des milliards de nouveaux soldats naturels, y compris des millions de ces mini-soldats (nanobodies).
• Il a des lunettes 3D (le modèle "p-AbNatiV2") : Il peut maintenant juger les duos. Il sait dire : "Ce gros soldat et ce petit soldat vont-ils bien s'entendre ?" ou "Si on change un bouton sur le gros soldat, est-ce que ça va casser la relation avec le petit ?"

🎨 L'Analogie du "Couturier et du Mannequin"

Imaginez que vous voulez créer un costume parfait pour un mannequin (le patient).

• L'ancienne méthode : Le couturier regardait le tissu seul. Il disait : "Ce tissu est joli". Mais une fois cousu sur le mannequin, le costume était trop serré ou tombait mal.
• La nouvelle méthode (AbNatiV2) : Le couturier a maintenant un mannequin virtuel complet. Il peut essayer le tissu sur le mannequin avant même de coudre.
  • Il vérifie si le tissu est "naturel" (comme ceux qu'on trouve dans la nature).
  • Il vérifie si le haut (le gros soldat) et le bas (le petit soldat) s'assemblent parfaitement.
  • Il peut même dire : "Si on remplace ce bouton ici, le costume restera-t-il beau et confortable ?"

🏆 Pourquoi est-ce une révolution ?

Grâce à ce nouveau détective, les scientifiques peuvent :

1. Éliminer les imposteurs : Ils rejettent immédiatement les mauvaises idées avant de perdre du temps et de l'argent à les tester en laboratoire.
2. Créer des médicaments plus sûrs : En s'assurant que les nouveaux anticorps ressemblent à ceux du corps humain, on réduit le risque que le corps les rejette (moins d'effets secondaires).
3. Concevoir des "Super-Nanobodies" : Ils peuvent maintenant créer ces mini-soldats pour aller là où les gros anticorps ne peuvent pas aller (comme dans le cerveau), en s'assurant qu'ils sont solides et naturels.

En résumé

Ce papier présente AbNatiV2, un outil d'intelligence artificielle qui agit comme un gardien de la qualité. Il s'assure que les nouveaux médicaments à base d'anticorps que nous créons sont non seulement efficaces, mais qu'ils sont aussi naturels, stables et bien assemblés, comme s'ils avaient été fabriqués par le corps humain lui-même. C'est un pas de géant pour rendre les traitements futurs plus sûrs et plus rapides à développer.

Résumé technique

1. Problématique

Le développement d'anticorps thérapeutiques (anticorps conventionnels VH-VL et nanocorps VHH) repose sur la capacité à concevoir des séquences qui allient une bonne affinité et stabilité à une faible toxicité et immunogénicité. Une stratégie clé pour y parvenir est d'évaluer la "naturalité" (nativeness) d'une séquence candidate, c'est-à-dire sa probabilité d'appartenir aux répertoires immunitaires naturels.

Cependant, les outils existants présentaient des limites majeures :

• Limites de l'outil précédent (AbNatiV1) : Bien qu'efficace pour les nanocorps, il était limité aux séquences non appariées (unpaired), rendant son application aux anticorps conventionnels (nécessitant l'interaction VH-VL) difficile. De plus, ses performances sur les nanocorps étaient contraintes par la taille et la diversité limitées des jeux de données d'entraînement disponibles à l'époque.
• Manque d'évaluation de l'appariement : L'ingénierie d'anticorps nécessite de garantir que les chaînes lourdes (VH) et légères (VL) s'apparient correctement pour assurer l'intégrité structurale du domaine Fv. Les modèles précédents ne pouvaient pas prédire la probabilité d'appariement ni évaluer l'humannité (humanness) de paires appariées de manière conjointe.
• Généralisation : Les modèles existants peinaient à généraliser à de nouveaux répertoires séquentiels ou à détecter les pertes de naturalité lors de greffes de CDR (Complementarity Determining Regions).

2. Méthodologie

Les auteurs ont développé une nouvelle architecture basée sur des modèles de langage profonds (Deep Learning) pour surmonter ces obstacles.

A. Collecte et curation de données massives

• Nanocorps (VHH) : Expansion du corpus d'entraînement de ~2 millions à 20,2 millions de séquences. Cela inclut de nouveaux répertoires de camélidés (alpagas, lamas, chameaux) et environ 9,2 millions de séquences séquencées in-house à partir de bibliothèques non immunes d'alpagas.
• Anticorps humains : Utilisation de l'ensemble de données OAS (Observed Antibody Space) pour créer des jeux de données non appariés de ~19,6 millions de VH et ~21,2 millions de VL.
• Séquences appariées : Construction d'un jeu de données unique de 3,7 millions de paires VH-VL humaines en combinant les données de p-IgGen et de PairedAbNGS.

B. Architecture des modèles

1. AbNatiV2 (Modèles non appariés) :

   • Basé sur un VQ-VAE (Vector-Quantised Variational Auto-Encoder) avec des blocs transformeurs.
   • Améliorations architecturales : Remplacement des encodages de position sinusoïdaux par des encodages de position rotatifs (RoPE), intégration de mécanismes de gating dans l'attention, et utilisation de fonctions d'activation SwiGLU.
   • Fonction de perte (Loss) : Introduction d'une Focal Reconstruction Loss (FRL). Contrairement à la MSE standard, la FRL pondère dynamiquement les erreurs de reconstruction en fonction de la confiance du modèle, forçant le réseau à se concentrer sur les résidus difficiles à prédire (régions hypervariables, mutations somatiques) plutôt que sur les régions conservées faciles.
   • Entraînement : Modèles entraînés sur >20 millions de séquences avec un nombre de paramètres accru (environ 92 millions pour le modèle VHH).

2. p-AbNatiV2 (Modèle apparié) :

   • Architecture VQ-VAE croisée (Cross-Attention VQ-VAE) : Combine les modèles pré-entraînés VH et VL non appariés via des couches d'attention croisée dans l'encodeur et le décodeur. Les poids des modèles non appariés sont figés, seuls les poids des couches d'attention croisée sont mis à jour.
   • Tête de prédiction d'appariement : Une couche de régression logistique entraînée par apprentissage contrastif bruité (Noise-Contrastive Learning). Elle distingue les paires natives (positives) des paires "bruitées" :
     • Paires mélangées (Shuffled) : Chaînes légères réassignées aléatoirement au sein d'un batch (négatifs "difficiles").
     • Paires inadaptées (Mismatched) : Chaînes provenant de classes de cellules B, espèces ou études différentes (négatifs "faciles").

3. Résultats Clés

A. Évaluation de la naturalité des nanocorps (AbNatiV2)

• Performance supérieure : AbNatiV2 distingue nettement mieux les séquences natives des séquences artificielles (générées par PSSM) que la version 1. L'AUC-PR passe de 0,961 à 0,984 sur le jeu de test standard et de 0,926 à 0,977 sur le jeu de test "diverse" (séquences très éloignées de l'entraînement).
• Détection de greffes : Le modèle détecte une perte de naturalité dans 90 % des cas lors de la greffe de boucles CDR sur un échafaudage universel, contre 64 % pour AbNatiV1.
• Généralisation : Le modèle généralise efficacement à de nouveaux répertoires de camélidés, là où AbNatiV1 échouait.

B. Évaluation de l'humannité et de l'appariement (p-AbNatiV2)

• Humannité : Le modèle unifié VL (Vκ + Vλ) améliore la discrimination contre les chaînes légères de singes (rhesus), atteignant un AUC-PR de 0,949 (contre 0,808/0,851 pour les modèles séparés V1).
• Prédiction d'appariement :
  • Sur des tests "1 contre 1" (VH native vs VH + VL aléatoire), p-AbNatiV2 attribue un score plus élevé à la paire native dans 74,3 % des cas, surpassant largement Humatch (60,1 %) et ImmunoMatch (60,5 %).
  • Sur des tests "1 contre 50", la paire native est classée dans le top 5 dans 35 % des cas (contre 18 % et 16 % pour les concurrents).
  • Le modèle montre une meilleure robustesse hors distribution (Out-of-Distribution), attribuant de faibles scores aux séquences artificielles et aux anticorps de souris, contrairement à ImmunoMatch qui surestime ces séquences.

C. Application à l'humanisation

• Le modèle permet de cartographier le paysage "naturalité vs humannité" des nanocorps cliniques.
• Une nouvelle pipeline d'humanisation appariée a été développée : elle optimise conjointement les chaînes lourdes et légères tout en surveillant la probabilité d'appariement à chaque étape, rejetant les mutations qui compromettent l'interaction VH-VL.

4. Contributions Principales

1. AbNatiV2 : Une nouvelle génération de modèles VQ-VAE pour l'évaluation de la naturalité des nanocorps et de l'humannité des anticorps, entraînés sur des jeux de données massifs (>20M de séquences) et utilisant des architectures transformer modernes (RoPE, SwiGLU, Focal Loss).
2. p-AbNatiV2 : Le premier modèle capable d'évaluer simultanément l'humannité d'une paire VH-VL et de prédire la probabilité d'appariement natif via un mécanisme d'attention croisée et d'apprentissage contrastif.
3. Jeux de données publics : Mise à disposition de 21 millions de séquences de nanocorps et de 3,7 millions de paires humaines, ainsi que du code source et d'un serveur web.
4. Pipeline d'humanisation appariée : Une méthode pratique pour humaniser des anticorps tout en préservant la stabilité de l'interaction entre les chaînes.

5. Signification et Impact

Ce travail comble un vide critique dans la conception d'anticorps thérapeutiques. En passant d'une évaluation séquentielle isolée à une évaluation conjointe et appariée, AbNatiV2 et p-AbNatiV2 permettent :

• De réduire les échecs expérimentaux en filtrant les candidats non naturels ou aux paires instables dès la phase de conception in silico.
• De guider l'ingénierie de nanocorps et d'anticorps bispécifiques avec une précision accrue.
• D'intégrer ces outils dans des boucles de conception itératives (Make-Test-Learn) ou des modèles génératifs (comme la diffusion) pour produire des candidats plus "développables" (developable).

Les auteurs rendent ces outils accessibles via un serveur web et un dépôt de code, standardisant ainsi l'évaluation de la naturalité et de l'appariement comme critères routiniers dans le développement de biothérapeutiques.