All-Atom Structure Tokenizer: AtomLM-9b for Biomolecular Structure Prediction

Pour comprendre le défi auquel les chercheurs sont confrontés, il faut d'abord saisir l'immense complexité des molécules qui constituent la vie. Les protéines, l'ADN et l'ARN ne sont pas des statues statiques, mais des machines tridimensionnelles complexes construites à partir de chaînes d'unités chimiques plus petites. Leur fonction dépend entièrement de la manière dont ces chaînes se replient et se tordent dans l'espace, mettant des atomes spécifiques en contact les uns avec les autres. Pendant des décennies, les scientifiques ont lutté pour prédire ces formes à partir du seul code chimique. Le problème est que le nombre de façons dont une chaîne peut se replier est astronomique, et calculer la position précise de chaque atome dans une grande molécule est numériquement écrasant. Les méthodes traditionnelles simplifient souvent le problème en ignorant les détails fins des atomes individuels, se concentrant plutôt sur le squelette de la chaîne, ce qui peut omettre des interactions critiques qui déterminent comment un médicament se lie à une cible ou comment une enzyme fonctionne.

Une équipe de chercheurs a maintenant développé une nouvelle approche qui comble le fossé entre les descriptions chimiques de haut niveau et la réalité précise, atome par atome, des structures moléculaires. Ils ont créé un système qui traduit la géométrie continue et fluide d'une molécule en un ensemble de symboles discrets et gérables, un peu comme transformer une mélodie complexe en une séquence de notes musicales. En compressant la forme détaillée d'une molécule en un vocabulaire de 8 192 jetons uniques, ils ont pu entraîner une intelligence artificielle puissante pour prédire ces symboles en se basant uniquement sur l'identité chimique de la molécule. Une fois que l'IA prédit la séquence de jetons, une seconde partie de leur système les réexpande en un modèle tridimensionnel complet contenant chaque atome lourd. Cette méthode permet à l'ordinateur d'apprendre les règles du repliement moléculaire sans s'enliser dans le volume massif de données brutes, atteignant un niveau de précision qui rivalise avec les outils existants les plus avancés.

Le cœur de cette réussite est un outil qu'ils appellent un « tokenizer de structure de tous les atomes » (all-atom structure tokenizer). Imaginez essayer de décrire la forme d'une sculpture complexe à un ami par téléphone. Si vous essayiez de lister les coordonnées de chaque point de la surface, la conversation ne finirait jamais. Au lieu de cela, vous pourriez décrire la sculpture en termes de ses composants majeurs — une tête, un torse, des bras — et la façon dont ils se connectent. Cette équipe a fait quelque chose de similaire pour les molécules. Ils ont décomposé les protéines, l'ADN et les petites molécules de type médicament en unités chimiques standards. Pour une protéine, une unité est un résidu d'acide aminé unique ; pour l'ADN, c'est un nucléotide ; pour une petite molécule médicamenteuse, c'est un seul atome lourd. Ils ont ensuite construit un réseau neuronal qui examine l'assemblage entier de ces unités, comprenant comment elles sont liées les unes aux autres dans l'espace, et convertit cet arrangement spatial en une courte chaîne de nombres.

Ce processus de conversion est le « tokenizer ». Il prend les coordonnées continues et flottantes des atomes et les comprime dans un ensemble fixe de 8 192 codes possibles. Les chercheurs ont utilisé une technique appelée quantification scalaire finie, qui agit comme une règle de haute précision qui ramène toute mesure à la ligne marquée la plus proche sur une grille. Cela garantit que les possibilités infinies et complexes des formes moléculaires sont réduites à un vocabulaire fini et gérable. Crucialement, ce processus préserve l'identité chimique de la molécule. Le système sait qu'un jeton spécifique représente un acide aminé particulier avec une chaîne latérale spécifique, ou un atome spécifique dans une molécule médicamenteuse, sans avoir besoin de stocker les coordonnées exactes dans le jeton lui-même. Les coordonnées sont récupérées plus tard, après que la séquence de jetons a été prédite.

Avec ce tokenizer en place, les chercheurs ont entraîné un grand modèle de langage, qu'ils ont nommé AtomLM-9b, pour prédire ces jetons structurels. Ce modèle est basé sur une architecture d'IA puissante existante mais a été adapté pour comprendre la chimie. Au lieu de lire des phrases et de prédire le mot suivant, il lit l'identité chimique d'une molécule — la liste des atomes et la façon dont ils sont liés — et prédit la séquence de jetons structurels qui décrivent sa forme 3D. Le modèle ne voit pas la structure 3D finale pendant l'entraînement ; il ne voit que la recette chimique et apprend à produire la séquence correcte de jetons. Une fois que le modèle génère cette séquence, le partenaire du tokenizer, le « dé-tokenizer », prend le relais. Il lit la séquence de jetons, ainsi que l'information chimique originale, et reconstruit les coordonnées 3D complètes de chaque atome de la molécule. Ce processus en deux étapes sépare la tâche de compréhension de la séquence de la tâche de dessin de la forme, permettant à chaque partie d'être optimisée indépendamment.

Les résultats de cette approche sont frappants. Lorsqu'il a été testé sur un ensemble standard de structures protéiques utilisé pour évaluer les outils de prédiction, le système a obtenu un score de précision de tous les atomes de 0,832 sur un benchmark majeur et de 0,835 sur un autre. Ces scores indiquent que les structures reconstruites sont extrêmement proches des formes réelles observées expérimentalement. Dans une comparaison directe sur un ensemble spécifique de tâches d'interaction protéine-protéine, le nouveau modèle a atteint un taux de réussite de 75,01 %, dépassant légèrement les résultats publiés d'AlphaFold 3, qui se situaient à 72,93 %. Le modèle a également montré de solides performances dans la prédiction des formes de l'ADN et de l'ARN, ainsi que dans la détermination de la manière dont les petites molécules médicamenteuses se lient aux protéines, des domaines où d'autres modèles rencontrent parfois des difficultés.

Les chercheurs ont été prudents lors des tests du système en appliant des conditions strictes pour s'assurer que les résultats étaient authentiques. Ils ont entraîné le modèle sur une vaste collection de structures moléculaires connues, mais ont exclu les cas de test spécifiques des données d'entraînement pour empêcher le modèle de simplement mémoriser les réponses. Ils ont également vérifié que le modèle pouvait gérer des mélanges complexes de différents types de molécules, tels qu'une protéine liée à un fragment d'ADN et une petite molécule médicamenteuse, tout à la fois. Le système a prédit avec succès les formes de ces assemblages complexes, démontrant que le vocabulaire partagé de jetons fonctionne à travers différents types de chimie. Le modèle ne repose pas sur des modèles structurels préexistants ou des alignements de séquences multiples, qui sont souvent utilisés par d'autres méthodes pour augmenter la précision. Au lieu de cela, il apprend les règles physiques du repliement directement à partir des données.

L'un des aspects les plus significatifs de ce travail est la clarté de l'interface entre le modèle de langage et la structure physique. En utilisant un ensemble discret de jetons, les chercheurs ont créé une frontière nette où l'IA prédit une séquence, et un processus distinct et déterministe transforme cette séquence en un modèle 3D. Cette séparation permet une évaluation rigoureuse de la capacité de l'IA à comprendre la relation entre la chimie et la forme. L'étude montre que cette approche discrète n'est pas seulement un exercice théorique, mais une méthode pratique capable de générer des structures atomiques de haute fidélité. La capacité du modèle à prédire les positions des chaînes latérales et des atomes de ligands avec une grande précision suggère qu'il a appris les contraintes géométriques subtiles qui régissent les interactions moléculaires.

L'équipe a également exploré les limites de son système à travers une série de tests où elle a supprimé des composants spécifiques pour voir à quel point chacun d'eux contribuait au résultat final. Ils ont découvert que la manière hiérarchique dont le modèle traite l'information, passant des atomes individuels aux unités chimiques, puis à l'assemblage complet, était essentielle pour la précision. Ils ont également découvert que la capacité d'affiner les positions des atomes à travers différentes unités — permettant à un résidu de protéine d'ajuster sa forme en fonction d'une molécule médicamenteuse proche — était cruciale pour obtenir les poses de liaison correctes. Sans ces affinements, la capacité du modèle à prédire les interactions moléculaires chutait considérablement. Ces découvertes confirment que le système ne fait pas que deviner, mais capture la réalité physique de l'assemblage moléculaire.

Bien que le système soit très précis, les chercheurs reconnaissent qu'il n'est pas parfait. Le vocabulaire fini signifie que certaines configurations chimiques très rares ou inhabituelles pourraient ne pas être représentées aussi précisément que les plus communes. Le modèle se concentre sur les atomes lourds et ne prédit pas actuellement les positions des atomes d'hydrogène ni les effets de l'environnement aqueux environnant, qui sont importants pour certaines questions biologiques spécifiques. Cependant, pour la grande majorité des tâches de biologie structurale, le niveau de détail fourni est suffisant pour comprendre le fonctionnement des molécules. Le succès de cette approche suggère que traiter la géométrie moléculaire comme un langage, doté d'un vocabulaire partagé pour différents types d'unités chimiques, est un moyen puissant de résoudre le problème de la prédiction de structure.

Ce travail représente un changement dans la manière dont les scientifiques abordent le problème de la modélisation moléculaire. Au lieu d'essayer de calculer les forces entre chaque atome dans une seule et immense simulation, les chercheurs ont montré qu'un modèle de langage peut apprendre les motifs des formes moléculaires et les générer efficacement. La combinaison d'un tokenizer qui compresse la géométrie et d'un modèle de langage qui prédit la séquence offre une nouvelle voie à suivre. Elle démontre que la complexité des blocs de construction de la vie peut être capturée sous une forme compacte et discrète, et que l'intelligence artificielle peut apprendre à naviguer dans cette forme avec un degré de précision élevé. Les résultats fournissent un nouvel outil pour la découverte de médicaments et la recherche biologique, offrant un moyen de prédire les formes de molécules qui n'ont jamais été vues auparavant, en se basant uniquement sur leur composition chimique.