🤖 machine learning

Conformal Prediction for Molecular Properties under Label Shift

Cet article introduit un cadre de prédiction conforme adapté au décalage de labels qui génère des intervalles de prédiction statistiquement rigoureux pour les propriétés moléculaires en pondérant les scores par des rapports de probabilités marginales de labels, améliorant ainsi la fiabilité et la conformité réglementaire de la découverte de médicaments assistée par l'IA sans nécessifier de réentraînement du modèle.

Auteurs originaux : Hyeonsu Lee, Juyeon Kim, Erkhembayar Jadamba, Seungjin Choi, Hyunjin Shin

Publié 2026-08-19

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Hyeonsu Lee, Juyeon Kim, Erkhembayar Jadamba, Seungjin Choi, Hyunjin Shin

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le voyage consistant à transformer un composé chimique en un médicament salvateur est un marathon d'incertitudes. C'est un processus qui peut prendre plus d'une décennie et coûter des milliards de dollars, se terminant souvent par un échec parce qu'une molécule qui semblait parfaite dans un modèle informatique se comporte de manière imprévisible dans un corps vivant. Pour accélérer ce processus, les scientifiques s'appuient de plus en plus sur l'intelligence artificielle pour prédire comment une nouvelle molécule agira, par exemple si elle se dissoudra dans l'eau ou si elle empoisonnera une cellule. Cependant, ces prédictions numériques ne sont aussi bonnes que les données sur lesquelles elles ont été entraînées. Lorsqu'un modèle rencontre un nouveau type de molécule qui diffère significativement des exemples qu'il a étudiés, sa confiance peut devenir un handicap, offrant un chiffre unique et précis qui est pourtant erroné avec assurance. Pour rendre ces outils sûrs pour une utilisation dans le monde réel, les chercheurs ont besoin d'un moyen de mesurer non seulement la réponse, mais aussi la fiabilité de cette réponse, surtout lorsque les règles du jeu changent.

Dans une étude récente, des chercheurs de l'Institut Mogam pour la recherche biomédicale et d'Intellicode ont abordé ce problème spécifique de changement de règles, connu techniquement sous le nom de décalage de distribution (label shift). Cela se produit lorsque la distribution des propriétés que le modèle tente de prédire change entre la phase d'entraînement et l'application dans le monde réel. Par exemple, un modèle peut être entraîné sur une grande variété de molécules communes, puis être sollicité pour trouver des composés rares dotés d'une puissance exceptionnellement élevée. Dans ce scénario, la méthode standard de mesure de l'incertitude s'effondre, menant souvent à des intervalles de prédiction trop étroits pour capturer la valeur réelle. L'équipe a développé un nouveau cadre qui ajuste les intervalles de confiance de ces prédictions d'IA sans nécessiter le réentraînement des modèles sous-jacents coûteux. En utilisant une technique statistique appelée prédiction conforme, qui construit une plage de valeurs probables plutôt qu'une estimation ponctuelle unique, ils ont créé un système qui reste fiable même lorsque la distribution des données dérive.

Les chercheurs ont testé leur méthode en utilisant un vaste ensemble de données comprenant près de dix mille composés aux niveaux de solubilité connus, un facteur critique dans la conception de médicaments. Ils ont employé un modèle de langage sophistiqué, entraîné sur des centaines de millions de structures chimiques, pour effectuer ses prédictions initiales. Pour simuler le défi du monde réel du décalage de distribution, ils ont artificiellement modifié les données de test afin que la distribution des valeurs de solubilité diffère de l'ensemble d'entraînement. Lorsqu'ils ont appliqué la méthode standard non ajustée à ces données décalées, le système n'a pas réussi à capturer les valeurs réelles dans les plages prédites aussi souvent qu'il aurait dû le faire, laissant les résultats dangereusement trop confiants. L'approche traditionnelle, qui suppose que les données de test ressemblent aux données d'entraînement, n'a tout simplement pas pu suivre le changement.

Pour corriger cela, l'équipe a introduit un système de pondération qui agit comme une lentille corrective pour les prédictions. Ils ont d'abord divisé les données disponibles en trois groupes distincts : un pour entraîner le modèle, un pour estimer comment la distribution des données avait décalé, et un troisième pour calibrer les plages de prédiction finales. À l'aide du deuxième groupe, ils ont calculé le ratio entre la fréquence attendue des différents niveaux de solubilité dans le nouvel environnement par rapport à l'ancien. Ils ont ensuite appliqué ces ratios comme poids aux erreurs commises par le modèle lors de la calibration. Ce processus indiquait efficacement au système de prêter davantage d'attention aux types d'erreurs qui devenaient plus fréquents dans les nouvelles données et moins d'attention à ceux qui s'estompaient. Ce faisant, ils ont pu construire des intervalles de prédiction qui maintiennentnt leur validité statistique, garantissant que la valeur réelle tombe dans la plage prédite au niveau de confiance souhaité, quel que soit le décalage des données.

Les résultats de leurs simulations, répétées mille fois pour assurer la robustesse, ont montré une amélioration claire. Alors que la méthode standard produisait des intervalles manquant fréquemment les valeurs réelles sous l'effet du décalage de distribution, la nouvelle approche pondérée a systématiquement restauré la couverture au niveau cible. Les chercheurs ont constaté que la méthode fonctionnait mieux lorsqu'ils utilisaient une technique statistique spécifique appelée estimation du maximum de vraisemblance pour calculer les poids nécessaires, bien que d'autres méthodes aient également montré des promesses. Curieusement, la méthode la plus précise pour récupérer la couverture avait tendance à produire des intervalles légèrement plus larges que les autres, un compromis qui reflète une évaluation plus honnête de l'incertitude. L'étude a démontré qu'il est possible d'adapter les modèles d'IA puissants existants à de nouveaux paysages chimiques changeants sans le coût prohibitif d'un réentraînement complet.

Ce travail offre une voie pratique pour l'intégration de l'intelligence artificielle dans l'environnement à enjeux élevés de la découverte de médicaments. En fournissant un moyen de générer des mesures de confiance statistiquement rigoureuses qui s'adaptent aux conditions changeantes, ce cadre aide à combler le fossé entre la performance théorique des modèles et les exigences réglementaires de transparence. Il garantit que lorsque les scientifiques observent la prédiction d'une nouvelle molécule, ils ne voient pas seulement un chiffre, mais une évaluation réaliste de son potentiel, accompagnée d'une compréhension claire des risques encourus. Ce passage d'une confiance aveugle à une fiabilité mesurée est une étape cruciale pour faire de l'IA un partenaire de confiance dans l'entreprise de plusieurs milliards de dollars que représente la mise sur le marché de nouveaux médicaments pour les patients.

Résumé Technique : Prédiction Conforme pour les Propriétés Moléculaires sous Décalage de Label

Énoncé du Problème
L'application de l'intelligence artificielle (IA) dans la découverte de médicaments est confrontée à un goulot d'étranglement critique en matière de fiabilité : le décalage de distribution (distribution shift). Bien que les modèles d'IA accélèrent la prédiction des propriétés moléculaires (ex. : solubilité, puissance, toxicité), leurs performances se dégradent souvent lorsque les données de test divergent des distributions d'entraînement. Plus précisément, ce travail traite du décalage de label (label shift), un scénario où la distribution marginale de la propriété cible ( $P(y)$ ) change entre les domaines source (entraînement) et cible, tandis que la distribution conditionnelle des caractéristiques étant donné le label ( $P(x|y)$ ) reste invariante. Cela est courant dans la découverte de médicaments lorsque les priorités de recherche s'orientent vers la découverte de molécules possédant des valeurs de propriétés (ex. : puissance extrême ou faible toxicité) qui étaient sous-représentées dans les données d'entraînement originales.

La prédiction conforme standard, un cadre permettant de générer des intervalles de prédiction statistiquement rigoureux avec une validité en échantplonnage fini, repose sur l'hypothèse d'échangeabilité entre les données d'entraînement et de test. Sous un décalage de label, cette hypothèse est violée, ce qui entraîne des méthodes standard produisant des prédictions trop confiantes mais peu fiables, avec des taux de couverture tombant significativement en dessous du niveau de confiance nominal. De plus, les prédictions ponctuelles conventionnelles offrent une orientation limitée pour la conception expérimentale à enjeux élevés, et les solutions existantes pour le décalage de distribution nécessitent souvent un réentraînement coûteux du modèle ou se concentrent principalement sur le décalage de covariables plutôt que sur le décalage de label dans les tâches de régression continue.

Méthodologie
Les auteurs proposent un cadre de Prédiction Conforme Pondérée (WCP) adapté pour gérer le décalage de label dans la régression de propriétés moléculaires sans réentraîner le modèle de base. La méthodologie procède par les étapes suivantes :

Partitionnement des Données : Le jeu de données source ( $D_s$ ) est divisé en trois sous-ensembles disjoints pour éviter toute fuite de données :
- Ensemble d'Entraînement ( $D_{train}$ ) : Utilisé pour entraîner le modèle de prédiction de base ( $f$ ).
- Ensemble de Pondération ( $D_{weight}$ ) : Utilisé pour estimer les poids d'importance représentant le ratio entre les distributions de labels de la cible et de la source.
- Ensemble de Calibration ( $D_{cal}$ ) : Utilisé pour calculer les scores de non-conformité.
- Le jeu de données cible ( $D_t$ ) est divisé en sous-ensembles non décalés et décalés pour l'évaluation.
Discrétisation et Estimation de Poids : Puisque la propriété cible est continue, la variable de réponse $y$ est discrétisée en $K$ classes pour créer des pseudo-labels. Les poids d'importance ( $w$ ) sont estimés comme le ratio de la probabilité marginale de label de la cible sur la probabilité marginale de label de la source ( $w(\tilde{y}) = q(\tilde{y})/p(\tilde{y})$ ). Les auteurs emploient trois techniques distinctes pour estimer la distribution cible $q(\tilde{y})$ à partir de données cibles non étiquetées :
- Estimation de Décalage Boîte Noire (BBSE)
- Apprentissage Régularisé sous Décalages de Label (RLLS)
- Estimation du Maximum de Vraisemblance (MLE) avec mise à l'échelle de température corrigée par biais (BCTS).
- Pour le MLE, une approche probabiliste modélise les prédictions comme des Gaussiennes centrées sur la sortie du modèle avec un écart-type égal à l'RMSE, calculant les probabilités de classe via des différences de Fonction de Répartition (CDF).
Prédiction Conforme Pondérée :
- Les scores de non-conformité ( $s_i$ ) sont calculés pour l'ensemble de calibration, typiquement comme des résidus absolus ( $|y_i - f(x_i)|$ ).
- Chaque score se voit assigner un poids d'importance estimé ( $\hat{w}_i$ ) basé sur la classe du label réel.
- Un quantile pondéré ( $\hat{q}_w$ ) est calculé de telle sorte que la proportion pondérée de scores inférieurs au seuil respecte le niveau de confiance souhaité ( $1-\alpha$ ).
- L'intervalle de prédiction final pour un nouveau point de test $x_t$ est construit comme $C(x_t) = [f(x_t) - \hat{q}_w, f(x_t) + \hat{q}_w]$ .

Contributions Clés

Adaptation au Décalage de Label : L'article introduit une adaptation spécifique de la prédiction conforme pour les tâches de régression continue sous décalage de label, une lacune auparavant peu explorée par rapport au décalage de covariables.
Cadre Indépendant du Modèle : La méthode est compatible avec divers modèles de base (démontrée ici avec un Large Language Model) et ne nécessite pas de réentraînement coûteux du modèle. Elle repose uniquement sur la repondération de l'étape de calibration.
Intégration de Techniques d'Estimation : Le cadre évalue et intègre systématiquement BBSE, RLLS et MLE pour estimer les ratios de probabilité marginale, démontant comment ces techniques peuvent être appliquées pour corriger les décalages de distribution en utilisant uniquement les sorties des modèles prédictifs.
Rigueur Statistique : L'approche restaure la garantie de couverture marginale ( $P(y_{test} \in C(x_{test})) \geq 1-\alpha$ ) même lorsque les distributions de propriétés dérivent, fournissant une quantification d'incertitude statistiquement valide.

Résultats Expérimentaux
Le cadre a été évalué sur le jeu de données AqSolDB (9 982 composés) à l'aide d'un Large Language Model (LLM) chimique basé sur une architecture BART, pré-entraîné sur environ 200 millions de chaînes SMILES et affiné pour la prédiction de la solubilité (logS).

Échec de la Référence : La prédiction conforme par division standard (CP) a montré un déclin significatif de la couverture sur les données de test avec décalage de label, la couverture moyenne chutant substantiellement en dessous de la cible nominale.
Récupération de Performance : Les méthodes de Prédiction Conforme Pondérée (WCP) proposées ont réussi à récupérer la couverture. Les distributions de couverture pour WCP se sont déplacées vers la droite par rapport à la CP standard, indiquant que les intervalles contenaient plus fréquemment les labels réels.
Comparaison des Estimateurs : Parmi les techniques d'estimation de poids, le MLE a obtenu la couverture la plus élevée, suivi de RLLS et BBSE. Le MLE a démontré une robustesse concernant le nombre de classes utilisées pour la discrétisation.
Compromis : Bien que le MLE ait fourni la meilleure récupération de couverture, il a entraîné des intervalles de prédiction légèrement plus larges que BBSE et RLLS.

Signification et Revendications
Les auteurs positionnent ce travail comme une étape critique vers la conformité réglementaire et l'adoption réelle de l'IA dans la découverte de médicaments. En allant au-delà de la simple précision de valeur unique pour fournir des mesures de confiance exploitables et statistiquement rigoureuses, la méthode répond aux directives de la FDA pour 2025 exigeant des « intervalles de confiance appropriés » et des « estimations d'incertitude » pour les systèmes d'IA dans les soumissions réglementaires.

L'article affirme que ce cadre renforce la confiance dans les prédictions pilotées par l'IA dans les pipelines de développement de plusieurs milliards de dollars. Il permet une quantification robuste de l'incertitude même lorsque les distributions de propriétés dérivent, s'attaquant directement à un obstacle omniprésent dans l'application de l'IA à de nouveaux espaces chimiques. En fin de compte, ce travail offre une solution généralisable et indépendante du modèle qui garantit que les modèles restent dignes de confiance lorsqu'ils naviguent sur les frontières incertaines du développement de médicaments, alignant la modélisation prédictive avec les exigences de transparence et de fiabilité dans la prise de décision scientifique à enjeux élevés.

Articles similaires