A single design choice determines whether machine learning models of materials make physically impossible predictions

Dans la quête de la découverte de nouveaux matériaux, les scientifiques s'appuient depuis longtemps sur un raccourci puissant : l'utilisation des règles de symétrie pour prédire comment un cristal se comportera. Les cristaux ne sont pas des amas d'atomes aléatoires ; ce sont des structures hautement ordonnées où les atomes se répètent selon des motifs précis. En raison de cet ordre, les lois de la physique dictent que certaines propriétés doivent se comporter de manières spécifiques. Par exemple, si un cristal semble identique lorsque vous le retournez par son centre — une propriété connue sous le nom de centrosymétrie — alors il ne peut pas générer d'électricité lorsqu'il est compressé. Il ne s'agit pas d'une faiblesse du matériau ou d'une imprécision de la mesure ; c'est une règle dure de la nature. Si un cristal possède cette symétrie centrale, la réponse électrique doit être exactement nulle.

Pendant des décennies, les chercheurs ont utilisé des simulations informatiques complexes basées sur la mécanique quantique pour calculer ces propriétés. Aujourd'hui, cependant, une méthode plus rapide prend le dessus : l'apprentissage automatique (machine learning). Ces modèles d'intelligence artificielle sont entraînés pour prédire les propriétés des matériaux en apprenant à partir de vastes bases de données de cristaux connus. Ils deviennent l'outil principal pour la découverte de nouvelles substances pour les batteries, les cellules solaires et l'électronique. L'espoir est que ces modèles puissent apprendre les règles de symétrie tout comme un physicien humain le ferait, ou peut-être même mieux, en trouvant des motifs dans les données que les humains pourraient manquer. Mais cette rapidité comporte un risque : si le modèle ne respecte pas strictement les lois fondamentales de la symétrie, il pourrait prédire qu'un cristal peut faire quelque chose que la nature interdit, comme générer de l'électricité alors qu'il en est physiquement incapable.

Une étude récente menée par des chercheurs de l'Université Texas A&M et d'autres institutions révèle une faille frappante dans la manière dont beaucoup de ces modèles d'apprentissage automatique populaires sont construits. L'équipe a découvert que le fait qu'un modèle respecte ces lois absolues de la physique n'est pas déterminé par la quantité de données qu'il voit ou par la durée de son entraînement. Au lieu de cela, cela est décidé par un choix de conception unique et minuscule fait avant même le début de l'entraînement : savoir si les « caractéristiques » internes du modèle — les blocs mathématiques de construction qu'il utilise pour comprendre la forme d'un cristal — portent une étiquette spécifique appelée « parité ». La parité est une façon de suivre comment une forme change lorsqu'elle est réfléchie dans un miroir ou retournée. Les chercheurs ont découvert que si un modèle manque de cette étiquette, il est mathématiquement incapable de prédire le zéro exact requis par la symétrie, peu importe ses efforts. Il produira toujours un petit nombre non nul, qui représente une prédiction physiquement impossible.

Pour prouver cela, les chercheurs ont mis en place un test rigoureux utilisant une propriété appelée tenseur piézoélectrique, qui mesure la quantité d'électricité qu'un cristal produit lorsqu'il est compressé. Ils se sont concentrés sur deux mille cristaux différents qui sont connus pour être centrosymétriques, ce qui signifie qu'ils possèdent un centre de symétrie. Selon les lois de la physique, la réponse piézoélectrique de tous ces cristaux doit être exactement nulle. L'équipe a pris plusieurs des modèles d'apprentissage automatique les plus avancés utilisés dans le domaine et a créé deux versions de chacun. Une version était construite avec l'inclusion des étiquettes de parité, tandis que l'autre était construite sans elles, identique sur tous les autres points. Ils ont ensuite entraîné les deux versions sur les mêmes données et leur ont demandé de prédire la réponse piézoélectrique de ces deux mille cristaux centrosymétriques.

Les résultats ont été dramatiques et immédiats. Les modèles dotés des étiquettes de parité ont prédit une valeur de zéro pour chaque cristal, jusqu'aux limites de la précision de l'ordinateur. Ils ont correctement identifié que ces matériaux ne pouvaient pas produire d'électricité. En revanche, les modèles sans les étiquettes de parité ont échoué de manière spectaculaire. Ils ont prédit une réponse électrique non nulle pour 90 à 96 % des cristaux. Ces prédictions n'étaient pas de petites erreurs ; elles étaient souvent aussi importantes que les réponses électriques réelles trouvées dans les matériaux qui peuvent générer de l'électricité. La différence entre les deux groupes n'était pas une question de quelques décimales ; c'était un écart de six ordres de grandeur, ce qui signifie que les modèles « erronés » étaient un million de fois plus susceptibles de prédire un événement physiquement impossible que les modèles « corrects ».

Les chercheurs ont ensuite testé si l'entraînement pouvait corriger le problème. Ils ont nourri les modèles « erronés » avec des données supplémentaires, montrant spécifiquement des exemples de cristaux centrosymétriques avec l'étiquette zéro correcte, espérant que les modèles apprendraient la règle. Cela n'a pas fonctionné. Même après avoir vu des milliers d'exemples où la réponse était zéro, les modèles continuaient à prédire des valeurs non nulles. Ils pouvaient se rapprocher de zéro, mais ils ne pouvaient jamais atteindre le zéro exact requis par les lois de la physique. L'étude a également montré que le simple fait de moyenner les résultats d'un modèle et de son image miroir ne résolvait pas le problème, car la structure sous-jacente du modèle est aveugle à la règle de symétrie.

Cette découverte a des implications profondes pour le domaine de la science des matériaux. Elle suggère que la fiabilité d'un modèle d'apprentissage automatique ne dépend pas seulement de sa précision lors de tests standards, mais de sa capacité structurelle à représenter la réalité physique. Les chercheurs ont audité dix-huit architectures d'apprentissage automatique actuellement utilisées et ont constaté que exactement la moitié d'entre elles manquent les étiquettes de parité nécessaires. Cela signifie qu'une partie significative des outils que les scientifiques utilisent pour découvrir de nouveaux matériaux est fondamentalement incapable de faire la prédiction correcte pour une large classe de cristaux. Le problème n'est pas que ces modèles sont mauvais pour apprendre ; c'est que leur conception les empêche d'apprendre cette vérité spécifique.

L'étude a également mis en lumière une tendance croissante dans le domaine où les scientifiques prennent un modèle pré-entraîné, qui a déjà appris la structure générale des atomes, et y attache une nouvelle « tête » pour prédire une propriété spécifique. Les chercheurs ont montré que si le modèle original a été construit sans étiquettes de parité, le nouveau prédicteur de propriété héritera de ce défaut. Peu importe la précision avec laquelle la nouvelle partie est conçue, si la fondation manque l'étiquette de symétrie, toute la structure échouera à respecter les lois de la physique. Cela signifie que la décision d'inclure ou d'exclure cette étiquette est prise en amont, souvent par les créateurs du modèle de base, et qu'elle dicte silencieusement la validité de chaque prédiction faite par quiconque utilise ce modèle par la suite.

En fin de compte, l'article soutient que pour que l'apprentissage automatique soit véritablement digne de confiance en science, il doit être construit avec les lois de la physique intégrées dans sa structure, et non simplement apprises à partir de données. Les chercheurs proposent un test simple : avant de faire confiance à un modèle pour prédire une propriété qui devrait être nulle en raison de la symétrie, on peut le tester en quelques secondes en appliquant une réflexion spéculaire à une structure cristalline aléatoire. Si le modèle prédit une valeur non nulle, il manque l'étiquette de parité nécessaire et ne peut pas être utilisé pour cette tâche. Ce n'est pas une suggestion d'amélioration, mais une exigence de validité physique. L'étude conclut que la présence ou l'absence de cette seule étiquette détermine si un modèle est un outil de découverte ou une source de prédictions impossibles, et que c'est un détail qui doit être rapporté et vérifié pour chaque modèle utilisé dans la recherche de nouveaux matériaux.