Single- to multi-fidelity history-dependent learning with uncertainty quantification and disentanglement: application to data-driven constitutive modeling

Imaginez que vous essayiez d'apprendre à un robot comment prédire comment un morceau de métal va se plier, s'étirer ou se rompre lorsqu'on tire dessus. Il ne s'agit pas d'une simple règle du type « tirer fort, ça casse » ; le métal se souvient de chaque fois que vous l'avez tiré auparavant. Son passé modifie sa réaction suivante. C'est le monde de la modélisation constitutive, un terme sophistiqué pour désigner la recherche des règles qui régissent le comportement des matériaux. Pour enseigner ces règles à un robot, vous avez besoin de données. Mais voici le hic : obtenir des données parfaites, c'est comme essayer de photographier un colibri dans un ouragan — cela demande énormément de temps, d'argent et de puissance de calcul. D'un autre côté, obtenir des données rapides est facile, comme prendre une photo floue de loin, mais elles sont pleines d'erreurs et de bruit. Les scientifiques sont coincés depuis longtemps dans un bras de fer : faut-il dépenser une fortune pour des données parfaites, ou économiser de l'argent et composer avec des données désordonnées et imprécises ?

Le papier que vous allez lire s'attaque à ce dilemme exact. Il introduit une nouvelle méthode ingénieuse pour enseigner aux machines en utilisant un mélange de données parfaites et désordonnées, tout en apprenant à la machine à admettre quand elle devine. Les auteurs utilisent une méthode appelée apprentissage multi-fidélité, qui revient à embaucher une équipe d'experts où vous avez quelques consultants super coûteux et super précis et une multitude d'assistants moins chers, plus rapides, mais légèrement moins précis. L'objectif est de combiner leurs opinions pour obtenir la meilleure réponse possible sans se ruiner. De plus, le papier traite de l'incertitude, en distinguant deux types de « méconnaissance » : l'incertitude aléatoire, qui est le caractère aléatoire naturel ou le « bruit » dans les données (comme le grain de sable dans une photo), et l'incertitude épistémique, qui est la propre ignorance du modèle parce qu'il n'a pas vu assez d'exemples. Les auteurs veulent un système qui ne donne pas seulement une réponse, mais qui vous dit aussi à quel point il fait confiance à cette réponse et quelle part de l'erreur provient des données elles-mêmes par rapport au manque de connaissances du modèle.

La grande idée du papier : Une équipe intelligente de prédicteurs

Les auteurs, Jiaxiang Yi, Bernardo P. Ferreira et Miguel A. Bessa, proposent un nouveau cadre flexible capable d'apprendre de n'importe quelle combinaison de ces types de données. Ils ont construit un « couteau suisse » de modèles d'apprentissage automatique capables de s'adapter à différents scénarios. Au cœur de leur invention se trouve ce qu'ils appellent les Réseaux de Neurones Récurrents Bayésiens avec estimation de la variance (VeBRNNs).

Considérez un réseau de neurones standard comme un étudiant qui mémorise des réponses. Si vous lui posez une question qu'il n'a pas vue auparavant, il pourrait simplement donner une réponse avec assurance, même s'il se trompe. Un réseau Bayésien, en revanche, est comme un étudiant prudent qui dit : « Je pense que la réponse est X, mais je n'en suis sûr qu'à 80 %, et voici une gamme d'autres possibilités. » La partie « Récurrente » signifie que cet étudiant possède une mémoire ; il se souvient de l'historique de ce qui s'est passé avant, ce qui est crucial pour les matériaux qui changent en fonction de leur passé. La partie « Estimation de la variance » est la touche spéciale : cet étudiant peut également observer les données désordonnées et dire : « Hé, ces données sont bruitées à cause de l'expérience elle-même, pas parce que je suis mauvais en mathématiques. » Cette capacité à séparer le « bruit » de l'« ignorance » est une avancée majeure.

Les quatre scénarios : Tester l'équipe

Pour prouver l'efficacité de leur méthode, les auteurs ont créé quatre différents « camps d'entraînement » en utilisant des matériaux simulés. Ils n'ont pas utilisé un seul type de données ; ils ont mélangé et assorti pour voir comment leur système gérait différents défis :

1. Le Soliste Bruité : Ils ont commencé avec un seul type de données, rapide à générer mais plein de bruit (comme une photo floue). Ils ont entraîné leur VeBRNN ici et ont découvert qu'il pouvait prédire avec précision le comportement du matériau tout en identifiant exactement la quantité de « bruit » présente dans les données. Il a appris à séparer le signal du statique.
2. La Paire Parfaite : Ensuite, ils ont essayé une configuration classique : un mélange de données peu coûteuses et moins précises et de données coûteuses et hautement précises (aucune des deux n'avait de bruit dans ce cas spécifique). Ici, ils ont montré qu'en utilisant les données peu coûteuses pour apprendre la forme générale du problème et les données coûteuses pour affiner les détails, ils pouvaient obtenir de meilleurs résultats qu'en utilisant uniquement les données coûteuses, surtout lorsqu'ils disposaient de peu de données coûteuses au départ.
3. Le Double Problème : C'était le test le plus difficile. Les données peu coûteuses et les données coûteuses étaient toutes deux bruitées. C'est comme essayer d'apprendre une chanson quand le professeur et le manuel comportent tous deux des fautes de frappe. Étonnamment, leur modèle multi-fidélité a quand même bien performé, surtout pour prédire des choses en dehors de la plage des données d'entraînement (extrapolation), surpassant un modèle qui ne regardait que les données coûteuses.
4. Le Héros Hybride : Enfin, ils ont mélangé des données peu coûteuses et bruitées avec des données coûteuses et parfaites. C'est un scénario très courant dans le monde réel. Leur système a utilisé les données bruitées pour avoir une idée générale et les données parfaites pour corriger les erreurs. Ils ont constaté que même si les données peu coûteuses étaient un peu désordonnées, leur utilisation aidait le modèle à apprendre plus rapidement et plus précisément que s'ils avaient seulement attendu les données coûteuses.

Ce qu'ils ont trouvé : La magie du mélange

Les résultats ont été très encourageants. Les auteurs ont découvert que leur méthode est incroyablement polyvalente. Elle peut commencer comme un modèle déterministe simple (prédisant simplement la moyenne) et monter en puissance pour devenir un modèle bayésien complexe qui quantifie chaque type d'incertitude.

L'une des découvertes les plus intéressantes concernait la quantité de données peu coûteuses dont vous avez besoin. Si vous avez un budget limité, vous ne devriez pas simplement acheter un peu de données coûteuses ou un peu de données peu coûteuses. Les auteurs suggèrent qu'il existe un « point idéal » où vous consacrez environ 30 % à 70 % de votre budget aux données moins coûteuses. Si vous consacrez trop peu de budget aux données peu coûteuses, le modèle n'apprend pas bien les schémas généraux. Si vous consacrez trop peu aux données coûteuses, le modèle ne parvient jamais à saisir les détails. Mais si vous trouvez cet équilibre, l'approche multi-fidélité surpasse systématiquement l'utilisation d'un seul type de données.

Ils ont également montré que leur méthode est particulièrement efficace pour l'extrapolation — prédire ce qui se passe dans des situations que le modèle n'a pas encore rencontrées. Lorsqu'on demande à un modèle standard de deviner en dehors de sa zone d'entraînement, il peut donner une réponse erronée avec assurance. Le VeBRNN, cependant, réalise qu'il n'en sait pas assez et élargit son « intervalle de confiance », disant essentiellement : « Je ne suis pas sûr de cela. » C'est une caractéristique de sécurité cruciale pour l'ingénierie, où l'excès de confiance peut mener à des catastrophes.

L'essentiel

Ce papier ne prétend pas avoir résolu tous les problèmes de la science des matériaux. Au lieu de cela, il offre un outil puissant et adaptable. Il prouve que vous n'avez pas à choisir entre vitesse et précision ; vous pouvez avoir les deux en mélangeant intelligemment différents niveaux de qualité de données. En apprenant aux machines à comprendre leur propre incertitude et à séparer le bruit des données de leur propre manque de connaissances, les auteurs ont ouvert la voie à des conceptions basées sur les données plus fiables. Qu'il s'agisse de concevoir une nouvelle aile d'avion ou un pont plus sûr, cette méthode suggère que nous pouvons construire de meilleurs modèles plus rapidement, en utilisant des données moins parfaites, tout en gardant un certain scepticisme sur ce que nous ne connaissons pas encore.