⚛️ phénoménologie

Faithful Uncertainties in ML-Based Inverse Problems: GPs, NNs and NTKs for the Triplet PDF

Cet article démontre que dans les problèmes inverses basés sur l'apprentissage automatique pour la reconstruction des fonctions de distribution de partons, des méthodes présentant des prédictions centrales similaires peuvent produire des estimations d'incertitude radicalement différentes, soulignant l'importance critique d'incorporer la covariance expérimentale complète, des priors fonctionnels appropriés et des tests de clôture rigoureux pour garantir un étalonnage fidèle des incertitudes.

Auteurs originaux : Nina Elmer, Sven Krippendorf, Maria Ubiali

Publié 2026-10-23

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Nina Elmer, Sven Krippendorf, Maria Ubiali

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Dans le monde de la physique des particules à enjeux élevés, les scientifiques ne se contentent pas d'observer les briques élémentaires de l'univers ; ils doivent les reconstruire à partir des ombres qu'elles projettent. Lorsque des protons s'entrechoquent à des vitesses immenses, ils produisent un torrent de débris, mais les particules fondamentales à l'intérieur du proton — les quarks et les gluons — restent cachées. Pour comprendre la structure du proton, les chercheurs doivent travailler à rebours à partir des données désordonnées et bruitées de ces collisions afin de déduire la carte invisible de la manière dont la quantité de mouvement est partagée entre les constituants du proton. C'est ce qu'on appelle un problème inverse, un casse-tête mathématique où la réponse n'est pas unique et où les données sont imparfaites. Le défi n'est pas seulement de trouver la carte la plus probable, mais de savoir quel degré de confiance on peut lui accorder. Si la carte est erronée, les prédictions pour les futures expériences dans des installations comme le Grand Collisionneur de Hadrons pourraient être trompeuses. Pendant des années, les physiciens se sont appuyés sur des méthodes statistiques complexes pour tracer ces cartes, mais avec l'arrivée de l'apprentissage automatique dans le domaine, une nouvelle question a émergé : ces algorithmes puissants peuvent-ils nous dire non seulement à quoi ressemble la carte, mais aussi à quel point ils sont incertains de celle-ci ?

Une équipe de chercheurs de l'Université de Cambridge a abordé cette question en soumettant trois approches différentes d'apprentissage automatique à l'épreuve dans un environnement contrôlé. Ils se sont concentrés sur une version spécifique et simplifiée de l'énigme du proton : la reconstruction de la distribution d'une combinaison particulière de quarks, appelée la distribution de triplet, en utilisant les données d'une expérience historique nommée BCDMS. Pour s'assurer de pouvoir juger les résultats équitablement, ils n'ont pas utilisé de données expérimentales réelles, qui n'ont pas de « vraie » réponse connue. Au lieu de cela, ils ont créé une simulation où ils connaissaient l'exacte vérité sous-jacente au préalable. Ils ont généré de faux points de données imitant les mesures réelles, avec des erreurs et des corrélations réalistes, puis ont demandé à trois systèmes d'apprentissage automatique différents de retrouver la carte originale. Les systèmes comparés étaient les processus gaussiens, des modèles statistiques connus pour leur capacité à quantifier l'incertitude ; les réseaux de neurones, les moteurs de l'apprentissage profond derrière de nombreuses percées modernes de l'IA ; et une méthode plus récente appelée noyau tangentiel neuronal (neural tangent kernel), qui tente de décrire comment les réseaux de neurones apprennent.

Les chercheurs ont découvert que, bien que les trois méthodes puissent produire une carte centrale très similaire à la vérité, leur confiance dans cette carte variait considérablement. Il s'est avéré qu'obtenir la réponse moyenne ne suffisait pas ; le test crucial était de savoir si l'incertitude estimée correspondait aux erreurs réelles. L'étude a révélé que la manière dont un modèle d'apprentissage automatique gère les erreurs connues dans les données est le facteur le plus important pour produire une estimation de l'incertitude fiable. Les modèles qui ignoraient les corrélations complexes entre différents points de données, ou ceux qui tentaient d'apprendre les erreurs à partir de zéro sans être informés de leur structure, produisaient des bandes de confiance soit beaucoup trop étroites, soit trompeusement larges. Seuls les modèles qui prenaient explicitement en compte la structure complète des erreurs expérimentales, y compris la façon dont l'erreur d'une mesure peut être liée à une autre, ont réussi à produire des estimations d'incertitude statistiquement honnêtes.

La découverte la plus surprenante concernait le comportement de ces modèles dans les régions où aucune donnée n'existait. Dans le monde réel, les physiciens doivent souvent deviner le comportement des particules à des niveaux d'énergie ou à des distances qu'ils n'ont jamais directement mesurés. L'étude a montré que, dans ces zones vides, les modèles d'apprentissage automatique ne se contentaient pas d'extrapoler à partir des données qu'ils avaient reçues. Au contraire, leurs suppositions étaient fortement dictées par les hypothèses mathématiques intégrées avant même le début de l'entraînement. Ces hypothèses, connues sous le nom de « priors », agissaient comme une main invisible guidant les prédictions du modèle. Lorsque les chercheurs modifiaient ces hypothèses initiales, les prédictions des modèles dans les régions non mesurées changeaient radicalement, alors même que leurs performances dans les régions mesurées restaient identiques. Cela signifie que l'incertitude rapportée par un modèle d'apprentissage automatique dans une région inexplorée n'est pas une réflexion pure des données, mais une affirmation conditionnelle qui dépend entièrement des règles mathématiques spécifiques qui ont été données au modèle.

L'équipe a également testé une technique plus récente impliquant les noyaux tangentiels neuronaux, qui sont conçus pour combler le fossé entre les réseaux de neurones et les modèles statistiques traditionnels. Ils ont constaté que le moment de l'analyse importait énormement. Si l'on évaluait l'incertitude du modèle au tout début de son entraînement, avant qu'il n'ait appris quoi que ce soit des données, l'incertitude résultante était dangereusement faible et totalement peu fiable. Ce n'est qu'après qu'un réseau a été entraîné pendant un nombre significatif d'étapes que les estimations d'incertitude sont devenues fiables. Cela suggère que pour être utiles en physique, ces méthodes avancées ne peuvent pas être traitées comme des outils statiques ; leur état interne doit être surveillé et évalué à la bonne étape de l'apprentissage.

En fin de compte, l'étude sert de mise en garde vitale et de guide pour la recherche future en physique. Elle démontre qu'un modèle d'apprentissage automatique peut paraître parfait en surface, reconstruisant les données connues avec une grande précision, tout en échouant à fournir une mesure fidèle de sa propre ignorance. Les chercheurs ont conclu que pour faire confiance à ces outils, les scientifiques doivent aller au-delà de la simple vérification de l'exactitude de la prédiction centrale. Ils doivent tester rigoureusement si les bandes d'incertitude du modèle couvrent réellement la vérité, en utilisant des méthodes qui tiennent compte des corrélations complexes des données du monde réel. Sans ces vérifications minutieuses, les puissants nouveaux outils de l'intelligence artificielle pourraient fournir des réponses précises mais dangereusement trompeuses, surtout lorsqu'on leur demande de s'aventurer dans l'inconnu. La voie à suivre exige un mariage entre la puissance de l'apprentissage automatique et la discipline statistique rigoureuse de la physique traditionnelle, afin de garantir que, lorsque nous regardons les ombres du monde subatomique, nous sachions exactement quelle partie de l'image est réelle et quelle partie est une supposition.

Résumé Technique : Incertitudes Fidèles dans les Problèmes Inverses Basés sur l'Apprentissage Automatique (ML)

Énoncé du Problème
Cet article traite du défi critique de la quantification de l'incertitude (UQ) dans les problèmes inverses basés sur l'apprentissage automatique (ML), spécifiquement dans le contexte de la détermination des fonctions de distribution de partons (PDF) en physique des hautes énergies. Les auteurs se concentrent sur la reconstruction de la fonction de distribution de partons triplet non-singlet, $T_3(x, Q_0^2)$ , à partir des fonctions de structure de diffusion inélastique profonde (DIS) mesurées par l'expérience BCDMS. Cela sert de banc d'essai contrôlé pour les ajustements globaux de PDF, où l'objectif est de reconstruire une fonction continue à partir d'un ensemble fini et bruité de mesures indirectes. Le problème central est que, bien que de nombreuses méthodes de ML puissent produire des valeurs centrales précises, leurs estimations d'incertitude associées manquent souvent de « fidélité » — ce qui signifie que les incertitudes rapportées ne s'alignent pas statistiquement avec l'écart réel par rapport à la véritable fonction sous-jacente. Ceci est particulièrement critique dans les régions d'extrapolation (par exemple, à petit $x$ ) où les données sont absentes, ainsi que dans les régions avec des incertitudes expérimentales corrélées.

Méthodologie
L'étude emploie un cadre de test de clôture (closure-test), où des pseudo-données sont générées à partir d'une « vérité » connue (la valeur centrale de l'analyse globale NNPDF4.0) avec des incertitudes expérimentales corrélées réalistes. Cela permet une comparaison directe entre les fonctions et les incertitudes reconstruites et la vérité de terrain. Les auteurs comparent trois approches méthodologiques distinctes :

Processus Gaussiens (GP) : Modèles bayésiens non paramétriques utilisant différents choix de noyaux (noyaux Radial Basis Function, Gibbs et Matérn). Les auteurs testent à la fois des GP « bruts » et ceux incorporant un prétraitement aux extrémités ( $x^\alpha(1-x)^\beta$ ) pour encoder des priors physiques sur le comportement à petit et grand $x$ .
Réseaux de Neurones (NN) : Ensembles de perceptrons multicouches (MLP) entraînés avec différentes fonctions de perte :
- Erreur Quadratique Moyenne (MSE) standard.
- MSE hétéroscédastique (apprentissage des variances ponctuelles).
- Perte $\chi^2$ (incorporant la matrice de covariance expérimentale complète $C_{exp}$ ).
  Les NN sont entraînés sur trois niveaux de données de test de clôture : Niveau-0 (sans bruit), Niveau-1 (réalisation unique bruitée), et Niveau-2 (réplicas de Monte Carlo de données bruitées).
Noyaux Tangents Neuraux (NTK) : Approximations empiriques de la dynamique d'entraînement des NN. Les auteurs évaluent le NTK à trois étapes : initialisation aléatoire, après 100 époques, et après l'entraînement complet (5000 époques). Ceux-ci sont traités comme la covariance d'un prior de processus gaussien conditionné par les données.

Contributions Clés et Diagnostics
Le papier introduit et applique des diagnostics spécifiques pour évaluer la « fidélité » des incertitudes :

Biais Normalisé ( $R_b$ ) : Un métrique de diagnostic évaluée dans la région d'interpolation (données). Il mesure si l'écart de la moyenne de l'ensemble est statistiquement compatible avec la covariance de l'ensemble. Les auteurs soulignent que $R \text{ } b$ dépend non seulement de la largeur ponctuelle des bandes d'incertitude, mais crucialement de la structure de corrélation de la covariance prédictive.
Propagation de l'Extrapolation : Les fonctions $T_3$ reconstruites sont propagées aux sections efficaces réduites de courant neutre de HERA (ensembles de données avec des valeurs de $x$ en dehors de la plage d'entraînement de BCDMS) pour tester la fiabilité des incertitudes dans la région d'extrapolation.
Décomposition de l'Incertitude : L'étude distingue l'« incertitude des données » (aléatoire, issue de $C_{exp}$ ) et l'« incertitude du modèle » (épistémique, issue de la dispersion de l'ensemble), en analysant comment différents niveaux d'entraînement (L0, L1, L2) et fonctions de perte propagent ces composantes.

Résultats
Les auteurs constatent que des méthodes produisant des reconstructions centrales comparables peuvent produire des estimations d'incertitude nettement différentes et souvent non fidèles :

Impact de la Fonction de Perte : Dans la région des données, les NN entraînés avec les pertes MSE, MSE hétéroscédastique et $\chi^2$ produisent des prédictions centrales similaires. Cependant, leurs incertitudes diffèrent considérablement. La perte $\chi^2$ (utilisant la pleine $C_{exp}$ ) produit des incertitudes fidèles dans la région d'interpolation. La perte hétéroscédastique, bien qu'elle capture la variance ponctuelle, échoue à rendre compte des corrélations, menant à des bandes non calibrées. La MSE standard, ignorant totalement les incertitudes des données, produit des bandes trop étroites qui sous-estiment l'incertitude réelle.
Rôle des Priors et du Prétraitement : Le choix du prior fonctionnel est dominant dans la région d'extrapolation.
- Pour les GP, le choix du noyau seul est insuffisant ; sans prétraitement aux extrémités, la prédiction centrale échoue à reconstruire le pic. Avec le prétraitement, la reconstruction s'améliore, mais les incertitudes résultantes disparaissent aux extrémités ( $x \to 0, 1$ ) par construction, échouant à couvrir la vérité si l'exposant supposé ( $\alpha$ ) est incorrect.
- Pour les NN, le facteur de pré-multiplication aux extrémités stabilise l'extrapolation mais rend l'incertitude conditionnelle aux exposants supposés. Les ajustements avec différents exposants de petit- $x$ ( $\alpha=0.5$ vs $\alpha=1.0$ ) concordent dans la région des données mais divergent significativement dans la région d'extrapolation.
Performance du NTK : Le NTK évalué à l'initialisation aléatoire est un substitut médiocre, sous-estimant considérablement le pic et fournissant des incertitudes non fidèles ( $R_b \approx 9.5$ ). L'évaluation du NTK après l'entraînement (100 ou 5000 époques) améliore la prédiction centrale et la calibration de l'incertitude, bien que le NTK entraîné fournisse encore des incertitudes légèrement plus conservatrices que l'ensemble complet des NN.
Tests d'Extrapolation : Lorsqu'ils sont propagés aux données HERA, tous les modèles sauf le NTK à l'initialisation passent le test de cohérence. Cependant, le comportement des bandes d'incertitude varie : l'ensemble de NN entraîné par $\chi^2$ (L2) montre une incertitude croissante dans la région de petit- $x$ qui couvre la vérité, tandis que les GP prétraités montrent une incertitude décroissante qui ne couvre pas la vérité si le prior est mal ajusté.

Signification et Revendications
L'article conclut que les tests de clôture combinés à des diagnostics conscients de la covariance sont essentiels pour valider les incertitudes dans les problèmes inverses basés sur le ML. Les auteurs identifient trois ingrédients spécifiques qui contrôlent la fidélité des incertitudes :

Traitement de la Vraisemblance (Likelihood) : L'inclusion de la matrice de covariance expérimentale complète dans la vraisemblance (ou la propagation via des réplicas) est nécessaire pour capturer les incertitudes corrélées.
Priors Fonctionnels : L'incertitude dans les régions d'extrapolation est largement déterminée par le prior fonctionnel (encodé dans les noyaux ou le prétraitement des extrémités) plutôt que par les données. Par conséquent, les incertitudes d'extrapolation sont conditionnelles à ces hypothèses de modélisation.
Étape d'Entraînement pour les NTK : Pour les approximations NTK, le noyau doit être évalué avec les paramètres entraînés ; le NTK initial n'est pas un substitut fidèle du réseau entraîné.

Les auteurs affirment modestement que leurs résultats illustrent pourquoi l'accord des valeurs centrales et l'inspection visuelle des bandes d'incertitude sont insuffisants pour la validation. Ils soutiennent que la procédure utilisée ici — tests de clôture avec une vérité connue, comparaison des niveaux L0/L1/L2, et diagnostics tenant compte de la covariance — fournit un cadre nécessaire pour valider les approches de ML dans les problèmes inverses de la physique, tout en notant qu'une étude systématique sur de nombreuses réalisations indépendantes est une étape suivante nécessaire pour caractériser pleinement la distribution du diagnostic de biais.

Articles similaires