MoreFit: A More Optimised, Rapid and Efficient Fit

Cet article présente MoreFit, un framework de haute performance pour l'estimation de paramètres par maximum de vraisemblance non binée en physique des particules qui exploite des graphes de calcul compilés à la volée, des optimisations automatiques inédites et des backends hétérogènes (OpenCL et LLVM/Clang) afin d'atteindre une vitesse et une efficacité supérieures sur diverses plateformes matérielles.

L'essentiel

Imaginez que vous soyez un détective tentant de résoudre un mystère colossal. Vous avez devant vous une pile de millions d'indices (points de données), et vous devez déterminer les réglages exacts d'une machine complexe (les paramètres) qui les a créés. Dans le monde de la physique des particules, cela s'appelle un « ajustement de maximum de vraisemblance non groupé » (unbinned maximum likelihood fit).

Fondamentalement, vous essayez de trouver le « point idéal » où votre modèle mathématique correspond parfaitement aux données du monde réel. Le problème est qu'avec des millions d'indices et des centaines de boutons à tourner, ce calcul est incroyablement lent et consomme énormément de puissance informatique.

Entrez en scène MoreFit. Considérez MoreFit comme un assistant super intelligent et ultra-rapide, conçu spécifiquement pour résoudre ces mystères plus vite et plus efficacement que les anciens outils.

Voici comment cela fonctionne, décomposé en concepts simples :

1. Le « Plan de montage Lego » (Graphes de calcul)

Les logiciels traditionnels calculent souvent ces mystères en rédigeant de longues instructions rigides pour chaque étape. MoreFit, quant à lui, construit un « Graphe de calcul ».

Imaginez un plan de montage Lego. Au lieu de simplement lister chaque brique, le plan montre comment les briques se connectent. MoreFit dessine cette carte du problème mathématique. Parce qu'il possède toute la carte, il peut avoir une vision d'ensemble et repérer les inefficacités qu'un humain ou un programme rigide pourrait manquer.

2. L'« Auto-optimiseur » (Compilation à la volée / Just-in-Time)

Une fois que MoreFit possède le plan, il ne se contente pas d'exécuter les instructions ; il les réécrit à la volée pour qu'elles soient les plus rapides possibles. C'est ce qu'on appelle la « compilation à la volée » (Just-in-Time compilation).

Imaginez un chef cuisinier qui, avant de préparer un repas pour une foule, examine la recette et réalise : « Hé, je vais devoir hacher ces oignons pour chaque plat. Au lieu de les hacher frais pour chaque assiette, je vais en préparer un gros lot d'un coup et le garder prêt. »

• L'ancienne méthode : Hacher les oignons pour chaque événement (lent).
• La méthode MoreFit : Réaliser que certaines parties des mathématiques ne changent pas d'un événement à l'autre, les calculer une seule fois et réutiliser le résultat. Cela permet d'économiser un temps massif.

3. La « Super-Équipe » (Parallélisme et architectures hétérogènes)

L'ancienne méthode consistait à avoir une seule personne essayant de trier un million de cartes, une par une. MoreFit réalise que le tri de cartes est une tâche « embarrassamment parallèle » — ce qui signifie que tout le monde peut en faire une partie en même la même chose sans se gêner.

MoreFit est conçu pour travailler avec une équipe mixte d'ordinateurs :

• Les GPU (Cartes graphiques) : Ce sont comme des essaims d'abeilles, capables d'effectuer des milliers de petites tâches simultanément. MoreFit utilise des standards ouverts (OpenCL) pour pouvoir communiquer avec n'importe quelle marque de GPU, pas seulement une spécifique.
• Les CPU (Processeurs) : Ce sont comme une équipe de spécialistes hautement qualifiés. MoreFit peut également les utiliser, en les organisant pour travailler en parfaite synchronisation (vectorisation) afin d'accélérer le processus.

4. Le « Raccourci Magique » (Différentiation symbolique)

Pour trouver la solution parfaite, l'ordinateur doit savoir dans quelle direction tourner les boutons pour se rapprocher de la réponse. Habitement, il doit procéder par tâtonnements (essais et erreurs), ce qui est lent.
MoreFit utilise la différentiation symbolique. Au lieu de deviner, il utilise des règles mathématiques pour écrire la direction exacte à suivre. C'est comme avoir un GPS qui vous indique l'itinéraire précis, plutôt que quelqu'un qui conduit à l'aveugle en cherant la bonne rue. Cela permet au processus d'ajustement de converger (trouver la réponse) en seulement quelques étapes au lieu de centaines.

5. L'usine de « Fausses Données » (Pseudo-expériences)

Avant de faire confiance aux conclusions d'un détective, on veut souvent tester si sa méthode fonctionne en créant de fausses scènes de crime et en voyant s'il les résout. En physique, cela s'appelle générer des « pseudo-expériences ».
MoreFit est incroyablement rapide pour cela aussi. Parce qu'il connaît parfaitement les règles du jeu, il peut générer ces scénarios fictifs beaucoup plus vite que les autres outils, permettant aux scientifiques de réaliser des milliers de tests pour s'assurer que leurs résultats sont fiables.

Les Résultats : Une course contre la montre

L'auteur a testé MoreFit face à deux autres outils célèbres (RooFit et zfit) en utilisant deux types d'énigmes :

1. Un ajustement de masse simple : Comme trouver le poids d'un objet.
2. Un ajustement angulaire complexe : Comme déterminer la rotation 3D d'un objet en rotation.

Le Verdict :

• MoreFit était souvent 10 à 50 fois plus rapide que la concurrence, surtout lors du traitement de grandes quantités de données.
• Sur un processeur d'ordinateur standard, il était nettement plus rapide que les anciennes méthodes.
• Sur une puissante carte graphique (GPU), il était presque un ordre de grandeur (10x) plus rapide que le principal concurrent.

Résumé

MoreFit est un nouvel outil qui traite l'ajustement de données comme un projet de construction bien organisé. En dessinant un plan intelligent, en réécrivant les instructions pour éliminer le gaspillage et en utilisant une équipe massive de travailleurs (GPU et CPU) simultanément, il résout des problèmes de physique complexes en une fraction du temps qu'il fallait auparavant. Cela permet aux scientifiques de faire plus de science avec moins d'attente et moins de consommation d'énergie.

Résumé technique

Résumé Technique : MoreFit – Un ajustement plus optimisé, rapide et efficace

Énoncé du Problème

L'estimation de paramètres via l'ajustement de maximum de vraisemblance non groupé (unbinned maximum likelihood fit) est une pierre angulaire de la physique des particules, offrant l'avantage de conserver l'intégralité de l'information sans les pertes associées au regroupement en classes (binning). Cependant, les expériences modernes génèrent des volumes de données sans précédent (souvent de l'ordre de $O(10^6)$ événements) nécessitant la détermination d'ensembles de paramètres complexes (souvent $>100$ paramètres). De plus, la validation statistique rigoureuse, telle que la correction de couverture par pseudo-expériences (par exemple, les méthodes de Feldman-Cousins), exige d'effectuer $O(10^5)$ ajustements ou plus par paramètre. Ces demandes computationnelles rendent les cadres d'ajustement traditionnels chronophages et énergivores, nécessitant une solution capable d'exploiter efficacement le parallélisme sur des architectures hétérogènes.

Méthodologie

MoreFit est un cadre d'ajustement en C++ conçu spécifiquement pour les ajustements de maximum de vraisemblance non groupés, privilégiant le parallélisme et l'optimisation automatique. Sa stratégie centrale repose sur des graphes de calcul qui sont compilés à la volée (Just-In-Time - JIT) pour générer des noyaux d'exécution (kernels) spécifiques aux backends matériels.

Architecture Centrale

1. Graphes de Calcul : Les fonctions de densité de probabilité (PDF) sont représentées comme des graphes de calcul structurés en arbres contenant des opérations de base, des fonctions, des variables et des constantes. Cette structure facilite :

   • La Différentiation Symbolique : Le framework applique automatiquement la règle de la chaîne pour calculer les gradients analytiques et les matrices hessiennes (dérivées secondes) nécessaires à la minimisation et à l'estimation de l'incertitude.
   • L'Optimisation Automatique : Les graphes sont analysés pour identifier et optimiser les calculs redondants.

2. Backends de Calcul : MoreFit utilise des standards ouverts pour cibler des plateformes hétérogènes :

   • Backend OpenCL : Le backend par défaut pour les GPU, supportant tous les principaux fournisseurs. Il génère des noyaux OpenCL C pour l'évaluation de la vraisemblance, le calcul du gradient/Hessienne et la génération d'événements. Il emploie la sommation de Kahan sur l'accélérateur pour minimiser les surcoûts de transfert de données hôte-périphérique.
   • Backend LLVM/Clang : Conçu pour les CPU, ce backend compile des noyaux C en JIT. Il supporte la vectorisation SIMD (Single Instruction Multiple Data) et l'exécution multithread via une stratégie de pool de threads pour éviter le surcoût de création de threads.

Techniques d'Optimisation Automatique

MoreFit emploie plusieurs stratégies d'optimisation automatique novatrices appliquées aux graphes de calcul :

• Mise en cache de termes dépendants des paramètres : Les termes de la fonction de vraisemblance qui dépendent uniquement des paramètres (par exemple, les intégrales de normalisation) et non des données d'événements spécifiques sont identifiés, calculés une seule fois sur l'hôte par mise à jour de paramètre, et mis en mémoire tampon. Ces valeurs tamponisées sont transmises comme constantes au noyau de calcul, réduisant considérablement la complexité du noyau.
• Précalcul de termes dépendants des événements : Pour les termes dépendant uniquement des variables d'événements (par exemple, les termes angulaires dans une analyse de désintégration), le framework peut précalculer ces valeurs dans une étape de noyau distincte. Les données de dimension supérieure résultantes sont ensuite utilisées dans un noyau de vraisemblance simplifié, évitant l'évaluation répétée d'expressions complexes pendant la boucle de minimisation.
• Optimisation de la génération de pseudo-expériences : Lors de la génération de pseudo-données, tous les paramètres sont fixés. MoreFit traite les termes dépendants des paramètres comme des constantes, simplifiant drastiquement le graphe de génération. Il supporte la génération sur l'accélérateur via des générateurs de nombres pseudo-aléatoires (par exemple, Xoshiro128++) afin de minimiser les transferts hôte-périphérique.

Principales Contributions

• Présentation du Framework : La présentation de MoreFit, une bibliothèque C++ légère et à dépendances minimales qui ne repose pas sur TensorFlow ou ROOT (bien qu'une compatibilité avec ROOT soit possible).
• Compilation JIT et Optimisation de Graphe : Une approche novatrice où les graphes de calcul sont automatiquement analysés et optimisés avant la compilation JIT, permettant des gains de performance significatifs sans intervention de l'utilisateur.
• Support Hétérogène : Une interface unifiée pour l'exécution sur les deux types de matériel : les GPU (via OpenCL) et les CPU (via LLVM/Clang avec SIMD), garantissant une large compatibilité matérielle.
• Dérivées Analytiques : La fourniture de gradients et de Hessiennes analytiques dérivées via la différenciation symbolique, ce qui améliore la vitesse de convergence par rapport à la différenciation numérique.

Résultats

L'article compare les performances de MoreFit (v0.1) à celles de RooFit (v6.32.08) et zfit (v0.24.2) en utilisant un CPU AMD 7950X3D et un GPU NVIDIA Titan V. Deux scénarios ont été testés : un ajustement de masse 1D (4 paramètres) et un ajustement angulaire multidimensionnel (8 paramètres).

• Gains de Performance :
  • Ajustement de Masse : Sur le CPU avec 16 threads, MoreFit avec dérivées analytiques est jusqu'à 2,4 fois plus rapide que le backend SIMD de RooFit à haute statistique ($N=10^6$). Sur le GPU, MoreFit est presque un ordre de grandeur plus rapide que l'implémentation CUDA de RooFit à haute statistique.
  • Ajustement Angulaire : MoreFit a démontré une accélération de 6,6x par rapport au backend SIMD de RooFit sur un seul thread CPU à faible statistique, passant à environ 11x à statistique intermédiaire/haute. Sur le GPU, MoreFit a surpassé zfit par un facteur de 32–48, selon la taille de l'ensemble de données.
• Impact des Dérivées Analytiques : L'utilisation de dérivées analytiques a considérablement réduit le nombre d'itérations de minimisation (passant d'environ 85 à 2–3 pour l'ajustement de masse ; d'environ 200 à 2–3 pour l'ajustement angulaire), entraînant des accélérations substantielles, particulièrement sur les GPU où le surcoût de soumission de noyau est réduit.
• Scalabilité : MoreFit passe bien à l'échelle avec le nombre de threads sur les CPU, montant jusqu'à un ordre de grandeur de gain de vitesse à haute statistique en utilisant 16 threads par rapport à un seul thread.

Signification et Perspectives

L'article affirme que MoreFit démontre la puissance de l'utilisation de graphes de calcul optimisés automatiquement pour les ajustements de paramètres, atteignant des améliorations de performance d'un ordre de grandeur ou plus par rapport aux frameworks existants. La signification réside dans la capacité à rendre les techniques statistiques coûteuses en calcul, telles que la correction de couverture, réalisables et durables. En s'appuyant sur des standards ouverts et indépendants des fournisseurs, MoreFit vise à être largement utilisable sur divers matériels.

Les auteurs reconnaissent que MoreFit est à un stade de développement précoce. Les limitations actuelles incluent une petite bibliothèque de PDF intégrés et l'absence de support pour les ajustements groupés (binned fits). Les travaux futurs se concentreront sur l'expansion de la bibliothèque de PDF, la mise en œuvre de corrections d'acceptation généralistes efficaces et l'exploration des capacités d'ajustement groupé. L'article conclut qu'il reste un potentiel important pour améliorer la vitesse et l'efficacité des ajustements de maximum de vraisemblance non groupés, contribuant à une utilisation plus durable des ressources de calcul en physique des particules.