Hybrid Coarse-Grained Transprecision boosted by a Custom GEMM Kernel to accelerate Parametric Linear Systems

Dans le monde de l'ingénierie et de la science modernes, la résolution de problèmes physiques complexes repose souvent sur une technique appelée la méthode des éléments finis. Imaginez que vous essayiez de comprendre comment un pont oscille sous l'effet du vent ou comment l'électricité circule à travers un semi-conducteur. Les scientifiques décomposent ces objets massifs et continus en des millions de petites pièces maniables, transformant les lois de la physique en un gigantesque système d'équations. Pour obtenir une réponse précise, les ordinateurs doivent traiter les nombres avec un soin extrême, en utilisant un format connu sous le nom de double précision. Cette méthode traite chaque nombre avec la plus haute précision possible, garantissant que de minuscules erreurs ne se transforment pas en erreurs massives. Cependant, cette quête acharnée de la perfection a un coût élevé : elle exige des quantités énormes de temps et d'énergie. Pour les applications qui nécessitent des réponses instantanées, comme le jumeau numérique d'un atelier d'usine ou un robot naviguant dans une zone de catastrophe, attendre ces calculs lents et hyper-précis n'est tout simplement pas une option.

Le défi réside dans un type spécifique de calcul qui apparaît encore et encore dans ces simulations. Il implique une collection massive et fixe de données représentant la structure physique, combinée à un ensemble changeant de paramètres qui décrivent les conditions actuelles, comme la résistance du matériau ou la température. L'ordinateur doit les multiplier pour trouver la solution. Comme l'ensemble de données fixes est si vaste, le calcul devient un goulot d'étranglement, ralentissant tout le processus. Les chercheurs soupçonnent depuis longtemps que pour beaucoup de ces tâches, l'extrême précision des mathématiques en double précision est inutile. Tout comme l'œil humain ne peut pas distinguer deux nuances de gris légèrement différentes dans une pièce sombre, de nombreuses simulations physiques peuvent tolérer de petites erreurs numériques sans que le résultat final ne devienne inutile. La question est de savoir si nous pouvons en toute sécurité échanger cette précision supplémentaire contre un gain massif de vitesse.

Une équipe de chercheurs de l'Université Queen's de Belfast et de l'Université d'Édimbourg a développé une nouvelle façon d'aborder ce problème, offrant une solution qui est à la fois plus intelligente et plus rapide. Ils ont créé un système qui agit comme un filtre à deux étages pour la précision mathématique. D'abord, lors d'une phase hors ligne, le système étudie un échantillon représentatif des paramètres changeants pour déterminer le niveau de précision le plus bas qui permet de maintenir la réponse finale dans une marge d'erreur sûre. Il teste différents formats, allant des nombres standards de haute précision jusqu'à des versions beaucoup plus compactes et de moindre précision. Une fois ce niveau de base établi, le système passe à une phase en ligne où il gère les données en temps réel. À mesure que chaque nouvel ensemble de paramètres arrive, le système vérifie rapidement sa plage de valeurs et sélectionne automatiquement le format de précision le plus efficace disponible sur la carte graphique. Si les nombres sont petits et stables, il utilise un format très compact ; s'ils sont plus grands ou plus volatils, il passe à un format légèrement plus robuste. Cet ajustement dynamique permet à l'ordinateur de fonctionner à pleine vitesse sans sacrifier la fiabilité du résultat.

Pour rendre ce gain de vitesse encore plus spectaculaire, les chercheurs ont également construit un moteur de calcul personnalisé. Normalement, un ordinateur effectue ce type de multiplication de matrices en deux étapes distinctes : d'abord, il met les données à l'échelle par les paramètres, puis il multiplie les résultats entre eux. Cela nécessite de déplacer les données d'avant en arrière entre différentes parties de l'ordinateur, ce qui gaspille du temps. L'équipe a fusionné ces deux étapes en une seule opération personnalisée. En mettant les données à l'échelle pendant qu'elles sont chargées dans la mémoire rapide du processeur, ils ont éliminé la nécessité de déplacer les données deux fois. Cette approche rationalisée a supprimé une quantité importante d'efforts inutiles, permettant au système d'effectuer le même calcul de manière beaucoup plus efficace.

Les résultats de cette approche ont été testés sur une variété de problèmes à grande échelle en utilisant de puissantes cartes graphiques issues de trois générations technologiques différentes. Les conclusions sont frappantes. Pour un ensemble de données massif contenant plus de 21 millions de lignes, la nouvelle méthode a été capable de traiter l'information jusqu'à 117 fois plus vite que la méthode traditionnelle ultra-précise. En termes d'énergie, le système a consommé 36 fois moins de puissance pour obtenir le même résultat. Crucialement, malgré ces gains massifs de vitesse et d'efficacité, l'erreur moyenne dans la réponse finale est restée incroyablement basse, restant bien en dessous de un pour cent. Dans un cas de test spécifique impliquant un ensemble de données de 80,3 gigaoctets, le système pouvait évaluer deux ensembles de paramètres différents chaque seconde, un exploit qui serait impossible avec les anciennes méthodes lentes.

Les chercheurs ont également abordé la question des limites de mémoire. Lorsque les données sont trop volumineuses pour tenir entièrement sur la carte graphique, les méthodes standards doivent souvent faire une pause pour récupérer des données dans la mémoire principale de l'ordinateur, ce qui est lent. L'équipe a découvert qu'en utilisant leurs formats de moindre précision, l'empreinte des données rétrécit suffisamment pour tenir entièrement sur la carte, évitant ainsi ces pauses lentes. Ils ont comparé deux stratégies pour gérer les données qui ne tenaient pas : recharger les données originales depuis la mémoire principale ou les recalculer à la volée. Ils ont découvert que pour des ensembles de données très volumineux, le recalcul des données était nettement plus rapide que l'attente du rechargement, à condition que la précision soit gérée soigneusement pour éviter que les erreurs ne s'accumulent au fil du temps.

Ce travail démontre que l'exigence rigide pour les mathématiques en double précision n'est pas toujours nécessaire en calcul scientifique. En faisant correspondre intelligemment la précision du calcul aux besoins spécifiques du problème, et en rationalisant la façon dont l'ordinateur gère les données, il est possible d'atteindre des performances en temps réel sur des problèmes qui étaient auparavant trop lents pour être résolus à la volée. L'étude confirme qu'avec les bons outils, les scientifiques et les ingénieurs peuvent exécuter des simulations complexes en temps réel, ouvrant la porte à des jumeaux numériques plus réactifs, des outils de diagnostic plus rapides et des conceptions d'ingénierie plus efficaces, tout en utilisant une fraction de l'énergie précédemment requise.