Precision-Aware Variable Bit Processing Elements for Hardware-Efficient Systolic Array Designs

Dans le monde moderne, nos appareils numériques effectuent constamment un immense nombre de calculs pour reconnaître des visages sur des photos, traduire des langues ou naviguer dans le trafic. Au cœur de ces tâches se trouve un type spécifique d'opération mathématique appelée multiplication, qui est essentielle pour traiter les motifs complexes présents dans les images et les données. Pendant des décades, des ingénieurs ont construit des puces informatiques pour effectuer ces multiplications avec une précision extrême, garantissant que chaque chiffre d'un nombre soit calculé exactement comme sur papier. Cette approche garantit la précision, mais elle a un coût : les circuits nécessaires pour maintenir cette précision parfaite sont volumineux, consomment beaucoup d'électricité et génèrent de la chaleur. À mesure que nos besoins en informatique plus rapide et plus puissante augmentent, les limites physiques de la réduction de la taille de ces circuits sont atteintes, créant un goulot d'étranglement pour la technologie future.

Une philosophie différente a émergé pour résoudre ce problème, une philosophie qui accepte une quantité de l'erreur, faible et contrôlée, en échange de gains massifs en vitesse et en efficacité. Ce concept, connu sous le nom d'informatique approximative, repose sur l'idée que pour de nombreuses tâches du monde réel, telles que l'identification d'un chat dans une photographie ou la compression d'un fichier vidéo, l'œil et le cerveau humains ne peuvent pas détecter les infimes différences causées par des mathématiques légèrement imprécises. Si un ordinateur peut sauter les parties les plus difficiles d'un calcul, il peut terminer le travail beaucoup plus rapidement tout en utilisant beaucoup moins d'énergie. Le défi pour les chercheurs a été de déterminer exactement quelle précision peut être sacrifiée sans gâcher le résultat final, un exercice d'équilibre qui nécessite de naviguer dans un vaste paysage de choix de conception possibles.

Une équipe de chercheurs a relevé ce défi en concevant un nouveau type d'accélérateur matériel spécifiquement destiné à ces tâches tolérantes aux erreurs. Ils se sont concentrés sur une structure appelée réseau systolique, qui est essentiellement une grille de petites unités de traitement qui se transmettent des données les unes aux autres comme une vague, effectuant des multiplications matricielles efficacement. Les chercheurs ont réalisé que la partie la plus gourmande en énergie de ce réseau est le multiplicateur à l'intérieur de chaque unité. Au lieu de construire chaque multiplicateur pour qu'il soit parfait, ils ont développé une méthode pour créer des multiplicateurs « imparfaits » qui sont stratégiquement défectueux. En abandonnant intentionnellement les bits les moins importants d'un nombre lors du calcul et en utilisant des circuits spécialisés qui introduisent de petites erreurs opposées, ils ont créé un système où les erreurs s'annulent mutuellement. Cela permet au matériel de rester incroyablement efficace tout en produisant des résultats suffisamment précis pour un usage pratique.

Pour trouver l'équilibre parfait entre vitesse et précision, les chercheurs ne se sont pas appuyés sur des suppositions. Ils ont employé un puissant algorithme de recherche qui imite le processus de l'évolution naturelle pour explorer des millions de configurations de conception possibles. Imaginez une vaste bibliothèque contenant toutes les façons concevables de construire ces multiplicateurs imparfaits ; l'algorithme a testé systématiquement des combinaisons, conservant les conceptions qui offraient les meilleurs compromis et écartant celles qui étaient trop imprécises ou pas assez efficaces. Ils ont testé ces conceptions à travers trois formats différents et standards pour la gestion des nombres, allant du format de haute précision utilisé en calcul scientifique aux formats plus compacts conçus spécifiquement pour l'intelligence artificielle. L'objectif était de voir s'ils pouvaient adapter le niveau d'imperfection aux besoins spécifiques de la tâche concernée.

Les résultats de cette exploration ont été frappants. Lorsque les chercheurs ont appliqué leurs conceptions imparfaites optimisées à des tâches de traitement d'images, telles que l'atténuation du bruit dans une photographie ou la compression d'une image pour le stockage, le matériel est devenu considérablement plus petit et plus rapide. Dans certains cas, les nouvelles conceptions ont réduit la taille physique de la puce jusqu'à 92 % et ont réduit la consommation d'énergie de près de 93 % par rapport aux versions traditionnelles parfaitement précises. Remarquablement, ces économies massives ne se sont pas faites au détriment de la qualité visible ; les images produites par le matériel approximatif étaient virtuellement indiscernables de celles produites par le matériel exact, maintenant un haut niveau de fidélité visuelle.

Les conclusions étaient encore plus convaincantes lorsqu'elles ont été appliquées à des modèles d'intelligence artificielle utilisés pour la reconnaissance de formes. Les chercheurs ont testé leurs conceptions sur des ensembles de données standards contenant des milliers d'images de chiffres manuscrits, de vêtements et d'objets du quotidien. Dans plusieurs cas, l'utilisation de leurs multiplicateurs imparfaits a même amélioré les performances de l'intelligence artificielle. Par exemple, un modèle entraîné à reconnaître des articles d'habillement a obtenu un taux de précision plus élevé en utilisant le matériel imparfait qu'en utilisant le matériel parfait. Ce résultat contre-intuitif suggère que la petite quantité de bruit introduite par l'approximation pourrait aider l'ordinateur à mieux généraliser, de la même manière qu'un cerveau humain peut ignorer des détails mineurs pour reconnaître un visage plus rapidement. Pour l'ensemble de données le plus complexe testé, les meilleures conceptions approximatives offraient des économies matérielles allant jusqu'à 92 % en taille et 93 % en puissance, tout en délivrant une précision de classification comparable, voire supérieure, aux méthodes exactes.

Ce travail démontre que le chemin vers une informatique plus efficace ne nécessite pas toujours la construction d'outils meilleurs et plus précis. Au contraire, il peut se trouver en comprenant où la précision est réellement nécessaire et où elle peut être assouplie en toute sécurité. En utilisant un processus de recherche intelligent pour concevoir un matériel qui est « assez bon » plutôt que parfait, les chercheurs ont montré qu'il est possible de construire des puces informatiques qui sont considérablement plus petites, plus rapides et plus économes en énergie. Ces conceptions sont désormais disponibles pour que d'autres ingénieurs puissent les utiliser, offrant une nouvelle façon de construire la prochaine génération de disposités capables de gérer les demandes croissantes de l'intelligence artificielle sans épuiser nos ressources énergétiques. L'étude confirme que dans le monde de l'informatique, parfois, un peu d'erreur est exactement ce dont on a besoin pour faire mieux fonctionner le système.