Searching on a Budget: HW-NAS with 10 Latency Probes

Résumé Technique : Recherche sur un Budget : HW-NAS avec 10 Sondes de Latence

Énoncé du Problème
La Recherche d'Architecture Neurale Sensible au Matériel (HW-NAS) vise à automatiser la conception de Réseaux de Neurones Profonds (DNN) qui équilibrent la performance de la tâche (par exemple, la précision) avec les contraintes matérielles (par exemple, la latence) pour des dispositifs à ressources limitées. Les approches existantes font face à un compromis critique :

1. Mesures réelles : La compilation et l'évaluation directes des réseaux candidats sur les dispositifs cibles fournissent des données de latence précises, mais sont coûteuses en calcul et consomment beaucoup de temps, en particulier lorsque le dispositif cible change.
2. Approximations : Les tables de consultation (LUT) analytiques ou les prédicteurs de latence appris réduisent les coûts de recherche mais introduisent des erreurs d'estimation. Dans des applications sensibles aux risques (par exemple, la robotique), ces erreurs peuvent entraîner des violations des limites de latence, rendant les conceptions peu fiables.

De plus, la plupart des méthodes HW-NAS sont adaptées à un seul dispositif cible, nécessitant une nouvelle recherche complète à chaque changement de matériel de déploiement. Il existe un besoin d'une stratégie HW-NAS multi-dispositifs qui minimise le nombre de sondes de latence réelles coûteuses tout en évitant les imprécisions des modèles prédictifs.

Méthodologie
Les auteurs proposent un cadre en deux étapes qui déplace la complexité de la phase de déploiement vers une phase de pré-entraînement, permettant une adaptation à un matériel non vu avec une interaction minimale.

1. Pré-entraînement sur des Dispositifs Synthétiques (Étape 1) :

   • Objectif : Entraîner un contrôleur par Apprentissage par Renforcement (RL) à généraliser sur divers profils matériels sans accéder au dispositif cible spécifique.
   • Randomisation de Domaine : Au lieu d'entraîner sur un seul dispositif, le contrôleur est exposé à une distribution de dispositifs « synthétiques ». Ceux-ci sont générés en échantillonnant des modèles de latence gaussiens pour chaque opération à partir de données provenant de 18 dispositifs différents dans le HW-NAS-Bench.
   • Proxies sans Entraînement : Pour éviter le coût prohibitif de l'entraînement de réseaux complets pendant le RL, le contrôleur est supervisé à l'aide de proxies de précision sans entraînement (spécifiquement $p_{FreeREA}$, une combinaison de NASWOT, LogSynflow et SkipScore).
   • Fonction de Récompense : L'agent maximise une récompense combinant le proxy de précision sans entraînement et un terme de latence normalisé, lui permettant d'apprendre le compromis entre performance et efficacité à travers des paysages de latence variables.

2. Déploiement Zero-Shot avec Sondes Directes (Étape 2) :

   • Adaptation : Le contrôleur pré-entraîné est figé et déployé sur un nouveau dispositif cible non vu.
   • Mesure Directe : Le contrôleur interagit avec le dispositif cible en interrogeant un très petit nombre d'architectures candidates (par exemple, 10 sondes). Pour chaque requête, il compile le réseau et mesure la latence réelle post-compilation.
   • Historique d'État : La latence mesurée est normalisée et ajoutée à l'historique d'état. Le contrôleur utilise cette rétroaction pour conditionner sa prochaine action (modification de l'architecture), apprenant ainsi le profil de latence spécifique du dispositif cible par observation directe plutôt que par prédiction.
   • Sélection : L'architecture finale est sélectionnée parmi l'ensemble des candidats mesurés sur la base du meilleur compromis observé, ne nécessitant aucun entraînement supplémentaire ni ajustement de prédiction.

Contributions Clés

• Entraînement RL Randomisé : Une procédure qui produit un contrôleur capable d'interagir directement avec divers dispositifs au moment du test en s'entraînant sur une distribution de profils de latence synthétiques.
• Élimination des Prédicteurs : La méthode rejette entièrement les approximations analytiques et les prédicteurs de latence appris. Elle repose plutôt sur des mesures directes sur le dispositif d'un nombre aussi faible que 10 réseaux candidats, rendu possible par les connaissances préalables transférées depuis la phase d'entraînement synthétique.
• Évaluation sans Entraînement : L'intégration de métriques sans entraînement pour le NAS basé sur le RL, permettant un score rapide des candidats sans le coût de l'entraînement complet du réseau.

Résultats Expérimentaux
La méthode a été évaluée sur l'espace de recherche NATS-Bench pour CIFAR-10, en utilisant des données de 18 dispositifs et validée sur un iPhone 13 mini réel.

• Performance vs Prédicteurs : Sous un budget strict de 10 mesures sur le dispositif cible, la méthode proposée a atteint un percentile de latence médiane de 1,65, surpassant significativement la recherche aléatoire (30,16) et une base de prédicteur de latence de type HELP (4,51).
• Validation Réelle : Sur un iPhone 13 mini, avec un budget total de 20 mesures (réparti entre normalisation et recherche), le contrôleur proposé a atteint une latence médiane de 0,2261 ms, contre 0,2477 ms pour la base HELP-EA. Cela représente une réduction de 8,7 % de la latence médiane mesurée.
• Analyse des Échecs des Prédicteurs : L'étude a mis en évidence que les méthodes basées sur des prédicteurs (comme HELP) sélectionnaient souvent des architectures plus lentes que prévu en pratique (la latence mesurée était plus lente que prévue dans 9 cas sur 10 graines), tandis que la dépendance de la méthode proposée à la mesure directe assurait que la latence de l'architecture sélectionnée était connue et vérifiée.
• Transférabilité : Le contrôleur s'est adapté avec succès à des dispositifs retenus (par exemple, edgegpu, fpga, pixel3, raspi4) en utilisant un protocole de type leave-one-device-out, démontrant un transfert efficace sans réentraînement.

Signification et Revendications
L'article soutient que dans des scénarios où l'accès au matériel cible est rare mais où les mesures doivent être dignes de confiance (déploiement prudent), il est préférable de mesurer directement quelques architectures soigneusement choisies plutôt que de prédire de nombreuses architectures non mesurées.

• Fiabilité : En évitant les prédicteurs de latence, la méthode élimine le risque d'erreurs d'estimation invalidant les garanties de latence.
• Efficacité : L'approche réduit le coût total de déploiement ($C$) en bornant le nombre de sondes de vérité terrain ($|N|$) plutôt qu'en réduisant le coût par sonde ($c$) via l'approximation.
• Praticité : Les résultats suggèrent qu'un contrôleur RL pré-entraîné peut efficacement « apprendre » les caractéristiques de latence d'un nouveau dispositif grâce à une poignée de sondes directes, rendant la mesure directe une alternative viable et supérieure à l'approximation dans des scénarios HW-NAS à faible budget et à haut risque.

Limites
Les auteurs reconnaissent que l'étude est actuellement limitée à l'espace de recherche de topologie NATS-Bench et que la conception de la distribution de dispositifs synthétiques ($\Xi$) nécessite une exploration plus approfondie pour assurer un transfert optimal. De plus, l'accent actuel est principalement mis sur la latence ; des travaux futurs sont nécessaires pour étendre le cadre aux contraintes multi-objectifs incluant la mémoire et l'énergie.