Predictive Zonotope Reduction: Precise Runtime Monitoring under Uncertainty

Les robots qui se déplacent dans le monde réel dépendent de capteurs pour comprendre leur environnement. Ces capteurs ne sont toutefois jamais parfaits. Une caméra peut éprouver des difficultés dans le brouillard, ou un télémètre peut présenter des oscillations dues au bruit électrique. Lorsqu'un robot prend une décision basée sur ces lectures imparfaites, il risque d'entreprendre une action soit trop prudente, soit dangereusement téméraire. Pour garantir la sécurité des robots, les ingénieurs utilisent un système de sécurité appelé moniteur de temps d'exécution (runtime monitor). Ce système agit comme un garde vigilant, vérifiant constamment le comportement du robot par rapport à un ensemble de règles pour s'assurer qu'il reste dans des limites sûres. Le défi réside dans la représentation de la position incertaine du robot. Si le moniteur suppose que le robot se trouve exactement en un point, il pourrait manquer un danger tapi juste à l'extérieur de ce point. S'il suppose que le robot pourrait se trouver n'importe où dans une vaste zone, il déclenchera l'alarme trop souvent, provoquant l'arrêt inutile du robot. L'objectif est de trouver une représentation suffisamment précise pour être utile, mais assez simple pour être calculée rapidement.

Une forme mathématique connue sous le nom de zonotope est devenue un outil populaire pour cette tâche. Imaginez un nuage de localisations possibles pour le robot, ayant la forme d'un ballon étiré et multidimensionnel. À mesure que le robot se déplace et reçoit de nouvelles lectures de capteurs, ce nuage grandit et change de forme. Le problème est que chaque nouvelle information ajoute de la complexité au nuage, le rendant de plus en addition de plus en plus difficile à calculer. Finalement, le nuage devient si volumineux que l'ordinateur qui exécute le moniteur ne peut plus suivre, surtout si le robot fonctionne sur un petit appareil alimenté par batterie. Pour résoudre cela, les ingénieurs doivent périodiquement rétrécir le nuage, un processus appelé réduction. Ils y parviennent en remplaant la forme complexe par une forme légèrement plus grande et plus simple qui contient toujours toutes les localisations possibles. Le hic est qu'il existe de nombreuses façons différentes de rétrécir ce nuage, et chaque méthode produit un résultat différent. Certaines méthodes sont meilleures pour maintenir la forme serrée dans certaines situations, tandis que d'autres fonctionnent mieux dans d'autres contextes. Traditionnellement, les ingénieurs choisissent une méthode et s'y tiennent pendant tout le trajet, même si le meilleur choix change au fur et à mesure que le robot se déplace.

Des chercheurs du centre CISPA Helmholtz pour la sécurité de l'information et de l'Université technique de Munich ont développé une nouvelle approche qui modifie la manière dont cette décision est prise. Au lieu de s'en tenir à une seule méthode, leur système, appelé "Predictive Zonotope Reduction", traite le choix de la manière de rétrécir le nuage comme une séquence de décisions. Il ne demande pas seulement « quelle est la meilleure façon de rétrécir le nuage maintenant ? », mais plutôt « quelle est la meilleure façon de le rétrécir maintenant, et encore une fois lors des prochaines étapes, pour que la forme globale soit la plus serrée possible ? ». Pour répondre à cela, le système utilise une technique empruntée au contrôle robotique, où un ordinateur planifie quelques étapes à l'avance pour voir les conséquences de son action actuelle. Il simule différents chemins, observant comment chaque choix de méthode de réduction affecterait la forme du nuage dans un avenir proche. En regardant vers l'avenir, le système peut choisir une méthode qui n'est peut-être pas parfaite pour l'instant immédiat, mais qui prépare le terrain pour que le nuage soit beaucoup plus précis plus tard.

Cependant, exécuter ces simulations complexes en temps réel est trop lent pour de nombreux robots. Pour rendre le système assez rapide pour une utilisation pratique, les chercheurs ont appris à un petit programme informatique de mimer la prise de décision du planificateur lent et méticuleux. Ils ont utilisé un processus appelé distillation de politique (policy distillation), où un réseau neuronal, agissant comme un étudiant, apprend du planificateur « enseignant ». Le réseau étudiant n'a pas besoin de simuler l'avenir ; il regarde simplement la forme actuelle du nuage et classe les méthodes de rétrécissement disponibles de la meilleure à la moins bonne. Cela permet au système de prendre des décisions de haute qualité presque instantanément. Pour garantir que le système reste robuste, ils ont combiné plusieurs de ces réseaux étudiants en un groupe, laissant ces derniers voter pour le meilleur choix. Si le groupe est incertain, un planificateur de secours intervient pour prendre la décision finale. Cette combinaison de regard vers l'avenir, d'apprentissage par l'expérience et de vote pour la sécurité permet au système de fonctionner sur du matériel très modeste, tel qu'un Raspberry Pi 5, tout en maintenant une haute précision.

Les chercheurs ont testé leur nouveau système sur un bras robotique simulé à cinq articulations se déplaçant dans un environnement virtuel. Ils ont programmé le bras pour qu'il se déplace pendant que ses capteurs étaient soumis à des erreurs réalistes, imitant le type de bruit présent dans les dispositifs du monde réel. Ils ont fait passer au bras des centaines de mouvements différents, comparant leur nouveau système dynamique aux anciennes méthodes qui utilisaient une méthode unique et fixe pour rétrécir le nuage d'incertitude. Les résultats ont été frappants. Le nouveau système a réduit le nombre de fausses alertes de manière significative. Lors des tests, les anciennes méthodes fixes déclenchaient des arrêts d'urgence inutiles près de 30 % du temps alors que le robot était en réalité en sécurité. Le nouveau système prédictif a abaissé ce taux à moins de 2 %. Cela signifie que le robot peut se déplacer plus librement et avec plus de confiance, sachant que le moniteur de sécurité ne tire pas de fausses alertes. Le système a atteint ce résultat tout en fonctionnant à une vitesse de 100 fois par seconde, assez rapide pour suivre les mouvements rapides d'un vrai robot.

L'étude a également révélé quelque chose de surprenant sur la manière dont ces méthodes de rétrécissement fonctionnent ensemble. Les chercheurs ont découvert que la méthode qui performait le mieux seule n'était pas toujours celle choisie le plus souvent par leur système intelligent. En fait, le système choisissait fréquemment une méthode qui était souvent médiocre lorsqu'elle était utilisée isolément. Cela s'est produit parce que le système intelligent comprenait qu'utiliser une méthode différente en premier pouvait remodeler le nuage de telle sorte que la méthode « médiocre » fonctionnerait très bien plus tard. C'était une leçon de timing et de séquence : le meilleur mouvement n'est pas toujours le plus fort de manière isolée, mais celui qui prépare le meilleur futur. En alternant entre les méthodes de manière dynamique, le système maintenait le nuage d'incertitude beaucoup plus serré que n'importe quelle méthode unique ne pourrait jamais le faire seule.

Ce travail démontre que les systèmes de sécurité pour les robots ne doivent pas être statiques. En traitant la gestion de l'incertitude comme un problème dynamique et prospectif, les ingénieurs peuvent créer des moniteurs qui sont à la fois plus sûrs et plus efficaces. La capacité d'exécuter ces calculs avancés sur du matériel petit et peu coûteux ouvre la voie à davantage de robots capables d'opérer en toute sécurité dans des environnements complexes et imprévisibles. Les chercheurs ont montré qu'avec la bonne approche, un robot peut mieux comprendre sa propre incertitude, ce qui conduit à moins d'erreurs et à des performances plus fiables dans le monde réel.