Adaptive Cost-Sensitive Machine Learning for Autonomous Robot Navigation Failure Prediction: When Not All Errors Are Equal

Les robots autonomes deviennent des vues courantes dans les entrepôts, les hôpitaux et même dans les rues des villes, chargés de se déplacer d'un point à un autre sans l'aide de l'homme. Pour ce faire, ils s'appuient sur un mélange complexe de capteurs et de logiciels qui construisent une carte du monde et tracent un itinéraire à travers celui-ci. Pendant des années, l'objectif principal des chercheurs a été de rendre ces machines plus rapides et plus précises. Cependant, un problème d'une autre nature est apparu : comment savoir si un robot est sur le point de commettre une erreur dangereuse avant que cela ne se produise ? Dans le monde de la sécurité, toutes les erreurs ne se valent pas. Un robot qui dévie légèrement de sa trajectoire prévue est un désagrément, mais un robot qui percute une personne ou un mur est une catastrophe. Les programmes informatiques traditionnels traitent souvent ces deux issues comme de simples « erreurs », échouant à distinguer un inconvénient mineur d'un événement mettant la vie en danger. Ce fossé dans la compréhension a amené les chercheurs à poser une question plus urgente : pouvons-nous apprendre aux robots à prédire leurs propres défaillances et, plus important encore, pouvons-nous leur apprendre à accorder plus d'importance aux défaillances qui comptent le plus ?

Rifa Ferzana, chercheuse à l'Université d'Édimbourg, a relevé ce défi en repensant la manière dont les robots apprennent à anticiper le danger. Au lieu de demander à un robot de simplement prédire s'il va échouer, la nouvelle approche demande au robot de prédire la gravité de cet échec. Imaginez un robot naviguant dans une pièce remplie d'obstacles. S'il dévie légèrement de sa trajectoire, il perd un peu de temps. S'il s'approche trop près d'un mur, il risque de le heurter. S'il percute un mur à grande vitesse, il cause des dégâts. Le travail de Ferzana construit un système où le robot est entraîné à reconnaître que ces trois scénarios comportent des poids très différents. La recherche s'éloigne d'un simple test de « réussite ou échec » pour créer un environnement d'entraînement où le robot apprend qu'un raté proche de la collision est bien plus coûteux qu'une légère déviation de trajectoire.

Pour tester cette idée, la chercheuse a créé un monde virtuel où un petit robot à roues devait naviguer dans une arène de vingt par vingt mètres remplie de huit obstacles circulaires placés de manière aléatoire. Le robot a reçu un objectif et un ensemble de capteurs pour percevoir son environnement, tout comme une voiture avec un conducteur. L'équipe a généré deux mille parcours distincts, ou épisodes, que le robot devait accomplir, totalisant environ un million de moments de mouvement. Dans ce monde simulé, le robot a été exposé à diverses conditions, telles que des capteurs bruyants fournissant des lectures floues ou des changements soudains dans ses propres commandes de mouvement. Le but n'était pas seulement de voir si le robot pouvait terminer le trajet, mais de voir si un programme informatique pouvait observer l'état actuel du robot et prédire s'il était sur le point de commettre une erreur grave.

Le cœur de la découverte réside dans la manière dont le programme informatique apprend. Dans un entraînement standard, un ordinateur examine des milliers d'exemples et essaie d'obtenir la bonne réponse aussi souvent que possible. S'il fait une erreur, il reçoit une pénalité. Dans ce nouveau système, la pénalité n'est pas la même pour chaque erreur. Lorsqu'un robot commettait une erreur mineure, la pénalité était faible. Lorsqu'il frôlait un obstacle, la pénalité était cinq fois plus grande. Lorsqu'il était sur le point d'une collision, la pénalité était vingt-cinq fois plus grande. Ce simple changement dans la façon dont l'ordinateur est enseigné l'a forcé à prêter beaucoup plus attention aux situations dangereuses. Les résultats ont été frappants. Lorsque les chercheurs ont utilisé cet entraînement « sensible au coût », la capacité du système à détecter les défaillances de haute sévérité est passée de la détection d'environ quatre-vingt-cinq pour cent à près de quatre-vingt-dix-neuf pour cent.

L'étude est allée plus loin en ajoutant une couche de contexte. Les chercheurs ont réalisé qu'un évitement de justesse n'est pas toujours également dangereux. Une approche lente vers un mur avec des capteurs clairs est moins risquée qu'une approche rapide avec des capurs flous. Pour tenir compte de cela, le système a été mis à jour pour ajuster sa vigilance en fonction de la vitesse du robot, de sa proximité avec les obstacles et de l'incertitude de ses capteurs. Si le robot se déplaçait rapidement ou si les capteurs étaient en difficulté, le système devenait automatiquement plus conservateur, déclenchant l'alarme plus volontiers. Cette approche adaptative a poussé le taux de détection encore plus haut, capturant presque chaque événement de haute sévérité dans la simulation.

Cependant, les chercheurs ont veillé à être honnêtes quant aux compromis. En rendant le système si sensible au danger, il a également commencé à déclencher l'alarme plus souvent lorsqu'il n'y avait aucun danger réel. C'est ce qu'on appelle une fausse alerte. L'étude a montré que, bien que le système adaptatif soit excellent pour détecter presque tous les accidents, il le faisait en signalant de nombreux moments sûrs comme étant risqués. Lorsque les chercheurs ont comparé les systèmes sous les mêmes conditions, la méthode adaptative n'était que légèrement meilleure pour distinguer le danger réel de la sécurité que la méthode plus simple. Le principal avantage n'était pas que le système soit devenu plus intelligent pour classer les risques, mais qu'il était prêt à être plus prudent. Il choisissait de déclencher l'alarme plus souvent pour s'assurer qu'aucun événement dangereux ne soit manqué.

Pour s'assurer que ces résultats n'étaient pas seulement le fruit de la simulation informatique, l'équipe a testé sa méthode sur des données réelles provenant d'un robot utilisé lors d'études précédentes. Ce robot, équipé de vingt-quatre capteurs à ultrasons, avait pour tâche de suivre un mur. Même si ce robot n'était pas conçu pour entrer en collision, les chercheurs ont cartographié ses mouvements selon leur échelle de sévérité. Les résultats se sont confirmés : l'entraînement sensible au coût a permis au système de détecter les manœuvres d'urgence avec une précision parfaite, une amélioration significative par rapport aux méthodes standard. Cela a confirmé que l'approche fonctionne non seulement dans un monde virtuel, mais aussi avec des données provenant de machines réelles.

L'étude a également exploré ce qui se passe lorsqu'un robot entre réellement en collision. Dans la simulation principale, les contrôles de sécurité du robot étaient si bons qu'il n'a rien heurté. Pour tester la capacité du système à prédire de vraies collisions, les chercheurs ont créé une seconde simulation, plus difficile, où le robot était plus susceptible de heurter des obstacles. Dans cet environnement plus rude, la capacité du système à prédire une collision est passée de quatre-vingt-cinq pour cent à près de quatre-vingt-dix-neuf pour cent. Le coût de l'omission d'une collision est tombé de façon spectaculaire, passant de mille unités de dommages potentiels à seulement cent. Cela a prouvé que la méthode est efficace même pour le type de défaillance le plus grave, bien qu'elle s'accompagne d'un taux élevé de fausses alertes, signalant près de quatre-vingts pour cent des moments sûrs comme étant risqués.

Les chercheurs ont conclu que l'aspect le plus précieux de ce travail n'est pas seulement les chiffres, mais le changement de perspective. Ils ont soutenu que la communauté de la robotique doit cesser de traiter toutes les erreurs comme étant égales. Un système qui est précis à quatre-vingt-dix-neuf pour cent mais qui manque l'unique collision qui détruit un robot est un échec dans un monde où la sécurité est critique. En apprenant aux machines à peser leurs erreurs en fonction de leurs conséquences, nous pouvons construire des systèmes qui privilégient la sécurité humaine et la protection de l'équipement plutôt que la simple efficacité. L'étude suggère que cette approche offre un moyen fondé pour décider de la prudence d'un robot, permettant aux ingénieurs de régler le niveau de sécurité selon l'environnement. Bien que le système nécessite un compromis de plus fréquentes fausses alertes, les chercheurs soutiennent que dans les situations où un accident est catastrophique, c'est un prix qui vaut la peine d'être payé. Ce travail démontre qu'avec le bon entraînement, les machines peuvent apprendre à comprendre que toutes les erreurs ne sont pas égales.