Runtime Safety Filtering for Two-Terminal Hazards in Robotic Battery Recycling

Les robots apprennent à effectuer des travaux délicats, comme le tri et le recyclage des batteries qui alimentent notre monde moderne. Pour leur apprendre, les chercheurs utilisent souvent l'intelligence artificielle qui apprend en regardant des vidéos d'humains accomplissant des tâches. Ces systèmes, connus sous le nom de modèles vision-langage-action, peuvent comprendre comment ramasser une batterie ou déplacer un outil simplement en observant une scène et en comprenant une instruction simple. Cependant, il existe un fossé entre ce que ces systèmes intelligents savent et ce qu'ils peuvent faire en toute sécurité. Un robot peut comprendre qu'il doit déplacer une batterie du point A au point B, mais il peut ne pas réaliser que déplacer la batterie trop près d'une pièce métallique spécifique pourrait provoquer un court-circuit dangereux. Pour combler ce fossé, les ingénieurs utilisent un « filtre de sécurité ». Considérez ce filtre comme un superviseur vigilant se tenant entre le cerveau du robot et ses muscles. Le superviseur surveille chaque mouvement que le robot prévoit de faire. Si un mouvement semble susceptible de transgresser une règle de sécurité, le superviseur l'arrête et dit au robot d'en faire un autre à la place. Le défi consiste à déterminer exactement ce qui constitue un mouvement dangereux et à décider de ce que le robot doit faire lorsqu'on lui dit de s'arrêter.

Dans le cas spécifique du recyclage des batteries, le danger est unique. Une cellule de batterie possède deux bornes métalliques, une positive et une négative. Si un morceau de métal, comme le boîtier de la batterie elle-même ou un outil, touche les deux bornes simultanément, cela crée un pont qui permet à l'électricité de circuler là où elle ne devrait pas, provoquant un court-circuit. Cela diffère d'une collision standard, où le fait de heurter un seul objet est le problème. Ici, le danger n'existe que si le robot s'approche des deux bornes simultanément. Un robot peut être très proche d'une borne et être parfaitement en sécurité, mais au moment où il s'approche de la seconde tout en restant proche de la première, le risque apparaît. Des chercheurs de l'Université nationale de Singapour et de plusieurs universités australiennes ont entrepris de tester la meilleure façon de programmer ces superviseurs de sécurité pour gérer ce danger spécifique de « deux bornes ». Ils voulaient savoir si la manière dont le danger est défini importe plus que ce que le robot fait lorsqu'il est arrêté.

L'équipe a construit un environnement simulé utilisant un banc d'essai robotique standard appelé LIBERO, où un bras robotisé devait déplacer un article de consommation courante, qui servait de substitut à une pièce conductrice de batterie, à travers un établi. Ils ont programmé le robot avec une politique d'IA figée, ce qui signifie que le cerveau décisionnel du robot était fixe et ne pouvait pas apprendre de nouvelles astuces pendant le test. Les chercheurs ont ensuite testé différentes versions du filtre de sécurité. D'abord, ils ont essayé différentes manières de définir la « zone de danger ». Une version utilisait une règle simple : rester à l'écart de l'une ou l'autre des bornes. Une autre utilisait une règle plus complexe : rester à l'écart de la zone où l'on pourrait toucher les deux bornes à la fois. Ils ont également testé une approche hybride combinant ces deux règles. Crucialement, ils n'ont pas seulement testé ces règles à une distance fixe. Ils ont ajusté la « marge », ou la zone tampon, pour chaque règle afin de voir quel espace était nécessaire pour maintenir le robot en sécurité sans l'arrêter trop souvent.

Ce qu'ils ont découvert était surprenant. Lorsqu'ils ont ajusté les zones tampons pour chaque règle afin de trouver le meilleur équilibre entre la sécurité et l'accomplissement de la tâche, les trois définitions de la zone de danger ont obtenu des performances presque identiques. Que le superviseur recherchait une règle simple de « rester à l'écart de l'un » ou une règle complexe de « rester à l'écart des deux », les résultats étaient presque identiques une fois la distance ajustée correctement. Cela suggère que la forme spécifique de la règle de sécurité est moins importante que le réglage correct de la distance. La véritable différence résidait dans ce que le robot faisait lorsque le superviseur lui disait « stop ».

Les chercheurs ont testé quatre façons différentes de réagir lorsque un mouvement est rejeté. La première consistait à simplement rester immobile, figeant le robot sur place. La deuxième consistait à « reculer », en déplaçant le robot vers l'arrière, loin du danger. La troisième était la « recherche par échantillonnage », où le robot essayait quelques mouvements légèrement différents pour voir si l'un d'eux était sûr. La quatrième était une projection mathématique complexe qui tentait de trouver le mouvement le plus sûr possible tout en restant très proche de ce que le robot voulait faire à l'origine. Les résultats ont montré que la stratégie « rester immobile » était la pire. Elle empêchait le robot de terminer sa tâche environ 30 % plus souvent que la stratégie de « recul », sans pour autant rendre l'environnement plus sûr. Le robot restait simplement là, échouant à accomplir sa tâche. En revanche, les stratégies qui tentaient d'être minimalement invasives, comme la projection mathématique ou la recherche par échantillonnage, permettaient au robot de terminer sa tâche plus souvent, mais elles laissaient un risque beaucoup plus élevé que le robot s'approche de la zone de danger. La stratégie de « recul », qui éloignait clairement le robot du danger, offrait le meilleur équilibre : elle maintenait le robot en sécurité et lui permettait de terminer sa tâche presque aussi souvent que le robot non filtré.

L'étude a également examiné comment ces filtres se comportaient lorsque le robot commettait des erreurs ou lorsque l'environnement changeait. Ils ont testé le système avec une politique de robot différente et des formes de batteries différentes, et la stratégie de « recul » est restée la plus efficace. Ils ont même simulé des erreurs dans la façon dont le robot mesurait les distances. Ils ont découvert que si le robot se trompait sur la taille de l'objet qu'il tenait, le filtre de sécurité devenait beaucoup moins efficace que s'il se trompait légèrement sur l'emplacement des bornes. Cela souligne que connaître la taille de la charge utile est tout aussi critique que de savoir où se trouvent les dangers. De plus, ils ont découvert qu'un système de sécurité qui vérifie uniquement le contact physique échouerait complètement. Beaucoup de moments dangereux se produisaient lorsque l'objet était encore à quelques millimètres des bornes, une distance trop petite pour toucher, mais assez grande pour provoquer un court-circuit. Un moniteur basé sur le contact manquerait entièrement ces événements.

En fin de compte, cette recherche montre que pour les robots manipulant des matériaux dangereux, la partie la plus importante du système de sécurité n'est pas nécessairement la mathématique complexe utilisée pour définir le danger, mais plutôt la décision simple et claire de ce qu'il faut faire lorsque le danger est détecté. Un superviseur qui ordonne à un robot de reculer est bien plus efficace qu'un superviseur qui lui dit de se figer ou qui tente de le pousser juste légèrement sur le côté. L'étude, menée entièrement dans une simulation de haute fidélité, fournit une feuille de route claire pour construire des robots plus sûrs. Elle suggère que les ingénieurs devraient se concentrer moins sur l'invention de nouvelles règles géométriques complexes pour le danger et davantage sur le choix d'une stratégie de réaction robuste et claire qui éloigne le robot du risque tout en lui permettant d'accomplir son travail. Alors que le monde se dirige vers l'automatisation du recyclage de millions de batteries, ces conclusions offrent un guide pratique pour garantir que les machines effectuant le travail ne provoquent pas accidentellement les dangers mêmes qu'elles sont censées gérer.