Bi-AQUA: Bilateral Control-Based Imitation Learning for Underwater Robot Arms via Lighting-Aware Action Chunking with Transformers

Ce papier présente Bi-AQUA, un cadre d'apprentissage par imitation bilatéral innovant pour les bras robotiques sous-marins qui intègre explicitement la modélisation de l'éclairage via des transformateurs pour assurer une manipulation robuste et adaptative malgré les variations visuelles complexes de l'environnement sous-marin.

L'essentiel

Voici une explication simple et imagée de la recherche Bi-AQUA, présentée comme si l'on racontait une histoire d'exploration sous-marine.

🌊 Le Problème : Pourquoi les robots sous-marins sont souvent "aveugles"

Imaginez que vous essayez de faire du bricolage dans une pièce où la lumière change toutes les deux secondes : tantôt c'est rouge, tantôt bleu, tantôt vert, et parfois ça clignote. De plus, l'eau agit comme un filtre qui dévore les couleurs et brouille les contours.

C'est exactement le cauchemar des robots sous-marins actuels.

• La vision est trompeuse : Un objet qui est blanc en surface peut paraître vert foncé ou gris sous l'eau selon la lumière.
• Les robots actuels sont "unilatéraux" : Ils fonctionnent comme un aveugle qui essaie de saisir un objet en se fiant uniquement à ses yeux (la caméra). S'il ne voit pas bien, il rate sa prise.
• Le manque de "toucher" : Sur terre, on utilise souvent des robots qui ne sentent pas la force. Sous l'eau, si on tire trop fort sur un objet coincé, on peut le casser ou faire basculer le robot. Il faut sentir la résistance, comme quand on tire une chaussette coincée dans un tiroir.

💡 La Solution : Bi-AQUA, le robot qui "sent" et "comprend" la lumière

Les chercheurs ont créé Bi-AQUA, un nouveau système pour apprendre aux bras robotiques à travailler sous l'eau. Voici comment cela fonctionne, avec trois ingrédients magiques :

1. Le "Bouclier Tactile" (Contrôle Bilatéral)

Imaginez un maître et un élève. Le maître (l'opérateur humain) est sur la surface, et l'élève (le robot) est sous l'eau.

• Dans les systèmes anciens, le maître ne donnait que des ordres de mouvement ("Va à gauche").
• Avec Bi-AQUA, c'est une conversation à double sens. Si le robot sous l'eau bute contre un tiroir, il envoie un message de "résistance" au maître. Le maître sent cette résistance dans ses propres mains et ajuste sa force instinctivement. Le robot apprend ainsi à être doux et précis, comme un chirurgien, même dans l'eau trouble.

2. Le "Lunettes Magiques" (L'Encodeur de Lumière)

C'est la grande innovation du papier. Le robot ne se contente pas de regarder l'image brute. Il possède un petit cerveau spécial (un Encodeur de Lumière) qui analyse la photo pour dire : "Attends, la lumière est rouge et l'eau est trouble, donc ce qui semble vert est en fait bleu."

• Analogie : C'est comme si vous portiez des lunettes de soleil intelligentes qui corrigent automatiquement la couleur de vos vêtements selon l'heure de la journée, sans que vous ayez besoin de le penser. Le robot apprend à "traduire" la lumière déformée de l'eau en une image claire pour son cerveau.

3. Le "Chef d'Orchestre" (Les Transformers et les Tokens)

Le robot utilise une technologie appelée Transformer (la même famille que les IA génératives comme moi).

• Imaginez que le robot doit décider de bouger son bras. Au lieu de juste regarder la caméra, il reçoit un petit mot-clé spécial (un token de lumière) qui lui dit : "Aujourd'hui, on est en mode 'lumière changeante'."
• Cela permet au robot d'adapter sa stratégie en temps réel. Si la lumière change brusquement (comme une bulle qui passe ou une lampe qui clignote), le robot ne panique pas. Il ajuste son "plan de vol" instantanément.

🎯 Les Résultats : Des missions réussies là où les autres échouent

Les chercheurs ont testé ce robot avec trois défis difficiles :

1. Ramasser et déplacer un objet : Même avec des couleurs qui changent, le robot y arrive presque à chaque fois.
2. Fermer un tiroir : C'est une tâche longue et délicate. Le robot sait quand pousser doucement pour ne pas bloquer le mécanisme.
3. Extraire un bouchon coincé : C'est le plus dur. Il faut sentir la friction. Grâce à son "toucher" (contrôle bilatéral) et à sa compréhension de la lumière, le robot réussit là où les autres glissent ou cassent l'objet.

🚀 En résumé

Bi-AQUA est comme un plongeur expert qui a appris à :

1. Sentir les objets avec ses mains (grâce au contrôle bilatéral).
2. Voir à travers les distorsions de l'eau (grâce à l'analyse de la lumière).
3. S'adapter instantanément si l'environnement change (grâce à l'intelligence artificielle).

C'est une étape majeure pour rendre les robots sous-marins autonomes, capables de réparer des câbles, de ramasser des déchets ou d'explorer les fonds marins sans avoir besoin d'un humain pour les guider à chaque seconde, même dans les eaux les plus sombres et changeantes.

Résumé technique

1. Problématique

La manipulation robotique sous-marine reste un défi majeur en raison de la dégradation sévère des conditions visuelles. Les variations d'éclairage, l'atténuation des longueurs d'onde, la diffusion (scattering), la turbidité et les bulles perturbent la cohérence visuelle, entraînant souvent une dérive des actions dans les politiques visuomotrices standards.

Les approches existantes souffrent de deux limitations principales :

1. Contrôle unilatéral : La plupart des méthodes d'apprentissage par imitation (IL) sous-marines reposent sur un contrôle unilatéral (sans retour d'effort), ce qui les rend fragiles dans des tâches riches en contacts ou visuellement ambiguës.
2. Absence de modélisation explicite de la lumière : Aucune méthode ne modélise explicitement l'éclairage sous-marin comme un facteur latent au sein de la politique de contrôle. Les méthodes d'amélioration d'image existantes traitent la perception mais ne résolvent pas le problème de contrôle en boucle fermée face à des changements d'éclairage rapides.

2. Méthodologie : Bi-AQUA

Bi-AQUA est le premier cadre d'apprentissage par imitation basé sur le contrôle bilatéral (échange de position et de force) spécifiquement conçu pour les bras robotiques sous-marins, intégrant une modélisation explicite de l'éclairage.

L'architecture repose sur une extension de Bi-ACT (Action Chunking with Transformers pour le contrôle bilatéral) avec trois mécanismes hiérarchiques d'adaptation à la lumière :

A. Collecte de Données

• Paradigme Bilatéral : Un opérateur humain contrôle un robot « leader » dans l'air, tandis qu'un robot « suiveur » exécute les mouvements miroirs sous l'eau.
• Contrôle : Le système maintient $\theta_l - \theta_f = 0$ (position) et $\tau_l + \tau_f = 0$ (couple/force), permettant à l'opérateur de ressentir les forces de contact sous-marines sans capteurs de force dédiés (estimation via observateurs de perturbation et de force de réaction).
• Données : Enregistrement multi-vues (caméras RGB) et états articulaires du suiveur, collectés sous diverses conditions d'éclairage (spectres et intensités variés).

B. Architecture du Modèle

Le modèle intègre l'éclairage à trois niveaux du pipeline visuomoteur :

1. Encodeur d'Éclairage (Lighting Encoder) :

   • Un encodeur sans étiquette (label-free) qui apprend une représentation compacte de l'éclairage ($v_L$) directement à partir des images RGB brutes.
   • Il utilise une architecture à double voie : un chemin convolutif pour les indices spatiaux et un chemin d'histogramme (sur les canaux Saturation et Valeur) pour les statistiques de couleur.
   • Aucune annotation manuelle de la lumière n'est requise ; l'apprentissage se fait de bout en bout via l'objectif d'imitation.

2. Modulation Visuelle par FiLM (Feature-wise Linear Modulation) :

   • Les caractéristiques visuelles extraites par le backbone (ex: ResNet) sont modulées par des transformations affines conditionnées par l'embedding d'éclairage $v_L$.
   • Cela permet d'adapter les caractéristiques de perception en fonction de l'état d'éclairage actuel avant l'entrée dans le transformateur.

3. Jeton d'Éclairage (Lighting Token) :

   • Un token spécifique représentant l'éclairage est ajouté à l'entrée de l'encodeur du transformateur.
   • Ce token permet au décodeur d'adapter la génération de l'action (les « chunks » d'action) en fonction de l'environnement lumineux actuel.

C. Objectif d'Apprentissage

Le système utilise un Auto-encodeur Variationnel Conditionnel (CVAE) avec un backbone transformateur. Il prédit un chunk d'actions du robot leader ($\hat{l}_{t:t+k}$) conditionné par l'état du suiveur, les observations visuelles et le token d'éclairage. L'entraînement se fait par clonage comportemental avec régularisation KL.

3. Contributions Clés

1. Premier cadre Bi-IL sous-marin : Introduction du contrôle bilatéral basé sur l'imitation pour la manipulation sous-marine, exploitant le retour d'effort pour la robustesse.
2. Politique visuomotrice consciente de la lumière : Proposition d'une architecture intégrant un encodeur d'éclairage sans étiquette, une modulation FiLM et un token d'éclairage pour une adaptation hiérarchique.
3. Validation expérimentale : Démonstration de gains significatifs par rapport aux baselines sur des tâches réelles, avec une généralisation à des éclairages non vus, des objets nouveaux et des perturbations visuelles (bulles).

4. Résultats Expérimentaux

Les expériences ont été menées dans un réservoir d'eau avec un robot à 3 degrés de liberté, testant trois tâches de difficulté croissante :

• Prise et Déplacement (Pick-and-Place) : Benchmark de robustesse.
• Fermeture de Tiroir : Tâche séquentielle à long horizon.
• Extraction de Pion (Peg Extraction) : Tâche de précision riche en contacts (tolérance géométrique serrée).

Résultats principaux :

• Robustesse à l'éclairage : Bi-AQUA atteint un taux de réussite de 100% sur 7 des 8 modes d'éclairage testés (y compris les couleurs non vues comme le cyan et le violet, et le mode dynamique changeant).
  • Comparaison : La baseline Bi-ACT (sans modélisation de la lumière) échoue presque totalement (0-20% de réussite) hors des conditions d'éclairage blanc ou rouge spécifiques.
• Ablation : La combinaison des trois composants (Encodeur + FiLM + Token) est nécessaire. L'ajout d'un simple token ou d'une seule modulation FiLM ne suffit pas à gérer les distorsions sous-marines complexes.
• Généralisation : Le modèle fonctionne bien sur des objets non vus (bloc noir, éponge bleue) et en présence de bulles, prouvant qu'il n'a pas sur-ajusté aux objets d'entraînement.
• Importance du Contrôle Bilatéral : Dans les tâches riches en contacts (fermeture de tiroir, extraction de pion), la version sans retour d'effort (w/o Force) voit ses performances chuter drastiquement (jusqu'à 0% de réussite), confirmant que la force est cruciale lorsque la perception visuelle est dégradée.
• Efficacité : Le temps d'exécution de Bi-AQUA (15,73 s) est proche de celui de la téléopération humaine (15,39 s), prouvant que l'ajout de la complexité lumineuse ne pénalise pas l'efficacité.

5. Signification et Impact

Ce travail comble un vide majeur dans la robotique sous-marine autonome en démontrant que :

1. Le contrôle bilatéral est indispensable pour la manipulation sous-marine précise, car il compense les défaillances de la perception visuelle.
2. La modélisation explicite de l'éclairage au sein de la politique de contrôle (plutôt que comme un prétraitement d'image) est essentielle pour gérer la variabilité photométrique dynamique des environnements sous-marins.

Bi-AQUA ouvre la voie vers des systèmes de manipulation sous-marine autonomes capables de fonctionner de manière fiable dans des conditions réelles, changeantes et souvent hostiles, sans nécessiter de recalibrage manuel ou d'amélioration d'image préalable.