Bi-AQUA: Bilateral Control-Based Imitation Learning for Underwater Robot Arms via Lighting-Aware Action Chunking with Transformers

Dit paper introduceert Bi-AQUA, het eerste framework voor bilaterale imitatielearning dat lichtbewuste actie-chunking met transformers integreert om robuuste onderwatermanipulatie te bereiken ondanks variërende zichtbaarheid en verkleuring.

De kern

Stel je voor dat je probeert een raam te dichten terwijl je onder water zit. Het water is troebel, het licht verandert constant van kleur (soms rood, soms blauw, soms flitsend), en bubbels drijven voorbij. Als je nu een robotarm zou sturen die alleen maar naar een camera kijkt, zou die waarschijnlijk in paniek raken. "Is dat een vis of een steen? Is dat een handvat of een reflectie?" De robot zou vastlopen of dingen laten vallen.

Dit is precies het probleem dat de onderzoekers van Bi-AQUA hebben opgelost. Hier is hoe ze het doen, vertaald naar alledaags taal:

1. Het Probleem: De "Blinde" Robot

Normaal gesproken leren robots handelingen door te kijken naar video's van mensen die iets doen (imitatieleren). Maar onder water is het licht een vreselijke leugenaar. Het licht verandert de kleuren van alles. Een rode bal kan er blauw uitzien, en een heldere scène kan er grijs en vaag uitzien.
De meeste robots zijn als een blinde passagier in een auto die door een tunnel rijdt: ze weten niet dat het donker is, dus ze sturen raak. Als het licht verandert, raken ze hun weg kwijt.

2. De Oplossing: Twee Robotarmen die "Hand in Hand" werken

De onderzoekers gebruiken een slimme truc: Bilaterale Besturing.
Stel je voor dat je een poppenkast hebt. Jij zit aan de ene kant (de "leider") en beweegt je handen. Aan de andere kant zit een robot (de "volger") die precies doet wat jij doet.

• Het oude probleem: De robot zag alleen wat jij deed, maar voelde niets. Als de robot tegen een muur duwde, wist hij niet dat hij hard duwde, dus hij bleef duwen tot hij iets brak.
• De Bi-AQUA-methode: De robot voelt ook wat jij voelt. Als jij tegen een obstakel duwt, voelt de robot dat ook en stopt hij. Het is alsof je een tandvriend hebt die je hand vasthoudt: als jij struikelt, voelt hij het en helpt hij je evenwicht te houden. Dit is cruciaal onder water, waar je vaak tegen dingen aan moet duwen om ze vast te houden.

3. De Magische Truc: De "Licht-Bril"

Dit is het echte nieuwe stukje van Bi-AQUA. De robot heeft niet alleen een "hand" die voelt, maar ook een slimme bril die het licht begrijpt.

De onderzoekers hebben de robot drie nieuwe vaardigheden gegeven:

1. De Licht-Scanner (Lighting Encoder): De robot kijkt niet alleen naar de afbeelding, maar kijkt eerst naar hoe het licht eruitziet. Het is alsof de robot een kleurenpalet heeft dat hem vertelt: "Oh, vandaag is het rood onder water, dus alles ziet er warmer uit." Hij leert dit zonder dat iemand hem de kleuren moet uitleggen; hij leert het gewoon door te kijken.
2. De Licht-Filter (FiLM): De robot past zijn "ogen" aan. Als het licht rood is, zegt de robot tegen zijn hersenen: "Oké, trek de rode bril op, dan zie ik de echte vormen weer." Dit helpt hem om de troebele beelden te corrigeren terwijl hij kijkt.
3. De Licht-Notitie (Lighting Token): De robot schrijft een klein briefje op: "Vandaag is het licht veranderlijk." Dit briefje gaat mee naar de "hersenen" (de AI) die de bewegingen bedenkt. Zo weet de robot van tevoren: "Pas op, het licht flitst, wees voorzichtig met je grijpen."

4. Het Resultaat: Een Robot die niet snel panikeert

In de tests hebben ze de robot laten oefenen met drie moeilijke taken:

• Voorwerpen pakken en verplaatsen: Zelfs als het licht van rood naar blauw springt, blijft de robot stabiel.
• Een lade sluiten: Dit vereist veel kracht en gevoel. De robot voelt de weerstand van de lade en duwt net genoeg, zelfs als hij door het water niet goed kan zien.
• Een pin uit een gat halen: Dit is als het proberen te halen van een sleutel uit een zeer strak slot. Als je te hard trekt, breekt het; als je te zacht trekt, komt hij niet los. De robot voelt de wrijving en past zijn kracht aan, ongeacht of het licht nu wazig of helder is.

Conclusie

Bi-AQUA is als het geven van een slimme bril en een gevoel voor aanraking aan een robot die onder water werkt.

• Zonder deze truc is de robot als een zwemmer die probeert te dansen in een donker zwembad met knipperende lichten: hij struikelt.
• Met Bi-AQUA is de robot als een ervaren duiker die precies weet hoe het licht werkt, voelt waar de objecten zitten en zijn bewegingen aanpast aan de omgeving.

Het resultaat? Een robot die onder water dingen kan doen die voorheen onmogelijk leken, zelfs als het licht continu verandert. Het is een grote stap naar robots die echt zelfstandig kunnen werken op de zeebodem.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het paper "Bi-AQUA: Bilateral Control-Based Imitation Learning for Underwater Robot Arms via Lighting-Aware Action Chunking with Transformers", vertaald en samengevat in het Nederlands.

Probleemstelling

Onderwater robotische manipulatie staat voor aanzienlijke uitdagingen door de extreme variabiliteit van de omgeving. Factoren zoals golflengte-afhankelijke verzwakking, verstrooiing, troebelheid en bubbels leiden tot drastische veranderingen in de visuele verschijning van een scène binnen enkele seconden. Bestaande visuele besturingsbeleid (visuomotor policies) falen vaak onder deze omstandigheden omdat ze niet in staat zijn om te adapteren aan snel veranderende verlichting.

Bovendien vertrouwen de meeste huidige methoden op unilaterale controle (alleen visuele feedback), wat problematisch is bij contactrijke taken of in visueel ambiguïe omgevingen. Traditionele onderwater manipulatie maakt vaak gebruik van teleoperatie, maar autonome systemen die gebruikmaken van imitatielearning (IL) missen vaak de integratie van krachtfeedback en expliciete modellering van verlichting als een latente factor. Er bestaat tot nu toe geen framework dat bilaterale controle (kracht en positie) combineert met expliciete verlichtingsmodellering voor onderwater robotarmen.

Methodologie: Bi-AQUA

Bi-AQUA is het eerste imitatielearning-framework voor onderwater robotarmen dat bilaterale controle combineert met een hiërarchisch, verlichtingsbewust ontwerp. Het systeem is gebaseerd op de Bi-ACT (Action Chunking with Transformers) architectuur, maar introduceert drie kerncomponenten om verlichting expliciet te modelleren:

1. Label-vrije Lighting Encoder:

   • Een encoder die compacte verlichtingsrepresentaties ($v_L$) leert uit RGB-afbeeldingen zonder handmatige labels of kleurannotaties (die onder water moeilijk te definiëren zijn).
   • Het gebruikt een dubbel-pad architectuur: een convolutiepad voor ruimtelijke verlichtingskwaliteiten en een histogrampad dat statistieken van verzadiging en waarde (SV-kanaal) analyseert.
   • Deze representatie wordt berekend over meerdere camera-weergaven.

2. FiLM-gebaseerde Visuele Feature Modulatie:

   • De visuele kenmerken van de backbone (bijv. ResNet) worden gemoduleerd via FiLM (Feature-wise Linear Modulation).
   • De verlichtingsvector $v_L$ genereert schaal- ($\gamma$) en verschuifingsparameters ($\beta$) die per kanaal worden toegepast op de convolutie-features. Dit stelt het netwerk in staat om zijn visuele perceptie dynamisch aan te passen aan de huidige verlichtingsomstandigheden.

3. Lighting Token voor Actie-Conditioning:

   • Een expliciete "lighting token" wordt toegevoegd aan de invoer van de Transformer-encoder, naast de proprioceptieve en latente tokens.
   • Deze token stroomt door de encoder naar de decoder via cross-attention, waardoor het generatieproces van acties direct wordt beïnvloed door de huidige verlichtingsconditie.

Data Collectie & Besturing:
Het systeem gebruikt een bilaterale teleoperatie-opstelling waarbij een operator een "leader"-robot aan land bedient en een "follower"-robot onder water de bewegingen uitvoert. Het systeem wisselt zowel positie als krachtsignalen uit ($\theta_l - \theta_f = 0$ en $\tau_l + \tau_f = 0$). Dit zorgt voor rijke haptische feedback, wat cruciaal is voor contactrijke taken. De policy wordt getraind via Behavior Cloning met een Conditional Variational Autoencoder (CVAE) structuur.

Belangrijkste Bijdragen

• Eerste Onderwater Bi-IL Framework: Bi-AQUA introduceert bilaterale imitatielearning specifiek voor onderwater robotarmen.
• Expliciete Verlichtingsmodellering: Het is het eerste systeem dat verlichting als een latente, gestructureerde factor integreert in een krachtgevoelige visuele besturingspolicy, zonder afhankelijk te zijn van handmatige labels.
• Hiërarchisch Adaptief Ontwerp: De combinatie van een label-vrije encoder, FiLM-modulatie en een lighting token stelt het systeem in staat om zowel statische als dynamisch veranderende verlichting te hanteren.

Resultaten

Experiments werden uitgevoerd in een watertank met een robotarm en acht verschillende verlichtingsmodi (rood, blauw, groen, wit, rgbw, cyaan, paars en dynamisch veranderend). De taken omvatten:

1. Pick-and-Place: Objecten vervoeren.
2. Lade sluiten: Een langere, sequentiële taak.
3. Peg-extractie: Een contactrijke precisietask met nauwe toleranties.

Kernbevindingen:

• Superieure Robuustheid: Bi-AQUA behaalde een 100% succesratio in 7 van de 8 verlichtingscondities (inclusief ongetrainde kleuren zoals cyaan en paars, en dynamisch veranderend licht). De baseline (Bi-ACT zonder verlichtingsmodellering) faalde volledig in de meeste ongetrainde condities (0% succes).
• Ablatiestudies: Het combineren van alle drie de componenten (Encoder, FiLM, Token) was noodzakelijk. Alleen een token of alleen FiLM leverde geen consistente resultaten op, vooral niet bij dynamisch veranderend licht.
• Generalisatie: Het systeem generaliseerde succesvol naar nieuwe objecten (zwarte rubberblokken, blauw schuim) en visuele verstoringen (bubbels), zonder extra training.
• Krachtgevoeligheid: In contactrijke taken (peg-extractie) presteerde de volledige Bi-AQUA (met krachtfeedback) aanzienlijk beter dan varianten zonder krachtinput, wat aantoont dat visuele perceptie alleen onvoldoende is bij onderwater manipulatie met wrijving en nauwkeurige uitlijning.
• Efficiëntie: De uitvoeringstijd van Bi-AQUA (15,73s) kwam overeen met die van menselijke teleoperatie (15,39s), wat aangeeft dat de verlichtingsadaptatie geen extra vertraging introduceerde.

Betekenis

Bi-AQUA markeert een doorbraak in onderwater robotica door de kloof te overbruggen tussen visuele robuustheid en haptische feedback. Het paper demonstreert dat het expliciet modelleren van verlichting als een latente variabele essentieel is voor betrouwbare autonome manipulatie in onvoorspelbare onderwateromgevingen. Dit biedt een veelbelovende weg naar praktische, autonome onderwater systemen die complexe taken kunnen uitvoeren zonder constante menselijke tussenkomst, zelfs onder extreme visuele omstandigheden.