Riepilogo Tecnico: TACTFUL

Problema

La manipolazione robotica si è tradizionalmente basata sulla visione per la localizzazione e l'identificazione degli oggetti, trattando spesso la percezione tattile come una modalità secondaria o correttiva. Tuttavia, in ambienti visivamente occlusi o confinati (ad esempio, contenitori di magazzino, borse ingombre), la visione è inaffidabile o non disponibile. Mentre gli esseri umani possono localizzare e identificare oggetti senza sforzo utilizzando il tatto e i priori geometrici, i sistemi robotici faticano con l'esplorazione tattile autonoma. Gli approcci tattili esistenti spesso si affidano a segnali di contatto semplificati, addestramento basato su simulazione o euristiche artigianali, con una dimostrazione limitata di prestazioni ad alta fedeltà su hardware reale per il compito combinato di scoprire oggetti in uno spazio di lavoro sconosciuto e ricostruirne la geometria per l'identificazione.

Metodologia

Il documento presenta TACTFUL, un framework privo di visione che consente a un robot multi-dito di esplorare autonomamente spazi di lavoro confinati, scoprire oggetti tramite contatto e identificarli attraverso la ricostruzione tattile. Il sistema opera interamente su hardware reale senza pre-addestramento in simulazione.

1. Hardware e Configurazione

Il sistema utilizza una mano destra multi-dito Inspire RH56DFTP Series montata su un braccio robotico UR10e. La mano è dotata di 1.062 tasseli resistivi che misurano le forze di contatto normale. Lo spazio di lavoro è un contenitore con confini noti contenente oggetti stampati in 3D posizionati in località arbitrarie. Non vengono utilizzate telecamere.

2. Framework di Apprendimento (POMDP)

Il compito è formulato come un Processo Decisionale di Markov Parzialmente Osservabile (POMDP). L'agente deve inferire la posizione e la forma degli oggetti esclusivamente dai feedback tattili accumulati e dalla propriocezione.

• Spazio delle Osservazioni ($O$): Include dati propriocettivi (posa dell'end-effector, angoli dei giunti, configurazione della mano) e letture tattili ad alta risoluzione. Incorpora crucialmente un embedding di Nuvola di Punti Tattile ($c_t$) generato da Sonata, un encoder basato su transformer auto-supervisionato che comprime la cronologia dei contatti tattili in una rappresentazione della copertura spaziale e della struttura geometrica.
• Spazio delle Azioni ($A$): Definito come cambiamenti incrementali alla posa dell'end-effector ($\Delta p_t$) e agli angoli dei giunti delle dita ($\Delta h_t$).
• Rappresentazione dello Stato: Per gestire le dipendenze temporali, lo stato consiste in una sequenza degli ultimi $k=10$ osservazioni, elaborate da un'architettura Transformer con meccanismi di auto-attenzione.

3. Strategia di Addestramento: Inizializzazione BC + PPO

Apprendere politiche tattili direttamente tramite Reinforcement Learning (RL) nel mondo reale è inefficiente e rischioso. TACTFUL impiega una pipeline di addestramento a due stadi:

1. Inizializzazione tramite Behavior Cloning (BC): Una politica viene pre-addestrata offline su 5.311 dimostrazioni teleoperate solo tattili. Il modello BC impara a regredire le azioni dell'esperto (delta posa e configurazione), catturando strategie di contatto di base e pattern di esplorazione locale.
2. Addestramento PPO Online: La politica BC inizializza l'attore in un framework di Ottimizzazione della Politica Prossimale (PPO). La politica viene raffinata online su hardware reale.
   • Rete Critic: Riceve "informazioni privilegiate" (posa approssimativa a 6 DoF dell'oggetto target) per stabilizzare la stima del valore, che non è disponibile all'attore durante l'implementazione.
   • Rete Actor: Utilizza la stessa architettura Transformer del critic ma si affida solo ai dati tattili e propriocettivi osservabili.

4. Programma di Ricompensa Dinamico

Una funzione di ricompensa composita guida l'agente attraverso fasi distinte di esplorazione e raffinamento, con pesi che evolvono nel tempo ($t$) all'interno dell'orizzonte dell'episodio ($T$):

• Ricompensa di Contatto ($r_{contact}$): Incentiva punti di contatto nuovi e spazialmente distinti (attivazioni tasseli > 5mm rispetto ai contatti precedenti) per incoraggiare una copertura superficiale ad alta risoluzione.
• Ricompensa di Esplorazione ($r_{explore}$): Incoraggia l'agente a visitare nuove regioni dello spazio di lavoro (tracciate tramite una griglia di voxel da 1cm$^3$) per prevenire minimi locali e garantire la scoperta globale.
• Ricompensa di Ricostruzione ($r_{recon}$): Penalizza le rappresentazioni di forma imprecise misurando la distanza di Chamfer tra la ricostruzione densa corrente e la verità di base (ground truth).
• Programma (Schedule): All'inizio dell'episodio, $r_{explore}$ è pesato fortemente per facilitare la scoperta dell'oggetto. Man mano che l'episodio procede, i pesi di $r_{contact}$ e $r_{recon}$ aumentano per dare priorità al raffinamento superficiale e all'accuratezza geometrica.

5. Completamento della Forma

Nuvole di punti tattili sparse vengono passate a un modello di diffusione di nuvole di punti pre-addestrato per generare geometrie di oggetti dense e complete. Questo modello funge da prior appreso sulla libreria di oggetti nota, colmando il divario tra i dati tattili sparsi e le forme 3D complete per l'identificazione.

Contributi Chiave

1. Politica di Esplorazione Tattile Appresa: Sviluppo di una singola politica che consente a un robot multi-dito di esplorare autonomamente spazi di lavoro confinati e localizzare oggetti usando solo la sensibilità tattile, senza visione.
2. Programma di Ricompensa Dinamico: Introduzione di un meccanismo di ricompensa variabile nel tempo che bilancia l'esplorazione globale dello spazio di lavoro con il raffinamento del contatto locale, sfruttando i priori geometrici a livello di oggetto per guidare la ricostruzione 3D.
3. Validazione nel Mondo Reale: Dimostrazione di un'identificazione affidabile degli oggetti basata esclusivamente sulla geometria tattile ricostruita, addestrata interamente su hardware reale senza simulazione.

Risultati Sperimentali

Il framework è stato valutato su tre oggetti geometricamente diversi (un cubo, un cilindro deformato e una tazza deformata) posizionati in un contenitore. Il robot aveva il compito di localizzare un oggetto target specifico tra dei distrattori.

• Prestazioni: Il metodo TACTFUL ha raggiunto un tasso di successo del 77% (mediato tra gli oggetti) con un errore di ricostruzione Chamfer-L2 medio di 0,015 m.
• Confronti:
  • Ha superato un baseline euristico (tasso di successo 0,416–0,5) che mancava dell'apprendimento dal feedback di contatto.
  • Ha superato il solo BC (tasso di successo 0,416–0,583), dimostrando il valore dell'adattamento RL online.
  • Ha superato l'RL senza inizializzazione BC (tasso di successo 0,583–0,75), confermando che l'inizializzazione BC fornisce un prior strutturato cruciale per un apprendimento reale sicuro ed efficiente.
• Studi di Ablazione:
  • La rimozione di qualsiasi componente della ricompensa ($r_{contact}$, $r_{explore}$ o $r_{recon}$) ha degradato significativamente le prestazioni, confermando la necessità di bilanciare esplorazione, qualità del contatto e accuratezza della ricostruzione.
  • La rimozione del modello di completamento della forma ha ridotto i tassi di successo al 34%, evidenziando il suo ruolo nel risolvere le ambiguità geometriche inerenti ai dati tattili sparsi.

Significato e Rivendicazioni

Il documento afferma che TACTFUL dimostra che la sensibilità tattile può servire come una modalità primaria efficace per il ragionamento a livello di oggetto in ambienti non strutturati, occlusi o confinati, piuttosto che essere semplicemente un fallback reattivo alla visione. Combinando l'apprendimento strutturato (BC), la modellazione dinamica delle ricompense e i priori di completamento della forma, il sistema raggiunge una localizzazione e un'identificazione degli oggetti robuste senza input visivi. Gli autori osservano che, sebbene l'attuale lavoro sia limitato a una libreria nota di tre oggetti e scene statiche, i risultati validano il potenziale per il ragionamento tattile autonomo in contesti reali dove la visione è negata.