Diffusion Policy for Coordinated Control of a Nonholonomic Mobile Base and Dual Arms in Door Opening and Passing

Resumo Técnico: Política de Difusão para Controle Coordenado de uma Base Móvel Não Holonômica e Braços Duplos na Abertura e Passagem por Portas

Declaração do Problema
O artigo aborda o desafio complexo de permitir que um robô de dois braços montado em uma base móvel não holonômica abra portas pesadas de puxar com fechamento automático (amortecidas) e as atravesse. Esta tarefa é caracterizada por planejamento de longo horizonte, coordenação apertada entre locomoção e manipulação e interações ricas em contato. Especificamente, o robô deve girar uma maçaneta, ampliar a abertura da porta, segurar a porta contra um mecanismo de fechamento automático, trocar de braços conforme necessário e navegar pela abertura mantendo a folga.

Abordagens tradicionais baseadas em modelos dependem de máquinas de estado e trajetórias criadas manualmente que transitam entre etapas definidas manualmente (por exemplo, girar e depois puxar). Esses métodos carecem de robustez e falham em generalizar para condições diversas do mundo real sem extensa engenharia. Embora métodos baseados em aprendizado recentes (clonagem de comportamento, aprendizado por reforço) ofereçam alternativas, eles frequentemente dependem de representações de estado abstraídas, requerem múltiplos sub-módulos ou são limitados a cenários simplificados (por exemplo, portas de empurrar não amortecidas). Nenhum modelo visual-ação existente demonstrou com sucesso a coordenação simultânea de uma base não holonômica e braços duplos para a tarefa completa de travessia de porta de puxar amortecida usando apenas entradas visuais e proprioceptivas.

Metodologia
Os autores propõem uma política de controle visuomotor baseada em difusão de ponta a ponta ($\pi_\theta(a|s)$) que mapeia observações brutas (imagens RGB e dados proprioceptivos) diretamente para ações contínuas.

• Coleta de Dados:

  • Hardware: Demonstrações de especialistas foram coletadas usando uma plataforma de dois braços RealMan equipada com um kit de teleoperação, registrando posições das juntas e imagens RGB de múltiplas vistas.
  • Simulação: Um planejador de movimento baseado em etapas foi desenvolvido para gerar trajetórias de referência diversas. Este sistema combina Cinemática Inversa (IK) para manipulação de dois braços com Controle Preditivo Modelado (MPC) para o movimento da base não holonômica. Um agendador no espaço da tarefa guia o robô através de quadros-chave (alcançar, torcer, puxar, segurar).
  • Randomização: Para garantir robustez, os dados de treinamento incluem randomização de domínio das condições de iluminação, cores da porta/maçaneta e a pose inicial da base do robô em relação à porta.

• Arquitetura da Política:

  • Entrada: A política condiciona-se a uma pilha das observações mais recentes ($T_o = 3$), que incluem vetores latentes de três codificadores ResNet-18 independentes (um por vista de câmera) concatenados com dados de estado proprioceptivo.
  • Backbone: Um U-Net 1D com condicionamento FiLM (Modulação Linear Específica de Recursos) serve como backbone de difusão.
  • Saída: O modelo prevê uma sequência futura de ações ($T_p = 16$ passos). Durante a execução, o robô realiza os primeiros $T_a = 8$ passos antes de replanejar com base em novas observações.
  • Inferência: A política opera desruidando um vetor de ruído gaussiano em uma sequência de ações. Embora treinada com 100 passos de desruidamento, os autores descobriram que a inferência poderia ser realizada com tão poucos quanto 10 passos sem perda de desempenho, reduzindo significativamente a latência.

• Otimização: Para alcançar controle em tempo real no Jetson AGX Orin embarcado, os autores empregaram Adaptação de Baixo RANK (LoRA) com quantização e otimizaram a configuração de energia do sistema para evitar a redução de frequência (throttling).

Principais Contribuições

1. Geração de Trajetória Baseada em Etapas: Um pipeline combinando IK e MPC com cenários de teste randomizados para automatizar a geração de trajetórias de referência diversas para treinamento.
2. Controlador de Difusão de Ponta a Ponta: O desenvolvimento de um controlador unificado de imagem para ação baseado em políticas de difusão, equilibrando complexidade do modelo e tempo de inferência para lidar com tarefas de longo horizonte.
3. Validação no Mundo Real: Validação experimental em um manipulador móvel de dois braços físico, demonstrando a capacidade da política de executar tarefas coordenadas de abertura de portas e recuperar-se de perturbações externas usando apenas visão e propriocepção.

Resultados

• Simulação: A política de difusão alcançou uma taxa de sucesso de 100% (10/10) na abertura e travessia de portas de puxar amortecidas na simulação.
  • Estudos de Ablação: O uso de codificadores separados para cada vista de câmera foi crítico; um codificador unificado reduziu o sucesso para 0/10. Reduzir os passos de desruidamento para 30 ou até 10 manteve alto desempenho, enquanto redução adicional degradou os resultados.
  • Baselines: A política de difusão proposta superou as baselines. ACT (Chunking de Ação com Transformers) alcançou 8/10 de sucesso, mas falhou em atingir 100%, provavelmente devido ao overfitting em padrões visuais dominantes em ambientes randomizados. SmolVLA falhou completamente (0/10), atribuído ao seu pré-treinamento em conjuntos de dados de manipuladores menores.
• Implantação em Hardware: A política executou com sucesso a sequência completa de tarefas na plataforma RealMan.
  • Recuperação de Perturbação: Uma descoberta chave foi a robustez da política a perturbações externas. Quando a porta foi manualmente re-fechada durante a sequência de abertura, o robô detectou a mudança via feedback visual, interrompeu o movimento atual, re-ajustou sua postura e reiniciou a sequência de abertura em vez de falhar ou divergir.
  • Latência: Através da otimização do modelo e do hardware, o sistema alcançou execução de baixa latência suficiente para controle de base em tempo real e travessia.

Significado e Alegações
O artigo alega que políticas baseadas em difusão oferecem um paradigma promissor para tarefas complexas de manipulação no mundo real que exigem coordenação apertada entre percepção, manipulação e navegação. Diferentemente de métodos tradicionais que dependem de máquinas de estado frágeis ou requerem extensa engenharia para tipos específicos de portas, esta abordagem aprende uma política unificada diretamente a partir de demonstrações. Os autores destacam que o sistema resultante não apenas alcança altas taxas de sucesso em cenários difíceis de portas de puxar amortecidas, mas também demonstra uma capacidade crítica para implantação no mundo real: a capacidade de detectar e recuperar-se de perturbações externas de forma autônoma. Essa resiliência, alcançada sem modelagem explícita de perturbações, distingue o método proposto tanto de abordagens tradicionais baseadas em modelos quanto de outros frameworks baseados em aprendizado que frequentemente carecem de mecanismos de recuperação uma vez perturbados.