Resumo Técnico: See2Act – Modelos de Difusão para Percepção Ativa em Imitação Robótica

Declaração do Problema

Os métodos atuais de aprendizado por imitação (IL) para controle visuomotor tipicamente assumem observabilidade total e pontos de vista fixos, confundindo as capacidades de "ver" e "agir". Em ambientes realistas, objetos são frequentemente ocluídos, exigindo que os robôs busquem ativamente informações relevantes para a tarefa antes de manipulá-los. As abordagens existentes enfrentam uma limitação fundamental: as demonstrações emaranham a seleção do ponto de vista e a manipulação, mas o IL padrão trata-os separadamente ou assume que a informação visual necessária já está visível.

• Políticas de visão fixa falham quando regiões relevantes para a tarefa estão ocluídas.
• Métodos de seleção de visão múltipla ou passiva (por exemplo, selecionar a melhor visão de um conjunto predefinido) não ensinam a política como mover a câmera para resolver oclusões dinamicamente.
• Ineficiência de dados: Simplesmente aumentar as demonstrações com pontos de vista adicionais aumenta os requisitos de dados de forma combinatória sem ensinar à política quais visões são úteis para ações específicas.

O desafio central é aprender uma política que determine conjuntamente onde ver e como agir a partir de demonstrações limitadas, particularmente sob severa oclusão.

Metodologia: See2Act

Os autores propõem o See2Act, um framework de aprendizado por imitação baseado em difusão que acopla a denoização da ação ao refinamento do ponto de vista dentro de um único loop generativo. O insight central é que a trajetória de difusão serve como uma trajetória sobre tanto ações quanto pontos de vista.

1. Estratégia de Treinamento

A política é treinada inteiramente em simulação usando um gêmeo digital, aproveitando conjuntos de dados de manipulação offline.

• Ações de Keyframe: As demonstrações são decompostas em ações de keyframe alvo ($a_0$), representando as poses do efetuador final para operações de pick/place.
• Ancoragem de Ponto de Vista: Em vez de um frame de mundo fixo, as ações são representadas no frame da câmera. Para cada passo de tempo de difusão $t$, uma pose de câmera $C_t$ é gerada.
  • Âncoras: A trajetória é ancorada entre uma visão global ampla ($C_T$) e uma visão centrada no alvo ($C_0$) derivada diretamente da ação de keyframe $a_0$.
  • Interpolação: Poses intermediárias $C_t$ são geradas via interpolação linear para posição e Interpolação Esférica Linear (SLERP) para orientação entre $C_T$ e $C_0$.
• Processo de Ruído: A ação alvo $a_0$ é transformada para o frame da câmera $C_t$ para criar uma ação dependente do ponto de vista $\hat{a}_0$. Ruído Gaussiano é adicionado para criar uma ação ruidosa $\hat{a}_t$.
• Objetivo: Um codificador visual e uma rede de previsão de ruído são treinados para prever o ruído $\epsilon$ dada a observação $O_t$ (renderizada de $C_t$) e a ação ruidosa $\hat{a}_t$. O modelo aprende a denoise a ação enquanto aprende implicitamente o ponto de vista informativo correspondente.

2. Inferência: Inferência de Ponto de Vista Ativo

No tempo de teste, a política realiza um processo de difusão reversa acoplado:

1. Inicialização: Começa com uma visão global ($C_T$) e uma estimativa de ação ruidosa.
2. Refinamento Iterativo: Em cada passo de denoising $t$:
   • Captura a observação atual $O_t$.
   • Prediz o ruído e atualiza a estimativa da ação no frame da câmera.
   • Transforma a estimativa de ação refinada de volta para o frame do mundo.
   • Reposiciona a Câmera: Computa uma nova pose de câmera $C_{t-1}$, mais centrada no alvo, baseada na estimativa de ação atualizada (usando a mesma lógica de interpolação do treinamento).
   • Captura a nova observação $O_{t-1}$.
3. Execução: Este loop continua até $t=0$, resultando em uma ação final e uma sequência de poses de câmera que resolvem ativamente as oclusões. A política seleciona o rollout com a menor variância nas mudanças de pose da câmera para garantir estabilidade.

Principais Contribuições

1. Framework See2Act: Uma política agnóstica ao ponto de vista que aprende o acoplamento entre ponto de vista e ação ao aproveitar gêmeos digitais e uma estratégia de treinamento inovadora onde as trajetórias de câmera são supervisionadas inteiramente por rótulos de ação.
2. Inferência de Ponto de Vista Ativo: Um mecanismo de tempo de teste que refina iterativamente a pose da câmera do robô e a ação prevista simultaneamente, permitindo que o robô resolva oclusões autonomamente sem etapas de planejamento ou recompensas separadas.
3. Desempenho em Benchmarks:
   • Ravens: Alcançou uma taxa média de sucesso de 91% em quatro novas tarefas com alta oclusão, superando significativamente as baselines de visão fixa, multi-view e apenas zoom.
   • RLBench: Alcançou 81,1% de taxa média de sucesso em nove tarefas, superando políticas de estado da arte 3D e multi-view (ex: RVT-2, PerAct) apesar de usar apenas uma visão 2D ativamente reposicionada por passo.
4. Transferência Zero-Shot Sim-to-Real: Demonstrado em um robô UR10 físico com uma câmera de profundidade montada no pulso. Usando apenas 50 demonstrações coletadas em um gêmeo digital, a política alcançou uma taxa de sucesso de 95% em tarefas reais de pick-and-place com oclusões significativas, sem qualquer ajuste fino no mundo real.

Resultados Experimentais

• Resolução de Oclusão: Nas tarefas do Ravens (ex: bin-picking, put-within-shelf), as baselines de visão fixa (Conv-MLP, Diff-MV) falharam (0% de sucesso). A seleção de visão passiva (Diff-MV-Entropy) alcançou até 64%, mas teve dificuldades com oclusões complexas. O See2Act alcançou até 100% de sucesso, demonstrando que o refinamento ativo iterativo é necessário para descobrir regiões ocultas.
• Comportamento de Busca: Na tarefa bin-search, o See2Act exibiu um comportamento de busca emergente, reorientando a câmera para inspecionar bins alternativos quando o view atual estava vazio, alcançando 100% de sucesso onde as baselines pontuaram 0%.
• Manipulação de Precisão: Na manipulação real de shelf-kitting (que exige tolerância de 1–2mm), o See2Act alcançou 95% de sucesso comparado a 25% para métodos de visão fixa. A capacidade de mover a câmera para perto do alvo durante a denoização forneceu o detalhe geométrico necessário para a inserção de alta precisão.
• Robustez: A política mostrou robustez a poses de câmera iniciais fora da distribuição, com o desempenho caindo apenas marginalmente (8–10%) ao começar de pontos de vista fora da distribuição de treinamento.

Significância e Alegações

O artigo afirma que o See2Act aborda uma lacuna crítica no aprendizado por imitação ao tratar a manipulação como um processo acoplado de refinamento de ação e aquisição de evidência visual.

• Aprendizado Unificado: Demonstra que "onde ver" e "como agir" podem ser aprendidos conjuntamente de dados offline sem anotações explícitas de ponto de vista ou recompensas de aprendizado por reforço para percepção.
• Eficiência: A abordagem alcança desempenho robusto com dados limitados (50 demos) e transfere zero-shot para o mundo real, superando o gap sim-to-real usando observações de profundidade e refinamento de ponto de vista ativo.
• Limitações: Os autores reconhecem que exigir uma nova observação em cada passo de denoising introduz latência, tornando a execução mais lenta que os métodos de visão fixa. Sugere-se como trabalho futuro estender o framework para predição de trajetória densa para manipulação destreza e dinâmica.

O trabalho estabelece que a percepção ativa, quando incorporada diretamente no loop de denoising da difusão, permite que os robôs resolvam a observabilidade parcial de uma forma que métodos de visão fixa, multi-view e de seleção passiva não conseguem.