Information Filtering via Variational Regularization for Robot Manipulation

Resumo Técnico: Filtragem de Informação via Regularização Variacional para Manipulação Robótica

Declaração do Problema
Políticas visuomotoras baseadas em difusão que utilizam representações visuais 3D (por exemplo, nuvens de pontos) alcançaram desempenho de ponta na manipulação robótica. No entanto, esses sistemas empregam tipicamente uma assimetria arquitetônica significativa: um codificador de cena compacto e rico em informações acoplado a um decodificador de remoção de ruído desproporcionalmente grande (como U-Net ou DiT com ~250M de parâmetros). Embora decodificadores grandes aumentem a capacidade do modelo, evidências empíricas sugerem que eles introduzem redundância e ruído irrelevante para a tarefa em blocos de características intermediários. Os autores hipotetizam que essa informação "ruidosa" degrada a tomada de decisão, ainda que as representações internas desses decodificadores permaneçam subexploradas como fonte de limitação de desempenho.

Metodologia
O artigo propõe a Regularização Variacional (VR), um módulo plug-and-play projetado para filtrar adaptativamente o ruído das características intermediárias do decodificador. A metodologia procede em três etapas:

1. Identificação de Ruído: Os autores primeiro validam a presença de ruído por meio de estudos de ablação no momento da inferência.

   • Para arquiteturas U-Net, mascarar aleatoriamente características do backbone durante a inferência frequentemente melhora as taxas de sucesso, indicando que essas características contêm mais ruído do que sinal para tarefas específicas.
   • Para arquiteturas DiT, reduzir a escala ou pular camadas intermediárias (especificamente as camadas 4–8 em um modelo de 12 camadas) melhora similarmente o desempenho, sugerindo que essas camadas introduzem atualizações de características ruidosas.

2. Módulo de Regularização Variacional: Para abordar isso, a VR é inserida após as camadas intermediárias ruidosas (após a etapa final de subamostragem no U-Net e após camadas intermediárias no DiT).

   • O módulo trata as características ruidosas $Z$ como uma variável latente e impõe uma distribuição Gaussiana condicionada ao contexto $p_\theta(\hat{Z}|Z, C)$, onde $C$ é o contexto compacto da cena.
   • Ele prevê uma média $\mu_\theta(Z, C)$ e um desvio padrão $\sigma_\theta(Z, C)$ usando MLPs, modulados pelo contexto por meio de uma camada FiLM.
   • A representação filtrada $\hat{Z}$ é obtida via o truque de reparametrização: $\hat{Z} = \mu_\theta + \sigma_\theta \odot \epsilon$.
   • Um regularizador de divergência KL é adicionado à função de perda para incentivar que a distribuição de $\hat{Z}$ corresponda a uma priori normal padrão, atuando como um gargalo de informação adaptativo.

3. Justificativa Teórica: Os autores fornecem uma fundamentação teórica usando o framework do Gargalo de Informação Variacional (VIB). Eles demonstram que minimizar a função de perda proposta (perda de remoção de ruído + regularizador KL) é equivalente a maximizar o Limite Inferior da Evidência (ELBO) do objetivo do gargalo de informação. Isso garante teoricamente que o módulo filtra informações irrelevantes para a tarefa enquanto preserva sinais críticos para a previsão.

Principais Contribuições

• Descoberta Empírica: O artigo identifica e quantifica que características intermediárias em grandes decodificadores de difusão (U-Net e DiT) frequentemente contêm ruído irrelevante para a tarefa, evidenciado por ganhos de desempenho quando essas características são mascaradas ou puladas na inferência.
• Módulo Novel: A introdução da Regularização Variacional (VR), um gargalo variacional condicionado ao contexto que filtra adaptativamente características intermediárias sem exigir alterações arquitetônicas no backbone.
• Vínculo Teórico: Uma derivação principiante conectando o objetivo da VR ao Gargalo de Informação Variacional, fornecendo garantias teóricas para a filtragem de informação.
• Desempenho de Ponta: O método alcança novos resultados de ponta em múltiplos benchmarks, superando a política base DP3.

Resultados Experimentais
Os autores avaliaram a VR em três benchmarks de simulação (RoboTwin2.0, Adroit, MetaWorld) e em uma implantação no mundo real:

• RoboTwin2.0: A VR melhorou a taxa de sucesso média do DP3-UNet de 56,6% para 63,8% (+7,2) e do DP3-DiT de 62,7% para 67,0% (+4,3).
• Adroit: Usando apenas 10 demonstrações de especialistas, a VR melhorou a SR5 média do DP3-UNet de 68,6% para 73,7% e do DP3-DiT de 70,4% para 73,8%.
• MetaWorld: A VR melhorou consistentemente a SR5 média para ambos os backbones (por exemplo, DP3-UNet de 63,1% para 68,1%).
• Mundo Real: Em uma tarefa de empilhamento de copos, a VR aumentou a taxa de sucesso de 73,3% para 86,7% (+13,4).
• Ablação: Experimentos confirmaram que a injeção de contexto é crítica para o desempenho da VR e que a VR supera outras técnicas de regularização como dropout, redução de largura e Gargalo de Informação vanilla.

Significado
O artigo afirma que, ao tratar o decodificador desproporcionalmente grande não como uma caixa preta, mas como uma fonte de ruído potencial, o desempenho pode ser significativamente aprimorado por meio de filtragem adaptativa. O significado reside em demonstrar que "maior nem sempre é melhor" na manipulação baseada em difusão; em vez disso, modelar e filtrar explicitamente representações intermediárias por meio de um gargalo variacional leva a políticas mais robustas e eficazes. O método é apresentado como uma solução simples, plug-and-play, que melhora a generalização e as taxas de sucesso em diversas tarefas de manipulação e arquiteturas de decodificador.