ProGAL-VLA: Grounded Alignment through Prospective Reasoning in Vision-Language-Action Models

Título: ProGAL-VLA: Alinhamento Fundamentado através de Raciocínio Prospectivo em Modelos Visão-Linguagem-Ação

1. O Problema

Os modelos Visão-Linguagem-Ação (VLA) têm avançado a capacidade de agentes robóticos generalistas, permitindo raciocínio e manipulação em vocabulário aberto. No entanto, avaliações recentes (como no LIBERO-Plus) revelam duas falhas persistentes e críticas:

1. Ignorância Linguística (Language Ignorance): As políticas frequentemente dependem de "atalhos visuais" e priores visuais em vez de seguir a semântica da instrução. Se a instrução muda, mas a cena visual permanece similar, o robô ignora a nova ordem e executa a ação baseada no que vê.
2. Instabilidade Robótica: O controle degrada-se quando o raciocínio semântico perturba a coordenação visuomotora. A maioria dos VLAs funde modalidades através de concatenação superficial, permitindo que o embedding de linguagem modere a visão sem garantir que o objetivo simbólico inferido corresponda a uma entidade acionável real no ambiente 3D. Isso leva a falhas semânticas e físicas.

2. Metodologia: Arquitetura ProGAL-VLA

O ProGAL-VLA propõe uma arquitetura hierárquica que impõe uma verificação explícita de fundamentação (grounding) antes de qualquer ação ser executada. A arquitetura separa o raciocínio e o controle em dois componentes assíncronos, conectados por um "gargalo de verificação".

Componentes Principais:

1. Planejador Prospectivo ($\pi_{slow}$):

   • Recebe a instrução de linguagem ($L$), a observação atual ($O_t$) e a memória temporal ($M_{t-1}$).
   • Gera um sub-objetivo simbólico ($s_t$) (ex: "agarrar a caneca verde").
   • Foca no raciocínio semântico de alto nível, normalizando a variabilidade linguística, mas não determina a localização exata do objeto.

2. Módulo de Estado Fundamentado (GSM - Grounded State Module):

   • Converte observações brutas em uma representação 3D centrada em entidades.
   • Constrói um grafo de objetos 3D ($G_t$) e mantém uma memória temporal ($M_t$) para lidar com oclusões e continuidade.
   • Gera embeddings de entidades ($E_t$) que disparam identidade, pose e aparência, separando-as de características de "patch" 2D.

3. Atenção Cruzada de Alinhamento de Estado (SACA - State Alignment Cross Attention):

   • É o núcleo do gargalo de verificação.
   • O sub-objetivo simbólico ($s_t$) atua como uma query, e as entidades fundamentadas ($E_t$) atuam como keys e values.
   • Produz um embedding de objetivo verificado ($g_t$) que só é passado ao controlador se houver correspondência com uma entidade física no ambiente.
   • Sinal de Ambiguidade: A entropia da distribuição de atenção do SACA serve como um sinal intrínseco de ambiguidade. Alta entropia indica que a instrução não pode ser resolvida para uma única entidade.

4. Política de Ação ($\pi_{fast}$):

   • Recebe apenas o embedding verificado ($g_t$), a observação ($O_t$) e o estado do robô ($q_t$).
   • Crucial: Não recebe a linguagem bruta ($L$) diretamente. Isso força a ação a depender exclusivamente de evidências perceptivas verificadas, eliminando a ignorância linguística.

Função de Perda: Contraste de Alinhamento de Fundamentação (GAC)

• Utiliza uma função de perda contrastiva (estilo InfoNCE) para alinhar tokens de sub-objetivos simbólicos com embeddings de entidades 3D.
• Penaliza consultas que não podem ser verificadas, forçando o planejador a gerar objetivos que correspondam a entidades reais e o GSM a produzir embeddings discrimináveis.

3. Contribuições Chave

1. Gargalo de Verificação Explícito: Introduz um mecanismo arquitetural que impede a execução de ações sem uma correspondência verificada entre a intenção linguística e a estrutura 3D da cena.
2. Detecção de Ambiguidade Calibrada: Utiliza a entropia da atenção do SACA para identificar instruções ambíguas e permitir que o agente solicite esclarecimentos (abstenção), em vez de adivinhar.
3. Fundamentação Teórica: Demonstra teoricamente que o gargalo de verificação aumenta a informação mútua condicional entre linguagem e ação e impõe um limite inferior de InfoNCE no nível de entidades, garantindo robustez.
4. Separação de Responsabilidades: Isola o planejamento simbólico (lento) do controle motor (rápido), permitindo que o sistema seja robusto a perturbações visuais sem sacrificar a sensibilidade à instrução.

4. Resultados Experimentais

Os resultados foram avaliados no LIBERO-Plus e em um novo Custom Ambiguity Benchmark (CAB).

Robustez no LIBERO-Plus:

• Perturbações de Robô: A robustez aumentou drasticamente de 30,3% para 71,5% sob perturbações de calibração e ruído do robô.
• Perturbações de Câmera/Layout: O modelo manteve alta performance (ex: 93,2% em mudanças de câmera vs. 0,8% do OpenVLA base), demonstrando invariância geométrica.
• Ignorância Linguística: Redução de 3x a 4x na taxa de erro de ignorância linguística em instruções simples, espaciais e relacionais.
• Recuperação de Entidades: O Recall@1 para recuperação de entidades melhorou de 0,41 para 0,71.

Benchmark de Ambiguidade (CAB):

• Detecção de Ambiguidade: Alcançou um AUROC de 0,81 (vs. 0,52 do baseline), indicando capacidade superior de distinguir instruções ambíguas de não ambíguas.
• Comportamento de Esclarecimento: A taxa de solicitação de esclarecimento em entradas ambíguas saltou de 0,09 para 0,81, sem prejudicar o sucesso em instruções não ambíguas (que permaneceu em ~0,89).
• Curva de Risco-Cobertura: O modelo manteve um risco de falha estritamente menor em todos os níveis de cobertura, indicando uma incerteza bem calibrada.

5. Significado e Conclusão

O ProGAL-VLA demonstra que a fundamentação explícita e verificada é um caminho eficaz para criar agentes robóticos sensíveis a instruções e cientes de ambiguidades.

• Impacto Prático: Resolve o problema fundamental de "alucinação" em VLAs, onde o robô age baseado em padrões visuais em vez de comandos.
• Eficiência: O custo computacional adicional é baixo (latência total de ~107ms por passo), tornando-o viável para controle em tempo real.
• Generalização: A arquitetura não depende apenas de mais capacidade de modelo, mas de uma melhor estrutura de alinhamento entre símbolos e percepção 3D.

Em resumo, o trabalho estabelece que separar o planejamento simbólico do controle motor através de um mecanismo de verificação de fundamentação é essencial para a estabilidade e confiabilidade de robôs em ambientes do mundo real e dinâmicos.