Resumo Técnico: Uni-Plan – Planejamento com Modelos Multimodais Unificados

Declaração do Problema

Os avanços recentes em Grandes Modelos de Linguagem (LLMs) e Modelos de Linguagem-Visão (VLMs) despertaram o interesse no uso destes para tomada de decisão e planejamento. No entanto, as abordagens existentes dependem predominantemente de raciocínio baseado em texto, onde as entradas visuais são frequentemente processadas apenas na etapa inicial. Essa limitação unimodal restringe a capacidade do modelo de representar com precisamente o estado atual e raciocinar sobre dinâmicas espaciais ou visuais ao longo do processo de planejamento. Além disso, alguns trabalhos tentam integrar imagens invocando ferramentas externas (por exemplo, execução de código para plotagem ou modelos de visão separados para segmentação), mas esses métodos carecem de adaptabilidade e generalização. Ademais, os Modelos Multimodais Unificados (UMMs), que suportam nativamente tanto entradas quanto saídas multimodais, mostraram-se promissores, mas sofrem de uma "maldição do horizonte". Especificamente, eles têm dificuldade em atuar como modelos de dinâmica fiéis, falhando frequentemente em prever observações de próximo estado precisas, particularmente em ambientes estocásticos ou quando efeitos causais precisos são necessários.

Metodologia

Os autores propõem o Uni-Plan, um framework de planejamento que utiliza um único Modelo Multimodal Unificado (UMM) para servir simultaneamente quatro papéis distintos: (i) uma política, (ii) um modelo de dinâmica, (iii) um autodiscriminador e (iv) uma função de valor. O framework é construído sobre o modelo BAGEL, um UMM de código aberto de última geração.

Componentes Principais

1. UMM como um Modelo de Dinâmica: O sistema exige que o modelo preveja a próxima observação visual ($o_{h+1}$) condicionada à observação atual ($o_h$) e a uma ação textual ($a_h$). Embora os UMMs padrão possam realizar edição de imagem básica, eles frequentemente falham em manter a consistência causal em cenários complexos ou estocásticos (por exemplo, rearranjo de objetos com múltiplos resultados válidos).
2. Filtragem Autodiscriminada: Para abordar a imprecisão das previsões de dinâmica, os autores introduzem um novo mecanismo de filtragem. O UMM é treinado conjuntamente para inferência de dinâmica inversa ($P^{-1}_{UMM}(o_h, o_{h+1}) \to a_h$). Durante o planejamento, o modelo gera múltiplas observações candidatas de próximo estado. Ele então opera em modo de dinâmica inversa para inferir a ação que levaria do estado atual para cada candidato. Os candidatos são retidos apenas se a ação inferida corresponder à ação realmente executada. Este processo, combinado com verificações de consistência de contagem de objetos, filtra efetivamente transições alucinadas ou inválidas.
3. Algoritmos de Planejamento:
   • Planejamento de Malha Aberta (Open-Loop): Usado para ambientes totalmente observáveis. A política (um UMM com prompt) propõe ações candidatas, e o modelo de dinâmica realiza o rollout delas. Uma busca em largura (beam search) é realizada no espaço de estados imaginados, onde os estados sucessores são filtrados via filtragem autodiscriminada e pontuados por uma função de valor (um UMM ajustado que prevê os passos restantes até o objetivo).
   • Planejamento de Malha Fechada (Closed-Loop): Usado para ambientes parcialmente observáveis. Inspirado no paradigma de "proposta, simulação e revisão", a política gera múltiplas sequências de ações candidatas. O modelo de dinâmica simula essas sequências até o seu horizonte, e a função de valor seleciona a sequência mais promissora. O agente executa apenas os primeiros $L$ passos, observa o novo estado e replaneja, permitindo a correção contínua por feedback.

Estratégia de Treinamento

Ao contrário de muitos planejadores baseados em VLM que requerem demonstrações de especialistas para ajuste fino, o Uni-Plan é treinado em trajetórias de não-especialistas. Os modelos de dinâmica direta e inversa são ajustados (fine-tuned) em dados de transição, enquanto o componente de política não requer ajuste fino. A função de valor é treinada em dados rotulados para estimar o número de passos até um objetivo.

Principais Contribuições

1. Filtragem Autodiscriminada: Uma técnica inovadora onde o modelo generativo atua como seu próprio discriminador para filtrar previsões de dinâmica inválidas, melhorando significamente a confiabilidade do modelo de dinâmica sem a necessidade de ferramentas de verificação externas.
2. Framework de Planejamento Unificado (Uni-Plan): Um sistema onde um único UMM integra os papéis de política, modelo de dinâmica, autodiscriminador e função de valor, permitindo o planejamento integrado através de conteúdo visual gerado.
3. Desempenho Superior e Escalabilidade: O framework demonstra melhorias substanciais sobre métodos de planejamento baseados em VLM em tarefas de tomada de decisão incorporada (embodied). Ele alcança altas taxas de sucesso sem demonstrações de especialistas e exibe forte escalabilidade de dados, superando VLMs mesmo quando treinados com a mesma quantidade de dados de não-especialistas.

Resultados Experimentais

Os autores avaliaram o Uni-Plan em seis tarefas de tomada de decisão incorporada abrangendo navegação 2D, manipulação e navegação 3D (incluindo FrozenLake, Mini-BEHAVIOR, Language Table, Real World, Active Recognition e Image-Goal Navigation).

• Desempenho: O Uni-Plan alcançou taxas de sucesso quase 30% maiores do que os métodos de planejamento baseados em VLM de código aberto (incluindo variantes de CoT) em todas as tarefas. Ele também igualou o desempenho do poderoso modelo de pensamento do GPT-5 fechado.
• Estudos de Ablação:
  • Modelo de Dinâmica: O BAGEL ajustado serviu como um modelo de dinâmica altamente generalizável, superando significativamente modelos treinados do zero em layouts fora da distribuição (OOD).
  • Filtragem: A filtragem autodiscriminada mostrou-se crítica; a remoção dela levou a uma queda significativa nas taxas de sucesso do planejamento, confirmando que melhores algoritmos de busca não podem compensar um modelagem de transição pobre.
  • Eficiência de Dados: O Uni-Plan atingiu um desempenho sólido com apenas 500 trajetórias, enquanto os baselines de VLM falharam em alcançar resultados competitivos mesmo com quatro vezes mais dados.
• Eficiência: Ao usar um único modelo para gerar imagens em vez de vídeos (como no Planejamento de Linguagem de Vídeo), o Uni-Plan alcançou um aceleramento de aproximadamente 10× no tempo de inferência em comparação com os baselines de planejamento baseados em vídeo.

Significância e Alegações

O artigo postula que o Uni-Plan representa uma mudança de usar imagens geradas meramente para a visualização de rastros de raciocínio para o uso delas como intermediários para o raciocínio contrafactual. Ao simular múltiplos futuros possíveis sob diferentes ações, o modelo avalia ativamente trajetórias alternativas em vez de apenas expor seu processo de pensamento.

Os autores afirmam que este trabalho estabelece uma base para pesquisas futuras em raciocínio e tomada de decisão com UMMs. Eles destacam que a capacidade de unificar política, dinâmica e funções de valor dentro de um único modelo, reforçada pela filtragem autodiscriminada, oferece uma abordagem mais robusta e eficiente em termos de dados para a IA incorporada do que os atuais paradigmas centrados em texto ou dependentes de ferramentas. O trabalho sugere que as capacidades inerentes de geração multimodal dos UMMs, quando devidamente aproveitadas, podem fortalecer significativamente o desempenho do raciocínio visual e do planejamento.