Resumo Técnico: CAVE – Uma Abordagem Estruturada de Atribuição de Crédito para Raciocínio com Evidências Visuais Fragmentadas

1. Definição do Problema: Raciocínio Visual Fragmentado (FVR)

Embora os Modelos Visão-Linguagem (VLMs) tenham avançado significativamente no raciocínio multimodal geral, eles exibem fragilidade quando as tarefas exigem a integração de informações visuais não locais com priores semânticos baixos. Os autores definem esse desafio como Raciocínio Visual Fragmentado (FVR). No FVR, evidências críticas para a tarefa estão fragmentadas espacialmente e semanticamente fracamente separáveis entre diferentes regiões da imagem.

Os VLMs atuais frequentemente falham nesse cenário porque:

• Percepção Global Grossa: A dependência de representações globais falha em capturar dependências de longo alcance e diferenças locais sutis.
• Viés Verbalizado: Os modelos tendem a enviesar o raciocínio para um subconjunto verbalizado de evidências, produzindo cadeias coerentes, mas visualmente não fundamentadas.
• Propagação de Erros: Erros iniciais na seleção de evidências levam a falhas em cascata nas etapas subsequentes de raciocínio.

Métodos existentes de raciocínio intercalado (por exemplo, "Pensar-com-Imagem") permitem reobservação localizada, mas carecem de supervisão de processo específica da ação. Métodos de recompensa de processo atuais avaliam tipicamente etapas intermediárias com base na melhoria da resposta final ou na qualidade geral da trajetória, falhando em fornecer orientação direcionada para comportamentos específicos de raciocínio, como aquisição de evidências ou foco em regiões.

2. Metodologia: CAVE (Atribuição de Crédito para Evidências Visuais)

Para abordar essas limitações, os autores propõem o CAVE, um método estruturado de recompensa de processo baseado em Otimização de Política Relativa por Grupo (GRPO), projetado para raciocínio visual intercalado.

2.1 Trajetória de Raciocínio Intercalado

O processo de resolução do modelo é modelado como uma trajetória $\tau = \{(M_t, a_t, o_t)\}_{t=1}^{T_\tau}$, onde:

• $M_t$: Estado de contexto multimodal (imagem original, pergunta, histórico, observações locais).
• $a_t$: Ação do assistente (raciocínio textual, chamada de ferramenta de zoom ou resposta final).
• $o_t$: Observação do ambiente (por exemplo, subimagem ampliada).

2.2 Créditos de Processo Estruturados

Diferentemente de recompensas de utilidade de estado único, o CAVE decompõe o valor das etapas intermediárias em três sinais complementares, em nível de ação:

1. Crédito de Atualização de Crença ($c_{bu}$):

   • Objetivo: Medir o progresso em direção à resposta correta.
   • Mecanismo: Calcula o ganho no log-verossimilhança condicional do corpo da resposta de verdade fundamental ($A$) entre o estado $M_t$ e $M_{t+1}$ usando forçamento de professor.
   • Função: Recompensa etapas que movem o estado do modelo mais próximo da resposta correta, restringindo atualizações de estado orientadas à resposta.

2. Crédito de Aquisição de Evidências ($c_{ea}$):

   • Objetivo: Capturar progresso precursor onde pistas visuais críticas se tornam disponíveis antes de serem totalmente integradas à crença da resposta.
   • Mecanismo: Utiliza um conjunto de $K$ unidades de evidência visual textualizadas ($P = \{p_1, ..., p_K\}$) anotadas para a tarefa (por exemplo, "edifício triangular"). Mede o ganho na pontuação de recuperabilidade dessas unidades entre os estados.
   • Função: Recompensa trajetórias que adquirem progressivamente detalhes visuais necessários, distinguindo-as de palpites cegos.

3. Crédito de Controle de Foco Adaptativo ($c_{af}$):

   • Objetivo: Restringir a exploração visual baseada em zoom para equilibrar a cobertura de evidências e o ruído visual.
   • Mecanismo:
     • Estima a incerteza do estado ($u_t$) via entropia dos tokens de resposta.
     • Define uma escala de zoom alvo $\hat{\rho}_t$ com base na incerteza.
     • Controla a recompensa: Uma ação de zoom é recompensada apenas se produzir ganhos positivos de crença ou evidência ($g_t$) E sua escala corresponder à incerteza atual ($1 - |\rho_t - \hat{\rho}_t|$).
   • Função: Incentiva o modelo a selecionar observações locais que induzem progresso de estado, evitando ruído irrelevante.

2.3 Otimização

A recompensa total é uma soma ponderada dos créditos agregados ao nível da trajetória:
$$R_{CAVE}(\tau) = \lambda_{bu}C_{bu}(\tau) + \lambda_{ea}C_{ea}(\tau) + \lambda_{af}C_{af}(\tau)$$
A política é otimizada usando GRPO, calculando vantagens relativas ao grupo com base em $R_{CAVE}$. A otimização é aplicada apenas aos tokens gerados pelo assistente; as observações da ferramenta servem como contexto, mas não participam do gradiente da política.

3. Benchmark: TRACER-Bench

Para permitir avaliação controlada e análise em nível de processo, os autores constroem o TRACER-Bench (Raciocínio de Evidências Cruzadas entre Regiões Resistente a Texto).

• Escopo: 980 amostras de VQA cobrindo quatro cenários:
  1. Navegação com Troca de Regras (VJump): Requer manter o estado através de trocas de regras.
  2. Rastreamento Não Semântico (LT): Rastrear caminhos sem pistas semânticas.
  3. Correspondência Incorporada (Match): Correspondência fina de grade de modelos.
  4. Correspondência de Subimagem de Sensoriamento Remoto (MME-RS): Correspondência de patches em imagens ruidosas do mundo real.
• Característica Chave: Cada amostra inclui um campo de percepção contendo evidências visuais intermediárias chave (textualizadas) usadas para análise offline e computação de recompensa, mas não fornecidas como entrada do modelo durante a inferência.
• Isolamento: O corpus de treinamento está estritamente isolado do conjunto de teste em relação a sementes aleatórias, layouts e instâncias para prevenir vazamento.

4. Resultados Experimentais

Os autores avaliam o CAVE (baseado em Qwen2.5-VL) contra várias linhas de base, incluindo VLMs gerais, modelos orientados a raciocínio e métodos aumentados por ferramentas.

• Desempenho em Visão Fragmentada: O CAVE alcança a melhor média geral de desempenho entre as linhas de base de código aberto comparáveis.
  • No TRACER-Bench, o CAVE-7B melhora a pontuação média em +15,5% sobre o Qwen2.5-VL-7B base.
  • Supera significativamente modelos especializados de raciocínio (por exemplo, ThinkLite-VL, VLAA-Thinker) e métodos assistidos por ferramentas (DeepEyes).
  • Um estudo de ablação ("Apenas Crença") mostra que, embora o ganho de crença da resposta seja eficaz, é insuficiente sem aquisição de evidências e controle de foco, confirmando a necessidade do crédito estruturado de três partes.
• Desempenho Multimodal Geral: O CAVE mantém desempenho competitivo em benchmarks gerais (MMStar, RealWorldQA, HallusionBench, etc.), alcançando resultados no topo ou próximos do topo em 4 de 6 benchmarks. Isso indica que a otimização para exploração de evidências visuais não degrada as capacidades gerais.
• Robustez: O CAVE demonstra degradação de desempenho mais lenta à medida que a profundidade do raciocínio (saltos) e a distância entre regiões aumentam, sugerindo estabilidade aprimorada em dependências de longo alcance.
• Eficiência: O CAVE alcança maior precisão com orçamentos de tokens/ferramentas comparáveis ou inferiores às linhas de base, evidenciado por uma maior "taxa de zoom útil" (proporção de zooms que produzem ganhos positivos).

5. Significado e Alegações

O artigo afirma que o CAVE aborda uma lacuna específica no raciocínio de VLMs: a incapacidade de integrar de forma confiável evidências espacialmente fragmentadas e semanticamente fracas.

• Atribuição de Crédito Estruturada: A contribuição principal é a decomposição do valor do raciocínio intermediário em atualização de crença, aquisição de evidências e controle de foco adaptativo. Isso fornece supervisão direcionada em nível de ação que as recompensas em nível de trajetória existentes ignoram.
• Otimização Orientada a Processo: Os resultados sugerem que os ganhos de desempenho não derivam de escalas de modelo maiores ou formatos de ferramenta específicos, mas da modelagem estruturada do processo de progressão de evidências visuais.
• Generalização: O método melhora o desempenho em tarefas fragmentadas enquanto preserva capacidades multimodais gerais, indicando que a capacidade aprendida de explorar e integrar evidências visuais é transferível.
• Benchmarking: O TRACER-Bench fornece um framework necessário para avaliar o raciocínio de dependência entre regiões com cadeias de evidências intermediárias verificáveis, abordando a falta de análise de evidências de processo em benchmarks existentes como Tunnel Vision ou BabyVision.

Os autores concluem que o CAVE guia efetivamente os modelos a descobrir evidências críticas para a tarefa, atualizar estados de raciocínio e focar em regiões informativas, levando a um raciocínio visual mais robusto sob condições de baixa separabilidade semântica e dependências de longo alcance.