More Thought, Less Accuracy? On the Dual Nature of Reasoning in Vision-Language Models

Título: Mais Pensamento, Menos Precisão? Sobre a Dual Natureza do Raciocínio em Modelos Visão-Linguagem

1. O Problema: A Natureza Dual do Raciocínio Multimodal

O artigo investiga uma contradição fundamental no desenvolvimento recente de Modelos Visão-Linguagem (VLMs) com capacidades de raciocínio avançado (treinados via Aprendizado por Reforço, como GRPO). Embora o raciocínio passo a passo tenha demonstrado sucesso em tarefas complexas (como matemática e código), os autores descobrem que, em tarefas visuais, o aumento do comprimento do raciocínio pode degradar o desempenho.

• A Descoberta Principal: Existe uma "natureza dual" no raciocínio multimodal. Enquanto as etapas iniciais melhoram a inferência lógica, o prolongamento excessivo do processo de pensamento leva a uma perda de precisão perceptiva.
• Fenômeno de "Esquecimento Visual" (Visual Forgetting): A análise detalhada revela que, à medida que o modelo gera mais tokens de raciocínio, sua atenção aos tokens visuais (a imagem de entrada) diminui drasticamente. O modelo passa a depender excessivamente de seu histórico de pensamento e padrões textuais, ignorando a evidência visual.
• Evidência Empírica: Em benchmarks como MMStar e HallusionBench, a precisão cai significativamente em etapas tardias do raciocínio. A análise de erros mostra que mais de 55% dos erros em modelos de raciocínio são erros de percepção (ex: leitura incorreta de gráficos, alucinações visuais), e muitos desses erros poderiam ser evitados se o modelo parasse de raciocinar mais cedo ("Early Decision").

2. Metodologia Proposta: VAPO (Vision-Anchored Policy Optimization)

Para mitigar o esquecimento visual e garantir que o raciocínio permaneça ancorado na evidência visual, os autores propõem o VAPO, um algoritmo de otimização de política que modifica o processo de treinamento por reforço.

• Geração de Afirmações Visuais (Visual Claims): O sistema utiliza um LLM (GPT-5) para gerar um conjunto de afirmações factuais sobre a imagem de entrada. Essas afirmações são balanceadas (metade correta, metade incorreta) e independentes da pergunta original, forçando o modelo a verificar a imagem diretamente.
• Âncoras Visuais (Visual Anchors): Durante o processo de raciocínio do modelo, essas afirmações são inseridas como "âncoras" em pontos estratégicos do trajeto de geração. O modelo é solicitado a julgar a veracidade de cada afirmação (sim/não) antes de continuar.
• Recompensa de Percepção (Perception Reward): O VAPO introduz uma nova função de recompensa que avalia a capacidade perceptiva do modelo em cada âncora.
  • A recompensa é uma agregação ponderada das pontuações de todas as âncoras.
  • Ênfase Tardia: O algoritmo aplica um peso maior às âncoras que ocorrem nas etapas finais do raciocínio (controlado pelo hiperparâmetro $\beta$), pois é nesses momentos que o esquecimento visual é mais crítico.
• Objetivo de Treinamento: O modelo é otimizado não apenas para acertar a resposta final (recompensa de precisão), mas também para manter uma alta taxa de acerto nas verificações visuais intermediárias. Isso força o modelo a reter e consultar a imagem visualmente ao longo de todo o processo de pensamento.

3. Contribuições Chave

1. Identificação da Natureza Dual: O trabalho é o primeiro a sistematicamente demonstrar que o raciocínio em VLMs possui um efeito colateral negativo: melhora a lógica, mas prejudica a percepção visual à medida que o comprimento aumenta.
2. Diagnóstico do Esquecimento Visual: Atribui a queda de desempenho ao "esquecimento visual", comprovado através da análise da queda na atenção aos tokens visuais e da alta taxa de erros de percepção em respostas longas.
3. Solução de Treinamento (VAPO): Propõe um método de otimização de política que integra verificações visuais diretamente no processo de treinamento, superando soluções de inferência (como "replay visual" ou prompts de foco) que são computacionalmente custosas e não corrigem a deficiência comportamental subjacente.
4. Novo Estado da Arte (SOTA): O modelo resultante, VAPO-Thinker-7B, estabelece novos recordes em benchmarks diversos, demonstrando que é possível ter raciocínio longo sem sacrificar a precisão visual.

4. Resultados Experimentais

Os autores avaliaram o VAPO-Thinker-7B (baseado no Qwen2.5-VL-7B) em 10 benchmarks, cobrindo tarefas matemáticas, lógicas e gerais.

• Desempenho Geral: O modelo superou os melhores modelos de raciocínio de código aberto (como Vision-R1 e VLAA-Thinker) e competiu com modelos proprietários (como GPT-5-Thinking).
  • Benchmarks Gerais: Atingiu 63.1% de precisão média (vs. 59.9% do melhor baseline anterior), um ganho de 3.2%.
  • Benchmarks Matemáticos: Atingiu 51.1% de precisão média (vs. 49.1% do baseline), um ganho de 2%.
• Eficiência em Tarefas Visuais: O ganho foi particularmente pronunciado em tarefas intensivas em visão (como MMStar e HallusionBench), onde o modelo demonstrou uma forte resistência ao esquecimento visual.
• Análise de Atenção: Gráficos mostram que, ao contrário dos baselines onde a atenção visual cai para níveis negligenciáveis no final do raciocínio, o VAPO mantém uma atenção visual consistente e elevada ao longo de todo o processo.
• Ablação: Estudos mostraram que o uso de mais âncoras (K=20) e o foco em etapas tardias ($\beta=1.5$) são cruciais para o sucesso. O método também funcionou bem em tarefas de múltiplas imagens.

5. Significado e Impacto

Este trabalho é fundamental para o futuro dos VLMs porque:

• Desafia o Dogma do "Test-Time Scaling": Questiona a suposição de que "mais pensamento" sempre leva a "melhores resultados" no contexto multimodal.
• Solução Prática: Oferece uma solução de treinamento (VAPO) que é computacionalmente eficiente (adição mínima de custo em relação ao GRPO padrão) e eficaz, eliminando a necessidade de intervenções pesadas durante a inferência.
• Confiabilidade e Segurança: Ao garantir que o raciocínio permaneça ancorado na evidência visual, o VAPO reduz alucinações e aumenta a confiabilidade dos modelos em aplicações críticas onde a precisão visual é essencial (ex: diagnóstico médico, análise de segurança, robótica).

Em resumo, o artigo demonstra que para VLMs, a qualidade do raciocínio não é apenas sobre a profundidade lógica, mas sobre a manutenção contínua do vínculo com a percepção visual. O VAPO é a chave para desbloquear o verdadeiro potencial do raciocínio multimodal sem sacrificar a precisão.