Learning Adaptive Reasoning Paths for Efficient Visual Reasoning

1. O Problema: "Overthinking" e Redundância em Modelos de Raciocínio Visual

Os Modelos de Raciocínio Visual (VRMs) recentes demonstraram capacidades notáveis ao integrar percepção visual com raciocínio linguístico. No entanto, o artigo identifica um problema crítico: o "overthinking" (pensamento excessivo).

• Redundância no Caminho de Raciocínio: Os modelos tendem a gerar cadeias de pensamento (Chain-of-Thought - CoT) longas e desnecessárias para tarefas simples, mesmo quando a resposta poderia ser obtida apenas com percepção visual direta ou conhecimento prévio.
• Causa Cognitiva: O problema não é apenas a falta de eficiência, mas a estrutura cognitiva dos VRMs. Eles frequentemente aplicam o conjunto completo de funções cognitivas (percepção, raciocínio lógico e aplicação da resposta) a todas as tarefas, ignorando que muitas questões visuais não exigem raciocínio lógico complexo.
• Consequências: Isso leva a:
  • Consumo excessivo de tokens (custo computacional elevado).
  • Aumento da latência.
  • Possível degradação da precisão devido a erros acumulados em etapas de raciocínio intermediárias desnecessárias.

2. Metodologia: O Framework AVR

Para resolver isso, os autores propõem o AVR (Adaptive Visual Reasoning), um framework que permite aos modelos selecionar dinamicamente o formato de resposta mais eficiente com base na complexidade da tarefa.

A. Decomposição Funcional

O AVR decompõe o processo de raciocínio visual em três funções cognitivas distintas:

1. Percepção Visual: Extração de informações da imagem (objetos, atributos, texto, relações espaciais).
2. Raciocínio Lógico: Inferência intermediária, dedução, contagem ou raciocínio de senso comum.
3. Aplicação da Resposta: Mapeamento do resultado para o formato final.

Com base nisso, são definidos três formatos de resposta:

• Full Format (Formato Completo): <perception>...<reasoning>...<answer> (Para tarefas complexas).
• Perception-Only Format (Apenas Percepção): <perception>...<answer> (Para tarefas que exigem observação, mas não dedução lógica complexa).
• Direct Answer (Resposta Direta): <answer> (Para tarefas triviais ou baseadas em reconhecimento imediato).

B. Pipeline de Treinamento em Duas Etapas

O modelo é treinado para aprender a selecionar o formato adequado através de duas fases:

1. Stage 1: Supervised Fine-Tuning (SFT) para Entendimento de Formatos:

   • O modelo é ajustado supervisionadamente em um conjunto de dados anotado com os três formatos.
   • O objetivo é ensinar o modelo a gerar respostas corretas em qualquer um dos três formatos, estabelecendo uma inicialização estratégica.

2. Stage 2: Reinforcement Learning (RL) com FS-GRPO:

   • Utiliza-se uma adaptação do Group Relative Policy Optimization (GRPO), chamada FS-GRPO (Format-Selection GRPO).
   • Função de Recompensa: O modelo é recompensado não apenas pela precisão da resposta, mas também pela eficiência do formato escolhido.
     • Recompensa de Formato: Incentiva formatos mais curtos (Direct Answer > Perception-Only > Full) para respostas corretas.
     • Recompensa de Diversidade: Previne o "colapso de formato" (onde o modelo escolhe apenas um formato para tudo), garantindo que o modelo explore e aprenda a usar todos os três conforme necessário.
     • Fator de Escala de Comprimento: Penaliza respostas excessivamente longas.

3. Contribuições Principais

1. Identificação da Redundância: Evidência empírica de que uma grande parcela de perguntas visuais (cerca de 36-68% em amostras analisadas) pode ser resolvida sem raciocínio lógico explícito ou até mesmo sem percepção detalhada, apenas com resposta direta.
2. Framework Adaptativo (AVR): Uma arquitetura que desassocia a percepção do raciocínio e permite a seleção dinâmica do caminho de raciocínio, otimizando o custo computacional sem sacrificar a precisão.
3. Algoritmo FS-GRPO: Uma nova função de objetivo de RL que otimiza conjuntamente a precisão, a eficiência de tokens e a diversidade de formatos, superando métodos heurísticos anteriores.
4. Generalização: O método demonstra eficácia em diferentes escalas de modelos (2B, 4B, 8B) e famílias de modelos (Qwen3-VL e InternVL3).

4. Resultados Experimentais

Os experimentos foram conduzidos em sete benchmarks abrangentes, cobrindo tarefas intensivas em percepção (ex: OCRBench, TextVQA), intensivas em raciocínio (ex: MathVista, MathVision) e tarefas gerais (ex: MMMU).

• Redução de Tokens: O AVR reduziu o consumo de tokens em 50% a 90% em comparação com modelos de raciocínio padrão (Thinking models).
  • Em tarefas intensivas em percepção (como OCRBench), a redução foi superior a 80%, com melhoria na precisão.
• Precisão (Accuracy):
  • O modelo manteve ou melhorou a precisão geral em todos os benchmarks.
  • Em tarefas complexas (MathVista), o modelo continuou a usar o "Full Format" (~70-78% das vezes), garantindo que o raciocínio profundo fosse aplicado quando necessário.
  • Em tarefas simples, o modelo migrou para formatos leves, evitando erros de "alucinação" causados por raciocínio desnecessário.
• Comparação com Baselines: O AVR superou métodos existentes como Think-or-Not (TON) e ARM2, oferecendo melhor equilíbrio entre eficiência e precisão. O TON, por exemplo, usa uma estratégia binária (pensar ou não), enquanto o AVR oferece um espectro de três opções, sendo mais adaptável.

5. Significado e Impacto

O trabalho AVR representa um avanço significativo na eficiência de modelos multimodais:

• Eficiência de Custo: Ao reduzir drasticamente o número de tokens gerados, o AVR torna a inferência de VRMs muito mais barata e rápida, viabilizando aplicações em tempo real e em larga escala.
• Mudança de Paradigma: Desafia a suposição de que "mais raciocínio é sempre melhor". Demonstra que a inteligência artificial deve ser capaz de avaliar a complexidade da tarefa e aplicar o esforço cognitivo adequado (princípio da parcimônia cognitiva).
• Robustez: Ao evitar o raciocínio excessivo, o modelo reduz a propagação de erros em etapas intermediárias, melhorando a confiabilidade em tarefas de percepção pura.
• Futuro: Abre caminho para o desenvolvimento de modelos multimodais "conscientes de tarefa" que ajustam dinamicamente sua profundidade de raciocínio, aproximando-se de uma cognição artificial mais eficiente e humana.

Em resumo, o paper propõe que a eficiência no raciocínio visual não vem apenas de modelos maiores, mas de uma gestão adaptativa do processo de raciocínio, permitindo que o modelo "pense menos" quando possível e "pense mais" quando necessário.