Resumo Técnico: Raciocínio Latente Autoconsistente (SCOLAR)

1. Declaração do Problema

Embora a escalabilidade "computação-por-desempenho" em modelos de linguagem tenha demonstrado que Cadeias de Pensamento (CoT) mais longas melhoram consistentemente as capacidades de raciocínio, a aplicação desse princípio a Modelos Visão-Linguagem (VLMs) por meio de raciocínio visual latente produziu resultados contra-intuitivos. Métodos existentes que introduzem representações visuais latentes intermediárias durante a geração sofrem de uma degradação sistemática de desempenho à medida que o comprimento da sequência latente aumenta.

O artigo identifica duas causas raiz para esse fenômeno, denominado Colapso do Ganho de Informação:

1. Dependência Autoregressiva: No raciocínio latente tradicional, cada token é gerado com base no anterior. Isso cria uma cadeia de dependência onde a informação visual inevitavelmente decai à medida que se propaga, fazendo com que tokens subsequentes repitam informações existentes em vez de introduzir novo conteúdo semântico.
2. Alvos de Supervisão Sem Significado: Muitos métodos existentes dependem de embeddings de imagem fortemente agrupados (p. ex., $\ge 128\times$) como alvos de supervisão. Os autores demonstram que essas características agrupadas atuam como "marcadores sem significado", fornecendo nenhum sinal além do ruído e falhando em orientar o raciocínio visual eficaz.

Consequentemente, cadeias latentes mais longas nos métodos atuais tornam-se um fardo em vez de um benefício, limitando a escalabilidade do raciocínio visual.

2. Metodologia: SCOLAR

Para abordar o Colapso do Ganho de Informação, os autores propõem o SCOLAR (Raciocínio Latente Autoconsistente). A inovação central é uma mudança de paradigma da geração latente autoregressiva para uma abordagem de geração única e autoconsistente.

Arquitetura

Construído sobre o framework padrão ViT–Projetor–LLM, o SCOLAR introduz um ramo leve de detransformer:

• Entrada: O detransformer recebe os estados ocultos da sequência completa ($H$) do LLM (incluindo raciocínio em texto e o token de gatilho) como entrada.
• Mecanismo: Em vez de gerar tokens latentes um por um, o detransformer gera uma sequência inteira de tokens visuais auxiliares ($A_0$) em uma única passagem forward.
• Autoconsistência: Cada token auxiliar gerado é ancorado independentemente ao espaço semântico visual original (resolução de entrada). Isso quebra a cadeia de dependência autoregressiva, garantindo que cada token introduza informação visual genuína e não redundante.
• Fusão: Os tokens auxiliares são fundidos com os tokens visuais originais por meio de adição residual com portão ($A = V + g(A_0)$), onde um mecanismo de portão controla a força de edição.

Pipeline de Treinamento

O SCOLAR emprega uma estratégia de três estágios de Ajuste Fino Supervisionado (SFT) seguida por Aprendizado por Reforço (RL) para resolver desajustes de distribuição entre treinamento (usando imagens auxiliares de verdade) e inferência (usando latentes auto-gerados):

1. Estágio 1: Pré-treinamento do Detransformer: O detransformer é treinado para reconstruir a diferença entre a imagem de entrada e uma imagem auxiliar de verdade ($\Delta_{aux}$) usando uma função de perda de reconstrução. A espinha dorsal do LLM é congelada durante este estágio para evitar colapso semântico.
2. Estágio 2: Aprendizado do Token de Gatilho: O modelo aprende a decidir autonomamente quando ativar o raciocínio latente. Isso é alcançado por meio de Previsão do Próximo Token (NTP) ponderada, impondo um peso de perda mais alto no token de gatilho <auxiliary> para garantir que o modelo aprenda a invocar o mecanismo quando necessário.
3. Estágio 3: Raciocínio Conjunto com Annealing de Força do Professor: O modelo aprende a raciocinar usando seus próprios tokens auxiliares gerados. Para mitigar o desajuste de distribuição, o processo de treinamento transita gradualmente do uso de características auxiliares de verdade para as auto-geradas (decaimento linear de 1,0 para 0,0 de probabilidade).
4. ALPO (Otimização de Política de Latentes Auxiliares): Como os embeddings auxiliares são contínuos e não podem ser otimizados diretamente por meio de gradientes de política de token discreto padrão (como GRPO), os autores propõem o ALPO. Este método desacopla o raciocínio visual contínuo da política de texto discreta. Durante a simulação (rollout), embeddings auxiliares são gerados e armazenados em cache; durante a atualização do ator, eles são injetados como contexto fixo, e o gradiente de política é computado apenas sobre os tokens de texto discretos. Um componente de recompensa específico ($r_{aux}$) incentiva a ativação correta do gatilho <auxiliary>.

3. Contribuições Principais

1. Identificação do Colapso do Ganho de Informação: O artigo diagnostica sistematicamente a causa raiz da degradação de desempenho nos métodos existentes de raciocínio visual latente, atribuindo-a ao decaimento de informação autoregressiva e ao uso de alvos de supervisão excessivamente agrupados.
2. Framework SCOLAR: Um paradigma único de tiro único usando um detransformer leve que gera tokens visuais auxiliares independentemente ancorados ao espaço visual original, permitindo comprimentos de raciocínio latente verdadeiramente escaláveis.
3. Estratégia de Treinamento: O desenvolvimento de um SFT de três estágios com annealing de força do professor e o novo algoritmo ALPO para lidar com os desafios únicos de otimizar espaços latentes contínuos dentro de um framework de política de token discreto.
4. Validação Empírica: Experimentos extensivos demonstrando que o SCOLAR estende o comprimento aceitável de CoT latente em mais de 30$\times$ em comparação com métodos anteriores, enquanto melhora o desempenho.

4. Resultados Experimentais

Os autores avaliaram o SCOLAR (baseado na espinha dorsal Qwen2.5-VL-7B) contra modelos de código aberto de última geração e sistemas proprietários (GPT-4o, GPT-5.2) em vários benchmarks:

• Raciocínio do Mundo Real: O SCOLAR alcançou desempenho de última geração entre modelos de código aberto.
  • MME-RealWorld-Lite: +14,12% de melhoria sobre a espinha dorsal.
  • V*Bench: Alcançou 83,77%, superando o GPT-4o (67,50%) em mais de 16 pontos percentuais.
  • HRBench4K/8K: Ganhos significativos em tarefas de percepção espacial de alta granularidade.
• Generalização Fora de Distribuição (OOD): No benchmark VisualPuzzles (totalmente ausente dos dados de treinamento), o SCOLAR mostrou forte generalização, particularmente em tarefas de raciocínio espacial e analógico, superando outros modelos de código aberto.
• Escalonamento de Comprimento Latente:
  • Monet e LVR: O desempenho degradou sistematicamente à medida que o comprimento latente aumentava de 3 para 1000 tokens.
  • SCOLAR: O desempenho melhorou continuamente à medida que o comprimento latente aumentava, atingindo o pico na resolução completa (sem agrupamento).
• Análise de Ganho de Informação: Usando resíduos de projeção ortogonal, os autores mostraram que o SCOLAR mantém um alto ganho de informação (aproximadamente 10–30) através de 1000 tokens, enquanto o ganho do LVR colapsa para próximo de zero após 10 tokens, e o ganho do Monet decai monotonicamente.
• Experimentos de Preenchimento Sem Significado: Substituir os tokens latentes do SCOLAR por preenchimento sem significado causou quedas catastróficas de desempenho que aumentaram com o comprimento da sequência, confirmando que o modelo depende do conteúdo semântico genuíno dos tokens, e não apenas de sua presença estrutural.

5. Significado e Alegações

O artigo afirma que o SCOLAR resolve fundamentalmente o gargalo de escalabilidade no raciocínio latente visual. Ao desacoplar a geração de tokens auxiliares das dependências autoregressivas, o SCOLAR prova que "cadeias mais longas" no domínio visual podem de fato produzir "melhor raciocínio", desde que os tokens carreguem semântica visual genuína e não decrescente.

Os autores afirmam que o SCOLAR preenche a lacuna entre pequenos modelos de código aberto e grandes sistemas proprietários, demonstrando que um modelo de 7B com escalamento latente eficaz pode superar modelos fechados significativamente maiores em benchmarks de raciocínio complexo. O trabalho desafia a dependência predominante de características fortemente agrupadas e geração autoregressiva no raciocínio latente, propondo uma nova direção para raciocínio multimodal escalável e autoconsistente.

Limitações Reconhecidas: A abordagem atual depende de dados de imagem de entrada-auxiliar pareados para supervisão, e a otimização do detransformer na fase de RL permanece implícita em vez de explícita. Sugere-se trabalho futuro para explorar configurações não supervisionadas e sinais de gradiente end-to-end explícitos para o espaço visual contínuo.