Resumo Técnico: Modelos de Raciocínio Recursivo Generativo (GRAM)

Declaração do Problema

Sistemas neurais de raciocínio futuros enfrentam um desafio central: como implementar computação estendida de forma eficiente. Enquanto grandes modelos autoregressivos escalonam o raciocínio estendendo a geração de sequências (por exemplo, Cadeia de Pensamento), Modelos de Raciocínio Recursivo (RRMs) oferecem uma alternativa ao refinar um estado latente persistente através da aplicação repetida de funções de transição compartilhadas. Esta abordagem desacopla a profundidade do raciocínio da escala de parâmetros e do comprimento da saída.

No entanto, RRMs existentes (por exemplo, HRM, TRM) são fundamentalmente determinísticos. Dado o mesmo input e inicialização, eles seguem uma única trajetória latente e convergem para uma única previsão. Este determinismo colapsa o espaço de caminhos de raciocínio plausíveis em um único atrator, falhando em manter incerteza, considerar hipóteses alternativas ou explorar múltiplas estratégias de solução. Isso é particularmente limitante para problemas com ambiguidade intrínseca, múltiplas soluções válidas ou onde um único caminho de refinamento pode ficar preso em trajetórias de raciocínio subótimas. A questão central abordada é: A computação latente recursiva pode suportar raciocínio probabilístico, generativo e multi-hipótese, preservando a eficiência de modelos recorrentes compactos?

Metodologia: Modelos de Raciocínio Recursivo Generativo (GRAM)

GRAM introduz um framework que transforma o raciocínio latente recursivo em computação probabilística multi-trajetória. Trata o processo de raciocínio como uma trajetória latente estocástica, permitindo que o modelo mantenha múltiplas hipóteses e explore estratégias de solução alternativas.

1. Arquitetura

GRAM modela a distribuição condicional $p_\theta(y | x)$ marginalizando sobre trajetórias de raciocínio latente estocásticas. A arquitetura consiste em um codificador, um núcleo recursivo e um decodificador, organizados em dois loops aninhados:

• Loop Interno (Refinamento de Baixo Nível): Dentro de uma única transição, um componente latente de baixo nível $l$ é refinado $K$ vezes usando uma função determinística $f_L$, condicionada ao estado de alto nível $h$ e ao embedding de input $e_x$.

• Loop Externo (Transição de Alto Nível): O componente de alto nível $h$ é atualizado uma vez por transição. Ao contrário de RRMs determinísticos, GRAM define esta atualização como uma transição estocástica:

  1. Uma atualização determinística $u_t$ é computada: $u_t = f_H(h_{t-1}, l_t; \theta)$.
  2. Um guia estocástico aprendível $\epsilon_t$ é amostrado de uma Gaussiana dependente do estado: $\epsilon_t \sim \mathcal{N}(\mu_\theta(u_t), \sigma^2_\theta(u_t)I)$.
  3. O novo estado é $h_t = u_t + \epsilon_t$.

  Este design permite que o modelo capture incerteza e guie a trajetória via a média $\mu_\theta$, enquanto controla a exploração via a variância $\sigma^2_\theta$. O refinamento de baixo nível permanece determinístico, enquanto a estocasticidade é injetada apenas no estado abstrato de alto nível.

• Estrutura Recursiva: A computação procede através de $N_{sup}$ etapas de supervisão. O estado terminal de uma etapa serve como o estado inicial da próxima, formando uma cadeia recursiva completa.

2. Treinamento

GRAM é treinado usando inferência variacional amortizada para maximizar o Limite Inferior da Evidência (ELBO).

• Formulação de Variável Latente: O modelo marginaliza sobre trajetórias latentes $\tau$. O ELBO é otimizado em relação aos parâmetros generativos $\theta$ e parâmetros variacionais $\phi$.
• Supervisão Profunda: Para fornecer sinais de aprendizado densos, o modelo aplica supervisão profunda sobre $N_{sup}$ etapas consecutivas. Os gradientes são propagados apenas através da transição final de cada etapa de supervisão (backpropagation truncada) para garantir eficiência de memória, servindo como um objetivo substituto para o ELBO completo.
• Geração Condicional: Ao substituir o input por um embedding de condicionamento vazio, o mesmo processo recursivo define um modelo generativo incondicional $p_\theta(x)$.

3. Escalonamento no Tempo de Inferência

GRAM suporta dois eixos de escalonamento:

• Profundidade: Usando Tempo de Computação Adaptativo (ACT), as trajetórias podem terminar em uma profundidade de parada aprendida.
• Largura: O modelo amostra múltiplas trajetórias latentes em paralelo a partir da priori aprendida. Candidatos são selecionados via votação majoritária ou um Modelo de Recompensa de Processo Latente (LPRM), que prevê a qualidade final de uma trajetória a partir de seu estado latente. Isso permite escalar a inferência sem aumentar o comprimento da recursão sequencial.

Contribuições Principais

1. Formulação Probabilística: Os autores formulam o raciocínio recursivo como um processo generativo de variável latente onde as soluções são obtidas marginalizando sobre trajetórias de raciocínio estocásticas, em vez de seguir um único caminho determinístico.
2. Escalonamento Baseado em Largura: O artigo introduz o escalonamento no tempo de inferência "baseado em largura", permitindo melhorias de desempenho amostrando múltiplas trajetórias latentes em paralelo, complementando o escalonamento tradicional baseado em profundidade.
3. Validação Empírica: Os autores fornecem evidências de que esta formulação produz vantagens arquiteturais sobre bases recorrentes e recursivas determinísticas, especificamente em raciocínio estruturado, satisfação de restrições multi-solução e geração incondicional.

Resultados Experimentais

GRAM foi avaliado em tarefas controladas de raciocínio e geração, comparando-se com bases determinísticas (Transformers em Loop, HRM, TRM) e grandes modelos de raciocínio (LRMs) como referências externas.

• Raciocínio Estruturado (Sudoku-Extreme, ARC-AGI): GRAM supera consistentemente as bases recursivas determinísticas. No Sudoku-Extreme, GRAM alcança 97,0% de precisão comparado a 87,4% para TRM e 55,0% para HRM. No ARC-AGI-1, GRAM atinge 52,0%, superando TRM (44,6%) e HRM (40,3%). Os autores atribuem isso à capacidade de explorar diversas trajetórias de raciocínio.
• Tarefas Multi-Solução (N-Rainhas, Coloração de Grafos): Modelos determinísticos sofrem colapso de modo à medida que o número de soluções válidas aumenta. GRAM mantém precisão consistente independentemente da contagem de soluções. Em N-Rainhas 8x8, GRAM alcança 99,7% de precisão e 90,3% de cobertura (soluções válidas únicas encontradas), superando significativamente modelos determinísticos (máximo 36,1% de cobertura) e bases generativas como AR (84,8% de cobertura).
• Geração Incondicional:
  • MNIST Binário: GRAM produz dígitos reconhecíveis com Pontuações de Inception (IS) e FID comparáveis ao D3PM, enquanto a base determinística TRM exibe colapso de modo severo (FID 303,29).
  • Geração de Sudoku: A partir de um tabuleiro vazio, GRAM gera tabuleiros de Sudoku válidos com 99,05% de validade usando apenas 16 etapas de inferência e 10,9M de parâmetros, superando bases D3PM que usam até 1000 etapas e 55,1M de parâmetros.
• Estudos de Ablação: Remover o guia estocástico leva a quedas de desempenho, particularmente em tarefas multi-solução. Remover a estocasticidade inteiramente causa falha completa (0% de precisão), confirmando que os ganhos derivam do framework variacional e não de mera aleatoriedade.

Significado e Alegações

O artigo afirma que GRAM estabelece a recursão probabilística multi-trajetória como um princípio de design para futuras arquiteturas de raciocínio recorrente e recursivo. Ao transformar a recursão determinística em um processo generativo, GRAM permite:

• Exploração Robusta: A capacidade de navegar espaços de problemas complexos e escapar de mínimos locais mantendo múltiplas hipóteses.
• Escalonamento Eficiente: Um novo eixo para escalonamento no tempo de inferência (largura) que contorna os gargalos de latência do escalonamento apenas por profundidade.
• Modelagem Unificada: A capacidade de funcionar tanto como um modelo de raciocínio condicional ($p(y|x)$) quanto como um modelo generativo incondicional ($p(x)$) usando o mesmo mecanismo recursivo.

Os autores notam que, embora GRAM demonstre potencial em raciocínio estruturado e geração, a natureza sequencial da supervisão profunda limita a eficiência de treinamento em comparação com Transformers, representando uma barreira para o escalonamento em direção a modelos de base maiores. Eles também alertam que gerações plausíveis, mas inválidas, poderiam ser confundidas com soluções verificadas em cenários de alto risco, necessitando validação rigorosa e calibração de incerteza.