PRISM: A Dual View of LLM Reasoning through Semantic Flow and Latent Computation

Título: PRISM: Uma Visão Dual do Raciocínio de LLMs através de Fluxo Semântico e Computação Latente

1. O Problema

Os Grandes Modelos de Linguagem (LLMs) resolvem problemas complexos gerando traços de raciocínio multi-etapa (Chain-of-Thought). No entanto, a análise atual desses traços é limitada a duas perspectivas isoladas:

1. Visão Externa (Semântica): Analisa a sequência de tokens gerados ao longo das etapas de raciocínio.
2. Visão Interna (Implícita): Analisa os vetores de estado oculto (hidden-states) através das camadas do modelo dentro de uma única etapa.

A lacuna fundamental é a falta de um quadro unificado que caracterize o raciocínio simultaneamente em sua dinâmica estrutural interna e sua progressão semântica externa. Métricas agregadas de precisão (acerto/erro final) não revelam como o modelo chegou à resposta, ocultando falhas como "overthinking" (pensar demais), comprometimento prematuro ou loops de verificação improdutivos.

2. Metodologia: O Framework PRISM

O PRISM (Probabilistic Reasoning Inspection through Semantic and Implicit Modeling) é um framework e ferramenta de diagnóstico que modela as trajetórias de raciocínio como processos estruturados, unindo duas etapas:

• Etapa Explícita (Fluxo Semântico):

  • Modela o raciocínio como uma sequência de transições entre quatro categorias semânticas principais:
    1. SR (Setup & Retrieval): Configuração e recuperação de informações.
    2. AC (Analysis & Computation): Análise e cálculo.
    3. UV (Uncertainty & Verification): Incerteza e verificação.
    4. FA (Final Answer): Resposta final.
  • Utiliza uma Cadeia de Markov (de ordem $m$) para modelar as probabilidades de transição entre essas categorias ao longo do tempo (etapas de geração).

• Etapa Implícita (Regimes Computacionais):

  • Analisa a estrutura computacional interna dentro de cada etapa de raciocínio.
  • Utiliza Modelos de Mistura Gaussiana (GMM) específicos para cada categoria semântica para agrupar os vetores de estado oculto (projetados via PCA) em "regimes computacionais latentes" ($z$).
  • Cada regime representa um padrão de ativação específico nas camadas do Transformer.

• Matriz de Ponte (Cross-Step Bridge):

  • Componente crucial que conecta as duas etapas.
  • Uma matriz $J$ modela como o regime de saída da etapa anterior ($t-1$) influencia o regime de entrada e a categoria da etapa atual ($t$).
  • Isso permite capturar dependências entre a dinâmica interna (camadas) e a transição externa (semântica).

• Treinamento:

  • O modelo é treinado através de um procedimento Expectation-Maximization (EM) em duas fases: primeiro ajustando os GMMs sem a matriz de ponte, e depois refinando conjuntamente os parâmetros e a matriz de ponte para maximizar a verossimilhança conjunta.

3. Contribuições Principais

1. Framework Unificado: Primeira abordagem a integrar explicitamente o fluxo semântico de tokens com a computação latente de estados ocultos em um único modelo probabilístico.
2. Diagnóstico de Falhas: Identificação de padrões sistemáticos em trajetórias de raciocínio falhas que não são visíveis apenas pela precisão final.
3. Análise de Prompting: Capacidade de avaliar como mudanças no prompt alteram não apenas a precisão, mas a estrutura interna do raciocínio (transições semânticas e regimes computacionais).

4. Resultados e Descobertas Chave

O PRISM foi avaliado em quatro modelos de raciocínio de código aberto (incluindo Bespoke-Stratos-7B, OpenThinker-7B, Qwen3-1.7B) e quatro benchmarks (MATH-500, AIME-2024, GPQA-Diamond, WebInstruct).

• Dinâmica Semântica de Falhas:

  • Trajetórias falhas tendem a entrar mais facilmente na fase de Verificação (UV), mas têm dificuldade em retornar à Computação (AC). A verificação torna-se um "estado pegajoso" que estagna o progresso.
  • O tempo esperado para chegar a uma resposta final é de cerca de 22 passos, independentemente do papel semântico atual.

• Padrões de Falha Distintos (Overthinking vs. Comprometimento Prematuro):

  • Falhas Longas (Overthinking): O modelo atinge uma resposta candidata cedo, mas continua a revisitar e alterar a resposta repetidamente (loops de verificação improdutivos).
  • Falhas Curtas (Comprometimento Prematuro): O modelo chega à resposta final tarde e para o raciocínio logo após a primeira aparição de uma resposta, sem verificação adequada.

• Estrutura Interna Diferenciada:

  • Raciocínios corretos e incorretos exibem regimes computacionais latentes distintos, especialmente nas camadas iniciais e finais do Transformer durante etapas de verificação.
  • Regimes específicos (ex: Regime 4 na camada final) são mais frequentes em passos de verificação incorretos.

• Impacto do Prompting:

  • Prompts que exigem concisão fragmentam o raciocínio, reduzindo loops de auto-computação e aumentando transições para verificação.
  • Prompts que incentivam exploração de múltiplos caminhos aumentam o ciclo bidirecional entre computação e verificação, evitando loops estagnados e melhorando a estrutura do raciocínio.

5. Significado e Impacto

O PRISM representa um avanço significativo na interpretabilidade de LLMs:

• Mudança de Paradigma: Move o foco da avaliação baseada apenas no resultado final (acerto/erro) para uma análise processual e estrutural.
• Ferramenta Prática: Permite que pesquisadores e engenheiros diagnostiquem por que um modelo falha (ex: está preso em um loop de verificação? Está comprometendo cedo demais?) e ajustem estratégias de treinamento ou inferência.
• Otimização de Prompting: Oferece uma métrica para avaliar a eficácia de prompts não apenas pela acurácia, mas pela qualidade da "arquitetura" do raciocínio gerado.

Em suma, o PRISM fornece uma lente dupla para observar o "pensamento" das máquinas, tornando comportamentos complexos de raciocínio observáveis, analisáveis e, potencialmente, otimizáveis.