Resumo Técnico: Formalizando Pensamentos Latentes: Quatro Axiomas da Representação de Pensamento em LLMs

Declaração do Problema

O campo do raciocínio de Grandes Modelos de Linguagem (LLMs) está se deslocando cada vez mais de tokens discretos de Cadeia de Pensamento (CoT - Chain-of-Thought) para representações latentes contínuas (ex: Soft Thinking, Latent Thinking) para melhorar a eficiência e a capacidade de raciocínio. No entanto, a avaliação dessas "representações de pensamento contínuas" é fundamentalmente falha. As metodologias atuais dependem quase exclusivamente da precisão de tarefas downstream (ex: taxas de aprovação em benchmarks) para julgar a qualidade representacional. Essa abordagem confunde a qualidade da representação interna com a capacidade geral do modelo de decodificar ou processar essa representação. Consequentemente, falhas representacionais são mascaradas pela precisão downstream; um modelo pode alcançar pontuações altas em benchmarks enquanto seus "pensamentos" internos falham em codificar fielmente os passos de raciocínio necessários ou em distinguir entre instâncias distintas da mesma tarefa.

Há uma carência de:

1. Uma definição principada do que propriedades funcionais uma representação de pensamento válida deve possuir.
2. Um protocolo de avaliação intrínseco que meça a qualidade da representação independentemente da precisão da tarefa downstream.
3. Uma compreensão clara do status atual dos métodos candidatos, dado que há relatos de que tokens de raciocínio latente são frequentemente desnecessários para previsões ou falham em implementar buscas estruturadas no espaço latente.

Metodologia

Os autores propõem um framework de avaliação axiomático que caracteriza as representações de pensamento com base em quatro propriedades funcionais, definidas independentemente de qualquer processo de decodificação downstream. O framework trata a representação de pensamento ($T$) como um estado funcional latente que media a transformação de um espaço de entrada ($X$) para um espaço de saída semântica ($S$).

Os Quatro Axiomas

O framework define quatro axiomas, cada um com uma medida quantitativa computada diretamente no LLM de origem sem retreinamento:

1. Causalidade: $T$ deve substituir funcionalmente o prefixo de raciocínio explícito ($y_{pre}$) dentro do grafo computacional do modelo.

   • Métrica: Erro de Substituição KL. Medido substituindo os embeddings de tokens de $y_{pre}$ pelo projetado $T$ e calculando a divergência de Kullback-Leibler (KL) entre a distribuição de continuação original $P(y_{suf} | y_{pre})$ e a distribuição intervencionada $P(y_{suf} | T)$. Valores mais baixos indicam melhor causalidade.

2. Minimalidade: $T$ deve comprimir a entrada enquanto retém máxima relevância para a distribuição de saída, aderindo ao princípio do Gargalo de Informação (Information Bottleneck). Deve filtrar variáveis de incômodo (contexto irrelevante) presentes na entrada.

   • Métrica: Gap de Minimalidade ($\Delta_{IB}$). Um substituto de entropia cruzada para o Lagrangiano do Gargalo de Informação em $\beta=2$. É calculado como $\Delta_{IB} = CE(X | Y, T) - CE(Y | T)$. Valores mais altos indicam uma representação que é suficiente para a saída, mas adiciona o mínimo de informação residual sobre a entrada além do que a própria saída já provê.

3. Separabilidade: $T$ deve possuir estrutura topológica suficiente para distinguir entre distribuições de saída semanticamente não equivalentes. Deve ser capaz de diferenciar entre duas questões distintas dentro da mesma tarefa (grão fino) e entre diferentes tarefas (grão grosso).

   • Métrica: Acurácia do Discriminador. Um discriminador binário treinável é treinado para alinhar $T$ com uma sequência de saída candidata. A acurácia é medida em pares da mesma tarefa (grão fino) e pares de tarefas distintas (grão grosso).

4. Estabilidade: $T$ deve ser invariante a variações lexicais de superfície (paráfrase) e robusto à estocasticidade de amostragem (colapso de modo). Deve codificar os parâmetros da distribuição semântica $P(S|x)$ em vez de uma única realização.

   • Métrica: Pontuação de Consistência Distribucional (DCS). O AUROC de um probe que prevê se os outputs de beam de uma questão abrangem múltiplas classes de equivalência semântica (entropia semântica $H_x > 0$).

Configuração Experimental

• Candidatos: O estudo audita diversos candidatos a representação, incluindo estados ocultos do Último Token de Entrada (LIT), Soft Thinking (com e sem ruído Gumbel) e Latent Thinking, através de vários "orçamentos de pensamento" (1 a 128 passos).
• Modelos: Cinco LLMs de pesos abertos abrangendo diversas arquiteturas e paradigmas de treinamento: Llama-3.1-8B, Llama-3.3-70B (Dense/Instruct), DeepSeek-R1-Distill-Qwen-32B (Reasoning-distill), Skywork-OR1-32B (Native RL) e GPT-OSS-20B (Sparse MoE).
• Tarefas: 23 tarefas de raciocínio do dataset Big Bench Extra Hard (BBEH), cobrindo raciocínio espacial, QA factual, puzzles lógicos e outros.
• Protocolo: As avaliações são realizadas no LLM de origem usando um backbone de 1B congelado para o probing, garantindo que as métricas sejam desacopladas do tamanho do modelo de origem e do desempenho downstream.

Principais Resultados

A aplicação deste protocolo intrínseco revela um "colapso representacional" que a precisão de benchmarks downstream falha em detectar:

1. Nenhum Candidato Satisfaz Todos os Axiomas: Nenhum candidato a representação avaliado satisfaz simultaneamente Causalidade, Minimalidade, Separabilidade e Estabilidade.
2. Falha de Separabilidade (Identidade por Questão): Embora as representações distingam de forma confiável entre diferentes tarefas (acurácia cross-task está próxima da saturação), elas falham em distinguir entre diferentes instâncias da mesma tarefa (acurácia same-task). Quase todos os candidatos (exceto Output Embeddings) performam no nível ou próximo da linha de base aleatória para discriminação de mesma tarefa. Isso indica que as representações latentes perdem a identidade específica de questões individuais, colapsando caminhos de raciocínio distintos em vetores indistinguíveis.
3. Competitividade do Embedding de Entrada: O próprio embedding do prompt de entrada é competitivo com, e frequentemente superior aos candidatos a representações de pensamento em todos os quatro eixos. Isso sugere que as representações latentes atuais codificam pouca informação além do que já está presente no embedding de entrada.
4. Falha Estrutural: O padrão de falha é consistente entre famílias de modelos densos, destilados para raciocínio e treinados via RL. Aumentar o número de passos de pensamento (ex: em Soft Thinking ou Latent Thinking) não resolve o colapso; em alguns casos, o desempenho degrada conforme o número de passos aumenta.
5. Causalidade vs. Entrada: Nenhuma representação de pensamento fornece consistentemente mais informação causal do que o embedding de entrada sozinho. Substituir o prefixo de raciocínio pelo $T$ resulta em uma distribuição de continuação indistinguível de substituir pelo embedding de entrada, implicando que $T$ não adiciona sinal causal único.

Significância e Alegações

O artigo afirma fornecer um meio principado para desenvolver e auditar candidatos a representações de pensamento como objetos de estudo, avaliados pelo que um LLM codifica sobre um problema, em vez da qualidade de raciocínio downstream de qualquer cadeia subsequente.

• Resolução Diagnóstica: O framework permite que pesquisadores atribuam mudanças na precisão downstream a propriedades representacionais específicas (ex: uma queda em Separabilidade) em vez de pontuações agregadas de benchmarks que obscurecem a causa raiz.
• Alvos de Otimização: As quatro medidas fornecem alvos de otimização explícitos e quantificáveis para pesquisas futuras, indo além de proxies heurísticos como orçamentos de tokens ou imitação de CoT explícito.
• Insight Estrutural: Os achados sugerem que a lacuna entre os métodos atuais de raciocínio latente e o pensamento funcional ideal é estrutural, e não meramente uma função do tamanho do modelo ou de procedimentos de treinamento específicos (como RL ou destilação). A geração atual de representações latentes falha em implementar a busca estruturada e específica de instância necessária para um raciocínio robusto.

Os autores posicionam este framework como ortogonal à avaliação de benchmarks de raciocínio, oferecendo uma camada necessária de análise para entender a mecânica interna de modelos de raciocínio antes que eles possam ser confiavelmente aprimorados. O código e o pipeline de avaliação foram disponibilizados publicamente para facilitar auditorias e desenvolvimentos futuros.