Resumo Técnico: A Verdade Está Algures no Meio (dos Tokens Gerados)

Declaração do Problema

Em modelos de linguagem autoregressivos (LLMs), os estados ocultos são gerados sequencialmente sob mascaramento causal, o que significa que a representação de cada token depende do prompt e de todos os tokens gerados anteriores. Surge uma questão metodológica crítica: como devem esses estados ocultos distribuídos temporalmente ser colapsados numa única representação vetorial que reflita com precisão o estado semântico interno do modelo?

Trabalhos anteriores sobre codificadores bidirecionais tipicamente empregam pooling médio ou pooling do último token. No entanto, em configurações autoregressivas, a simples média demonstrou ter desempenho pobre porque mistura estados ocultos calculados sob contextos desiguais. Consequentemente, as abordagens existentes frequentemente dependem da seleção de um único token (por exemplo, o último token) ou do treino de modelos com objetivos específicos para melhorar a qualidade dos embeddings. Permanece incerto se a informação semântica em modelos autoregressivos pré-treinados padrão está localizada numa posição específica de token ou distribuída ao longo da trajetória de geração, e se o pooling médio pode produzir representações semânticas superiores sem treino adicional.

Metodologia

Os autores avaliam a qualidade semântica das representações derivadas de tokens gerados medindo a sua alinhamento a espaços de referência em três domínios distintos: visão-linguagem, raciocínio e estruturas de proteínas.

Métrica de Avaliação: Alinhamento de Kernel

A métrica central é o Alinhamento de Kernel Centralizado (CKA), especificamente a versão desviesada para evitar artefatos de inflação. Os autores comparam a estrutura de similaridade (kernel) induzida pelos embeddings do modelo de linguagem contra um kernel de referência construído a partir de estruturas semânticas de verdade fundamental:

• Visão-Linguagem: Os kernels de referência são derivados de embeddings de imagem (usando DINOv2) correspondentes a legendas de imagens. Um alto alinhamento implica que o modelo coloca legendas de imagens visualmente semelhantes mais próximas umas das outras.
• Raciocínio: Os kernels de referência são derivados de soluções de padrão-ouro para problemas de matemática e ciência.
• Proteína: Os kernels de referência são derivados de embeddings de estrutura de proteína (usando ESM-3).

Configuração Experimental

• Modelos: Os experimentos principais utilizam Qwen3-14B (um Transformer apenas decodificador). Comparações são feitas com OLMo3-7B-Think e gpt-oss-20B.
• Estratégias de Pooling: Os autores comparam o pooling do último token (selecionando o estado final da trajetória) contra o pooling médio de tokens (média dos estados ocultos ao longo de toda a sequência gerada).
• Análise de Mistura: Para determinar se a informação semântica está localizada ou distribuída, os autores constroem combinações convexas de embeddings de segmentos distintos de tokens (por exemplo, primeiro, meio e últimos terços da geração) e avaliam o alinhamento através do simplex resultante.
• Condições de Controlo: Os experimentos incluem a desordenação de ordens de tokens, a desordenação de pares imagem-texto e a incorporação de texto gerado por um modelo usando o espaço de embeddings de outro para isolar os efeitos da dinâmica de geração.

Principais Contribuições e Resultados

1. O Pooling Médio de Tokens Gerados Supera a Seleção de Token Único

Contrariamente às limitações observadas em embeddings do lado do prompt, o pooling médio através de tokens gerados produz um alinhamento semântico significativamente superior do que qualquer token individual, incluindo o último token.

• Em tarefas de visão-linguagem, as representações geradas com pooling médio alcançaram uma pontuação de alinhamento de 0,410, comparada a 0,291 para o melhor token único e 0,184 para tokens do prompt.
• Esta melhoria é consistente através de sementes de descodificação, indicando que a estrutura semântica subjacente é estável apesar da variação textual.
• O benefício mantém-se através de diferentes métodos de pooling (o pooling médio supera o pooling por atenção, máximo e melhor-por-token).

2. A Informação Semântica Está Distribuída ao Longo da Geração

O artigo demonstra que a informação semântica não está localizada numa única posição, mas sim distribuída ao longo da trajetória de tokens.

• Efeito de Mistura: Combinações convexas de embeddings de diferentes segmentos de tokens (por exemplo, misturar o primeiro, o meio e os últimos terços) alcançam consistentemente um alinhamento superior ao de qualquer segmento único isoladamente.
• Granularidade: Este benefício de "mistura" persiste mesmo quando os segmentos de tokens são subdivididos recursivamente, sugerindo que diferentes partes da geração carregam informação semântica complementar.
• Generalização de Domínio: Este fenómeno é observado não apenas em tarefas de visão-linguagem, mas também em raciocínio (Math-500, GPQA) e tarefas de estrutura de proteína, indicando que é uma propriedade geral da geração autoregressiva.

3. Tokens Gerados vs. Tokens de Prompt

Uma descoberta contra-intuitiva é que as representações derivadas de tokens gerados estão melhor alinhadas do que as provenientes de tokens de prompt, mesmo quando o prompt contém todo o conteúdo semântico.

• As representações de tokens de prompt não beneficiam do pooling médio; a sua média frequentemente dilui a informação devido às limitações do mascaramento causal.
• A geração parece "tornar o mesmo conteúdo semântico mais fácil de recuperar" no espaço de estados ocultos. À medida que o modelo produz uma continuação, os seus estados internos tornam-se melhor alinhados com a estrutura de referência ligada ao prompt original.

4. Fases Representacionais e Dinâmicas do Estado Interno

A trajetória de alinhamento através dos tokens gerados revela fases interpretáveis do comportamento do modelo:

• Fases: O processo de geração exibe fases distintas: preâmbulo genérico, repetição do prompt, recordação e resposta específica da legenda. O alinhamento aumenta à medida que a geração se move de texto genérico para descrições específicas do conteúdo.
• Sondas Causais: Frases genéricas específicas (por exemplo, "Deixe-me recordar o que sei") induzem picos agudos no alinhamento, mesmo antes de aparecer conteúdo relevante para a cena. Isto sugere que tais tokens correspondem a transições no estado interno do modelo em direção à estrutura de referência.
• Especificidade do Modelo: Estas estruturas de fase desaparecem quando um modelo incorpora texto gerado por um modelo diferente. Por exemplo, a trajetória de alinhamento do Qwen3 degrada-se ao processar gerações do OLMo3 se o OLMo3 alucinar factos (por exemplo, identificar incorretamente a localização de uma central elétrica). Isto indica que as dinâmicas observadas estão ligadas ao cálculo interno e consistência específicos do modelo, e não apenas ao texto em si.

5. Profundidade da Camada vs. Dimensão do Token

Enquanto o pooling médio através da dimensão do token melhora o alinhamento, o pooling médio através da profundidade da camada não o faz. A média através das camadas produz um desempenho comparável à melhor camada única (tipicamente a camada final), mas não o supera. Isto contrasta com embeddings do lado do prompt, onde camadas intermédias frequentemente produzem o melhor desempenho.

Significado e Alegações

O artigo alega que os estados ocultos formados durante a geração autoregressiva são melhor colapsados numa representação vetorial através do pooling médio através de tokens, em vez da seleção de um único token. Isto desafia a visão predominante de que o mascaramento causal torna o pooling médio ineficaz para modelos apenas decodificadores.

Os autores argumentam que:

1. Geração como Contexto: A própria continuação do modelo atua como uma fonte de contexto que torna o conteúdo semântico da entrada mais acessível no espaço de estados ocultos.
2. Representação Baseada em Trajetória: A informação semântica em modelos autoregressivos deve ser vista como distribuída ao longo da trajetória de geração, em vez de localizada num único estado oculto.
3. Interpretabilidade: O alinhamento de kernel serve como uma sondagem causal para estados internos do modelo, revelando que saídas específicas de tokens (como frases de "pensamento" ou "recordação") correspondem a transições mensuráveis na geometria representacional do modelo.

O trabalho sugere que, para tarefas que requerem embeddings de texto de alta qualidade a partir de modelos autoregressivos, gerar uma continuação e fazer o pooling médio dos estados ocultos resultantes é um método simples, eficaz e sem treino que supera os embeddings padrão baseados em prompt. No entanto, os autores notam limitações: esta abordagem incorre num custo computacional proporcional ao comprimento da geração e produz representações que são sondas do estado interno em vez de "soft tokens" utilizáveis para geração adicional.