💬 NLP

How Context Shapes Truth: Geometric Transformations of Statement-level Truth Representations in LLMs

Este artigo fornece a primeira caracterização geométrica de como o contexto transforma vetores de verdade em Grandes Modelos de Linguagem, revelando que o contexto geralmente amplifica a magnitude das representações de verdade enquanto modelos maiores distinguem contextos relevantes de conflitantes primariamente através de mudanças direcionais no espaço de ativação em vez de diferenças de magnitude.

Autores originais: Shivam Adarsh, Maria Maistro, Christina Lioma

Publicado 2026-06-09

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Shivam Adarsh, Maria Maistro, Christina Lioma

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine um Modelo de Linguagem de Grande Escala (LLM) como uma biblioteca gigantesca de vários andares, onde cada livro representa um pensamento ou uma peça de informação diferente. Dentro desta biblioteca, a "verdade" sobre uma afirmação não está escrita em palavras; ela é armazenada como uma seta específica apontando em uma certa direção.

Se o modelo pensa que uma afirmação é verdadeira, a seta aponta para um lado. Se ele pensa que é falsa, a seta aponta para o outro. O artigo que você compartilhou investiga o que acontece com essas "setas da verdade" quando entregamos ao modelo uma peça de informação extra (contexto) para ler antes de responder.

Aqui está a divisão dessas descobertas usando analogias simples:

1. A Jornada de Três Estágios de uma Seta

Os pesquisadores observaram essas setas da verdade enquanto elas viajavam através dos diferentes "andares" (camadas) da biblioteca. Eles encontraram um padrão consistente de três estágios:

O Porão (Camadas Iniciais): Quando o modelo lê a afirmação pela primeira vez, a "seta da verdade" com contexto e a "seta da verdade" sem contexto estão apontando para direções completamente diferentes. Elas são como duas pessoas de costas uma para a outra; elas são ortogonais (em um ângulo de 90 graus). O modelo está apenas processando as palavras brutas, então o contexto extra ainda não fez sentido para a verdade.
O Salão Principal (Camadas Intermediárias): À medida que a informação sobe, as setas subitamente começam a se alinhar. Elas convergem, apontando quase na mesma direção. É aqui que o modelo realmente "entende". Ele processou o significado e, independentemente de haver contexto extra ou não, a ideia central de "verdade" é agora representada de forma semelhante.
O Sótão (Camadas Finais): Nos andares finais, as coisas ficam interessantes. Às vezes, as setas permanecem perfeitamente alinhadas. Outras vezes, elas começam a se afastar novamente. Isso acontece principalmente quando o contexto extra contradiz o que o modelo já "sabe" de seu treinamento. É como se o modelo estivesse tendo um debate interno, fazendo a seta oscilar ou mudar de direção enquanto tenta decidir em qual informação confiar.

2. Aumentando o Volume (Magnitude)

Os pesquisadores também mediram o comprimento dessas setas.

A Descoberta: Quando você adiciona contexto, as setas geralmente ficam mais longas.
A Analogia: Imagine a diferença entre uma afirmação verdadeira e uma falsa como a distância entre duas pessoas em uma sala. Sem contexto, elas podem estar a 1,5 metro de distância. Quando você adiciona contexto, o modelo as empurra para mais longe, talvez para 3 metros. A "separação" entre a verdade e a mentira torna-se mais distinta e fácil de ver. O contexto atua como um holofote que torna a diferença entre o certo e o errado mais clara.

3. Modelos Grandes vs. Modelos Pequenos: Estratégias Diferentes

O artigo descobriu que modelos grandes e pequenos lidam com essa "informação extra" de maneiras diferentes, como dois tipos diferentes de navegadores:

Os Modelos Grandes (ex: LLaMA, Mistral): Esses modelos são como cartógrafos especialistas com mapas enormes. Quando recebem um contexto relevante, eles mudam a direção de sua seta. Eles fisicamente giram para encarar um novo ângulo mais preciso. Eles usam o espaço extra em seu "cérebro" para apontar em uma direção completamente nova para mostrar que entendem a nuance.
Os Modelos Pequenos (ex: Qwen, SmolLM): Esses modelos têm mapas menores. Eles nem sempre podem se dar ao luxo de girar a seta em uma nova direção sem colidir com outras ideias. Em vez disso, eles mantêm a seta apontando aproximadamente na mesma direção, mas a tornam mais longa. Eles sinalizam que entendem o contexto ao "amplificar" o sinal (tornando a seta mais longa) em vez de mudar seu ângulo.

4. Contexto Bom vs. Ruído Aleatório

Os pesquisadores testaram o que acontece quando o contexto é realmente útil versus quando é apenas um lixo aleatório (como uma lista de palavras aleatórias ou um parágrafo embaralhado).

O Resultado: O contexto relevante e útil causa uma reação muito maior nas "setas da verdade" do modelo do que o ruído aleatório.
A Exceção: Se o contexto é contraditório (dizendo ao modelo algo que vai contra seu treinamento), isso causa a maior mudança geométrica de todas. É como se o modelo estivesse em choque; a seta oscila violentamente porque ele tem que reconciliar dois fatos opostos.
O Proble Problema do Texto Jurídico: Curiosamente, quando o contexto era um texto jurídico muito complexo e técnico, os modelos tiveram dificuldade em distinguir o texto do ruído aleatório. As "setas" não se moveram muito. Parece que, quando a linguagem é muito densa e especializada, o modelo não consegue distinguir entre uma pista útil e uma frase aleatória.

Resumo

Em suma, este artigo mostra que, quando um LLM lê uma afirmação com contexto extra, ele não apenas "lê" as palavras; ele altera fisicamente a geometria de seus pensamentos internos.

No início, os pensamentos estão confusos e apontando para todos os lados.
No meio, eles se alinham para encontrar a verdade.
No final, a "seta da verdade" fica mais longa (mais confiante) ou muda de direção (se o contexto for difícil).
Modelos grandes mudam a direção da seta para mostrar que entendem; modelos pequenos mudam o comprimento da seta.

Isso ajuda a entender que a "verdade" em uma IA não é uma chave estática; é uma forma dinâmica que muda dependendo do que a IA está lendo.

Resumo Técnico: Como o Contexto Molda a Verdade

Declaração do Problema

Embora pesquisas anteriores tenham estabelecido que os Grandes Modelos de Linguagem (LLMs) codificam a veracidade de afirmações como direções lineares (vetores) em suas ativações de fluxo residual, a evolução geométrica desses "vetores de verdade" quando informações de contexto são introduzidas permanece inexplorada. Estudos existentes demonstram que a verdade pode ser separada das falsidades no espaço de ativação e que sondas podem generalizar entre configurações, mas não caracterizam como a geometria dessas representações — especificamente sua direção e magnitude — se transforma quando um modelo processa uma afirmação juntamente com um contexto. Esta lacuna é crítica para entender como os LLMs integram informações externas, particularmente em cenários de Geração Aumentada por Recuperação (RAG) e aprendizado em contexto (in-context learning).

Metodologia

Os autores propõem um framework para medir as transformações geométricas dos vetores de verdade induzidas pelo contexto. A configuração experimental envolve quatro LLMs ajustados por instrução (LLaMA-3.1-8B, Mistral-Nemo-12B, Qwen3-4B e SmolLM3-3B) e quatro conjuntos de dados abrangendo diversos domínios (verificação de fatos, jurídico, sinopses de filmes e conflitos de conhecimento sintético).

Procedimento Central:

Construção de Prompts: Para cada afirmação, quatro prompts são gerados variando a [Escolha Selecionada] (apoiando ou refutando a afirmação) e a presença de [Contexto] (com ou sem). O modelo é instruído a gerar uma conclusão começando com um token específico (ex: ")") para garantir uma comparação justa.
Extração de Vetores: Os vetores de verdade são extraídos das ativações do fluxo residual (pós-MLP) na posição do primeiro token gerado. Um vetor de verdade sem contexto ( $v_{k,nc}^{(l)}$ ) e com contexto ( $v_{k,c}^{(l)}$ ) para uma afirmação $k$ na camada $l$ são definidos como a diferença entre as ativações para conclusões verdadeiras e falsas:
$v_{k,nc}^{(l)} = a_{k,True, nc}^{(l)} - a_{k,False, nc}^{(l)}$
$v_{k,c}^{(l)} = a_{k,True, c}^{(l)} - a_{k,False, c}^{(l)}$
Métricas Geométricas: Duas propriedades são medidas para quantificar a mudança:
- Mudança Direcional ( $\theta$ ): O ângulo entre o vetor de verdade com contexto e sem contexto, calculado via similaridade de cosseno.
- Magnitude Relativa: A razão da norma L2 do vetor de verdade com contexto para a norma sem contexto ( $||v_{k,c}^{(l)}||_2 / ||v_{k,nc}^{(l)}||_2$ ). Valores $>1$ indicam uma ampliação da separação entre as representações verdadeiras e falsas.
  O estudo também compara o contexto relevante contra cinco tipos de contexto aleatório/irrelevante (caracteres aleatórios, palavras aleatórias, sentenças incoerentes, texto aleatório da Wikipedia e contextos de datasets embaralhados) para avaliar a sensibilidade à relevância.

Principais Resultados

1. Padrão de Três Fases de Mudança Direcional

Em todos os modelos e datasets, a mudança direcional ( $\theta$ ) segue um padrão consistente de três fases através das camadas:

Fase 1 (Camadas Iniciais): Os vetores de verdade com e sem contexto são aproximadamente ortogonais (alto $\theta$ ), sugerindo representações distintas nos estágios iniciais de processamento.
Fase 2 (Camadas Intermediárias): Os vetores convergem abruptamente, atingindo um $\theta$ mínimo. Isso se alinha ao papel conhecido das camadas intermediárias na codificação semântica e recuperação de conhecimento. Notavelmente, $\theta$ nunca chega a zero, indicando que o contexto sempre deixa uma assinatura geométrica distinta.
Fase 3 (Camadas Posteriores): O comportamento varia. Para alguns datasets, os vetores estabilizam. Para outros (especificamente quando o contexto conflita com o conhecimento paramétrico, ex: ConflictQA-Counter), $\theta$ aumenta novamente, sugerindo o processamento contínuo de sinais conflitantes nas camadas mais profundas.

2. Amplificação da Separação da Verdade

Adicionar contexto geralmente aumenta a magnitude relativa dos vetores de verdade (valores $>1$ ). Isso indica que o contexto amplifica a separação entre as representações verdadeiras e falsas no espaço de ativação. Esse efeito é mais pronunciado nas camadas intermediárias, onde a magnitude relativa frequentemente atinge o pico antes de estabilizar nas camadas posteriores.

3. Tamanho do Modelo e Mecanismos de Sensibilidade

Existe uma divergência significativa entre modelos maiores e menores sobre como codificam a relevância do contexto:

Modelos Maiores (LLaMA, Mistral): Distinguem contexto relevante de irrelevante primariamente através da mudança direcional ( $\theta$ ). O contexto relevante induz mudanças direcionais significativamente maiores em comparação ao contexto aleatório.
Modelos Menores (Qwen, SmolLM): Distinguem contexto relevante de irrelevante primariamente através da escala de magnitude. Enquanto as mudanças direcionais são frequentemente negligenciáveis ou negativas, a magnitude relativa dos vetores de verdade é significativamente maior para o contexto relevante. Os autores hipotetizam que isso se deve a restrições de capacidade representacional em espaços de menor dimensão, tornando a magnitude uma estratégia de codificação mais viável do que direções distintas.

4. Impacto do Conflito de Conhecimento

O contexto que contradiz o conhecimento paramétrico (ConflictQA-Counter) produz maiores mudanças geométricas (tanto maior $\theta$ quanto magnitude) do que o contexto alinhado com o conhecimento paramétrico. Isso sugere que informações conflitantes disparam mudanças geométricas mais fortes e persistentes, potencialmente refletindo a competição entre os caminhos de memória e de contexto.

5. Especificidade de Domínio

Em datasets complexos e de domínio específico como o LegalBench (Lobbying Corporativo), os modelos frequentemente falham em mostrar diferenças geométricas significativas entre contexto relevante e aleatório. Isso correlaciona-se com baixas pontuações de legibilidade Flesch, sugerindo que a linguagem altamente técnica pode sobrecarregar a capacidade do modelo de extrair sinais geométricos significativos que distinguem a relevância.

Significância e Alegações

O artigo afirma fornecer a primeira caracterização geométrica de como o contexto transforma as representações de verdade em LLMs. As descobertas oferecem uma lente teórica para entender o processamento de contexto interno e têm implicações práticas para:

Sistemas RAG: Valores de $\theta$ por camada poderiam servir como sinais diagnósticos para detectar quando um modelo falha em integrar o contexto recuperado (falta de convergência na camada média) ou quando existem conflitos de conhecimento (divergência anormal na camada tardia).
Direcionamento (Steering) de Modelos Menores: A descoberta de que modelos menores dependem de magnitude em vez de direção sugere que técnicas de direcionamento de ativação para esses modelos devem focar na escala de magnitude em vez de intervenções puramente direcionais.

Os autores mantêm uma postura modesta, observando que, embora essas mudanças geométricas sejam significativas, elas nem sempre se traduzem linearmente em mudanças na probabilidade de saída. Eles também reconhecem limitações, incluindo o foco no primeiro token, o uso de datasets apenas em inglês e a natureza específica dos modelos ajustados por instrução estudados.