💬 NLP

States Hidden in Hidden States: Implicit Discrete State Representations Emerge in LLMs' Hidden States

Este artigo investiga como os Grandes Modelos de Linguagem realizam cálculos estendidos sem o raciocínio explícito de cadeia de pensamento ao formarem e utilizarem Representações de Estados Discretos Implícitos Imperfeitos dentro de seus estados ocultos, enquanto também caracteriza sua formação e identifica sua contribuição para erros computacionais.

Autores originais: Junhao Chen, Shengding Hu, Zhiyuan Liu, Maosong Sun

Publicado 2026-08-05

📖 7 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Junhao Chen, Shengding Hu, Zhiyuan Liu, Maosong Sun

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está assistindo a um mágico tirar um coelho de dentro de um chapéu. Você sabe que o coelho não apareceu do nada, mas você não consegue ver o truque. Por muito tempo, cientistas estudando Inteligência Artificial (IA) estiveram em uma situação semelhante. Eles sabem que esses cérebros de computador gigantes, chamados Modelos de Linguagem de Grande Escala (LLMs), podem fazer coisas incríveis como escrever poemas, resolver problemas matemáticos e conversar como humanos. Mas como eles fazem isso dentro de sua "mente" (que é apenas uma coleção massiva de números e camadas) tem sido um pouco como uma caixa preta.

Para entender este artigo, você precisa saber duas coisas simples. Primeiro, os LLMs funcionam prevendo a próxima palavra em uma frase, uma palavra de cada vez. Segundo, ao fazerem isso, eles criam um "rascunho" temporário de informações chamado estado oculto (hidden state). Pense nesse estado oculto como uma nota mental que a IA faz enquanto está pensando. Geralmente, assumimos que a IA apenas lê toda a pergunta e depois adivinha a resposta. Mas e se, enquanto lê uma longa lista de números, a IA estiver secretamente mantendo um total acumulado em sua cabeça, exatamente como você faz ao somar sua conta de supermercado mentalmente sem escrever nada? Este artigo pergunta: a IA está realmente fazendo essa conta mental ou está apenas adivinhando?

O Truque de Mágica da Matemática Mental

Imagine que você está em uma festa e alguém lhe entrega uma longa lista de números: 17, 38, 32, 87... e pede para você somá-los instantaneamente, sem escrever nada ou dizer os passos em voz alta. A maioria das pessoas teria dificuldade, mas os modelos de IA mais inteligentes do mundo estão começando a ficar muito bons nisso. Eles conseguem olhar para uma sequência de até 15 números e cuspir o total correto imediatamente, sem mostrar o raciocínio.

Este artigo, intitulado "Estados Escondidos em Estados Ocultos" (States Hidden in Hidden States), investiga exatamente como esses modelos de IA realizam esse truque. Os pesquisadores da Universidade de Tsinghua hipotetizaram que esses modelos não estão apenas adivinhando; eles estão construindo secretamente Representações de Estado Discreto Implícito (IDSRs).

Vamos decompor esse termo pomposo. Imagine que a IA é uma equipe de trabalhadores passando um balde de água em uma linha:

Implícito: Eles não estão gritando o número em voz alta (gerando texto).
Estado Discreto: Eles estão segurando um número específico e exato em suas mãos (como "37" após somar 17 e 20).
Representação: Esse número existe como um padrão dentro das camadas internas da IA.

Os pesquisadores queriam provar que a IA está realmente retendo esses números intermediários enquanto lê a lista, em vez de esperar até o final para tentar calcular tudo de uma vez.

O Trabalho de Detetive: Espiando Dentro do Cérebro

Para ver se esse "rascunho mental" realmente existe, os pesquisadores jogaram um jogo de "20 Perguntas" com as camadas internas da IA. Eles usaram uma ferramenta chamada sonda (probe). Pense em uma sonda como um detetive minúsculo e superveloz que pode espiar as notas internas da IA em qualquer momento específico e perguntar: "Em qual número você está pensando agora?"

Eles testaram isso em uma variedade de modelos, desde os menores (como Llama2-7B) até os gigantes (como GPT-4 e Qwen-72B). Eles pediram aos modelos para resolver problemas de adição com anywhere de 2 a 14 números.

O que eles descobriram:

Os Grandes Ficam Maiores: A capacidade de fazer essa matemática mental "emerge" conforme os modelos ficam maiores. Modelos pequenos podem somar dois ou três números, mas assim que a lista chega a oito números, eles falham. Os maiores modelos, no entanto, conseguem lidar com listas de 11 ou até 15 números com uma precisão surpreendente.
A Nota Oculta é Real: Quando os pesquisadores usaram suas "sondas detetives" nas camadas ocultas da IA, descobriram que os modelos estavam de fato mantendo os totais acumulados. Por exemplo, após a IA ler "17 + 24", o estado interno do modelo continha uma representação de "41", mesmo que ela ainda não tivesse dito a palavra "41" em voz alta.
Não é Perfeito: A má notícia é que essa nota mental não é perfeita. À medida que a lista de números fica mais longa, a "nota" fica um pouco nebulosa. Os pesquisadores descobriram que, embora a IA possa manter o número perfeitamente nas primeiras etapas, quando chega ao 15º número, a representação interna começa a perder detalhes. Essa compressão "com perda" (lossy) é o motivo pelo qual até os modelos mais inteligentes às vezes erram a resposta final.

Como a IA Constrói o Número

O artigo também descobriu como a IA constró de esses números, o que é surpreendentemente semelhante ao que os humanos fazem.

Um Dígito por Vez: A IA não calcula o número inteiro de uma só vez. Ela constrói a resposta dígito por dígito, começando pela direita (unidades), depois dezenas, depois centenas. É como somar colunas no papel, mas acontecendo inteiramente dentro do cérebro da IA.
As Camadas "Rasas" vs. "Profundas": A IA possui muitas camadas de processamento. Os pesquisadores descobriram que as primeiras 10 camadas são como a parte "calculadora" do cérebro — elas apenas fazem a matemática bruta. Mas conforme a informação se move para as camadas mais profundas (por volta da camada 10 em diante), a IA começa a misturar o contexto da frase. É como se a calculadora se distraísse com a conversa ao redor dela. Essa mistura é o que causa a "nebulosidade" ou os erros na resposta final.
Linear, Não Mágico: A IA não faz a matemática de uma forma mágica e instantânea. Ela processa a lista em linha reta. Se você tem os números A, B, C e D, ela calcula (A+B), depois pega esse resultado e adiciona C, depois adiciona D. Ela não faz (A+B) e (C+D) separadamente para depois combinar.

O Experimento da "Ponte"

Para provar que a IA estava realmente usando essas notas ocultas e não apenas adivinhando, os pesquisadores fizeram um truque inteligente. Eles construíram uma "ponte" no mecanismo de atenção da IA. Imagine que a IA está lendo uma frase longa, e eles a impediram de olhar para o início da frase, forçando-a a olhar apenas para a última coisa que leu.

Se a IA estivesse apenas adivinhando com base em toda a frase, esse bloqueio a quebraria completamente. Mas a IA ainda conseguiu resolver o problema matemático se pudesse "ver" a ponte (o sinal de adição mais recente). Isso provou que a IA estava carregando o total acumulado de um passo para o próximo, exatamente como um humano faria.

A Conclusão

Este artigo sugere que, quando os modelos de IA gigantes fazem matemática sem mostrar o trabalho, eles estão de fato trabalhando. Eles estão criando "post-its" invisíveis e internos que guardam o total acumulado enquanto leem.

No entanto, há uma pegadinha. Esses post-its não são perfeitos. À medida que a lista de números fica mais longa, as notas ficam um pouco borradas e a IA começa a cometer erros. Os pesquisadores acreditam que, se conseguirmos descobrir como tornar essas notas internas mais claras e menos "com perda", poderemos tornar a IA muito melhor em tarefas de raciocínio complexo, não apenas em matemática.

Por enquanto, sabemos que a IA não é mágica; ela é apenas muito boa em manter uma contagem mental, mesmo que essa contagem às vezes fique um pouco embaçada ao final de uma longa lista.

Resumo Técnico: Estados Escondidos em Estados Escondidos

Declaração do Problema

Grandes Modelos de Linguagem (LLMs) demonstraram capacidades emergentes para realizar cálculos aritméticos, especificamente adições iterativas, sem gerar tokens de cadeia de pensamento (CoT - Chain-of-Thought) intermediários. Embora pesquisas anteriores tenham se concentrado em aritmética binária ou na interpretabilidade geral de tarefas matemáticas, o mecanismo pelo qual os modelos rastreiam resultados intermediários em raciocínios iterativos de múltiplos passos permanece obscuro. Especificamente, não se sabe se os modelos memorizam dados de treinamento, dependem de raciocínio explícito ou formam representações internas de estados intermediários para resolver esses problemas diretamente. Este artigo investiga a hipótese de que os LLMs formam Representações de Estado Discreto Implícito (IDSRs - Implicit Discrete State Representations) em seus estados ocultos para facilitar o cálculo simbólico sequencial.

Metodologia

Os autores empregam uma combinação de geração de conjuntos de dados sintéticos e técnicas de sondagem (probing) para validar a existência e as propriedades das IDSRs.

1. Construção do Conjunto de Dados

Um conjunto de dados sintético de 131.300 problemas de adição e subtração iterativa foi criado. O conjunto de dados inclui:

Comprimento Variável: Sequências variando de 2 a 14 operandos.
Operandos: Inteiros amostrados uniformemente de 1 a 100 (1 a 3 dígitos).
Diversidade de Prompts: Três tipos de prompts foram utilizados: adição padrão, subtração e "prompting" (onde o prompt instrui o modelo a ignorar a fórmula ou responder com um token específico como "apple").
Divisão: Os dados foram particionados em conjuntos de treinamento (80%), validação (10%) e teste (10%) para o treinamento da sondagem.

2. Configuração Experimental

Modelos Avaliados: Uma gama diversificada de modelos de código aberto (ex: Llama2, MiniCPM, Mistral, Qwen, DeepSeek) e de código fechado (ex: GPT-3.5, GPT-4, Claude) foi testada.
Extração de Estados Ocultos: Durante a inferência, estados ocultos ( $H_{i,j}$ ) correspondentes especificamente aos tokens de operador (ex: os sinais de "+") foram extraídos para evitar viés das representações dos operandos.
Mecanismo de Sondagem (Probing): Perceptrons de múltiplas camadas (MLPs) e perceptrons de camada única foram treinados para classificar os estados ocultos. As sondagens previram:
- Sondagem de Número Inteiro: A soma total como um número inteiro.
- Sondagem por Dígito: Dígitos individuais (unidades, dezenas, centenas) da soma intermediária.
Experimentos de Intervenção: Um experimento de "Ponte de Atenção" (Attention Bridge) foi realizado onde máscaras de atenção impediram que tokens subsequentes atendessem a operandos anteriores, forçando-os a depender exclusivamente da informação passada através de um token "ponte" específico (o primeiro sinal de adição).

Principais Descobertas e Resultados

1. Emergência de Computação Implícita

Correlação de Escala: Existe uma forte correlação entre o tamanho do modelo e a capacidade de realizar adição iterativa. Modelos menores (ex: 7B) mostram degradação rápida da precisão conforme o comprimento da sequência aumenta (precisão próxima de zero com 8 operandos), enquanto modelos maiores (ex: 72B, GPT-4) mantêm >50% de precisão para sequências de até 8 operandos e desempenho não nulo para 11+ operandos.
Não-Memorização: A capacidade dificilmente é memorizada, pois o espaço de parâmetros necessário para armazenar todas as somas possíveis de sequências longas ( $O(99^L)$ ) excede a capacidade do modelo, e a tarefa oferece utilidade negligenciável para a otimização do pré-treinamento geral.

2. Existência e Propriedades das IDSRs

Existência: Experimentos de sondagem confirmaram que os estados ocultos nos tokens de operador contêm informações sobre a soma intermediária atual. As precisões de previsão excederam significativamente o acaso aleatório em todos os modelos.
Transmissão com Perda (Lossy): A transmissão das IDSRs não é sem perdas. A precisão cai conforme a sequência progride (ex: de 100% no segundo "+" para 37% no "=" final na Qwen-72B), contribuindo para erros no resultado final.
Linearidade vs. Não-linearidade:
- Camadas Rasas (0–10): As representações são amplamente lineares e agnósticas à tarefa ("rasas-semânticas"). Elas computam valores aritméticos independentemente do contexto específico do prompt (ex: subtração vs. adição).
- Camadas Profundas (>10): As representações transitam para características não lineares ("camadas semânticas"). Estas camadas integram o contexto da tarefa, o que reinicializa a formação da IDSR, mas reduz a resolução em comparação com as camadas rasas.
Formação ao Nível do Dígito: As IDSRs se formam independentemente para cada dígito. A ordem em que os dígitos se tornam previsíveis segue a ordem de cálculo humana (unidades $\to$ dezenas $\to$ centenas), sugerindo que os modelos realizam adição de múltiplos dígitos via adições de dígito único iterativas.

3. Utilização das IDSRs

Processamento Sequencial: Os modelos utilizam as IDSRs sequencialmente em vez de uma forma logarítmica (em árvore). Experimentos de sondagem mostraram que a precisão para uma soma de $n$ números atinge o pico apenas após a precisão para a soma de $n-1$ números ter atingido o seu pico, descartando estratégias de combinação paralela.
Validação da Ponte de Atenção: Quando a atenção direta aos operandos iniciais foi mascarada, os modelos mantiveram uma precisão não trivial se a informação pudesse passar pelo token "ponte". Isso confirma que os modelos dependem do estado intermediário codificado nos tokens de operador para computar os passos subsequentes.

Principais Contribuições

Validação da Hipótese: O artigo fornece evidência empírica de que os LLMs formam Representações de Estado Discreto Implícito (IDSRs) em estados ocultos para realizar aritmética iterativa sem CoT explícita.
Caracterização da Formação: O estudo mapeia a formação das IDSRs através de três perspectivas:
- Por Dígito: Formação independente e sequencial começando pelo dígito menos significativo.
- Por Camada: Uma transição de computação aritmética linear e agnóstica à tarefa em camadas rasas para processamento semântico não linear e consciente do contexto em camadas mais profundas.
- Por Sequência: Propagação de informação ao longo da sequência, onde tokens posteriores utilizam o estado codificado em tokens de operadores anteriores.
Mecanismo de Falha: Os autores identificam que a natureza "com perda" (lossy) da transmissão das IDSRs nos modelos de código aberto atuais é um contribuidor primário para erros de cálculo em sequências longas.

Significância e Alegações

Os autores posicionam este trabalho como uma exploração inicial dos mecanismos internos dos LLMs em relação ao cálculo simbólico e ao raciocínio de múltiplos passos. A significância reside em:

Interpretabilidade: Oferecer um exemplo concreto de como os LLMs realizam "raciocínio iterativo intrínseco" ao rastrear estados discretos, servindo como um passo fundamental para entender capacidades de raciocínio complexas.
Limitações dos Modelos: Destacar que os modelos atuais não são "sem perdas" em seu rastreamento de estado, o que explica por que falham em sequências mais longas, apesar das habilidades emergentes.
Direções Futuras: O artigo sugere que compreender e potencialmente reduzir a perda na geração de IDSRs poderia aumentar as capacidades matemáticas e de raciocínio dos LLMs. Nota-se explicitamente que as descobertas são atualmente validadas em conjuntos de dados matemáticos sintéticos e que a capacidade é uma propriedade emergente dependente da escala do modelo.

O artigo conclui reconhecendo limitações, como a falta de diversidade de tipos de tarefas além da matemática sintética, e chama para pesquisas futuras sobre os fatores que influenciam a resolução da IDSR e a escalabilidade dessas representações entre diferentes tamanhos de modelos.