💬 NLP

A Shared Subcircuit Lets LLMs Count Down Across Tasks

Este artigo identifica um "subcircuito de contagem regressiva" compartilhado no Llama-3.1-70B-Instruct que permite aos modelos de linguagem rastrear os tokens restantes em diversas tarefas, revelando um mecanismo generalizável para estimar o tempo até o objetivo que se transfere entre diferentes modelos e contextos.

Autores originais: Jacob Dunefsky, Wes Gurnee, Emmanuel Ameisen

Publicado 2026-07-15

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Jacob Dunefsky, Wes Gurnee, Emmanuel Ameisen

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está jogando um jogo onde tem que escrever uma frase, mas há uma regra rigorosa: ela deve ter exatamente 10 palavras de comprimento, e a última palavra obrigatoriamente tem que ser "telescópio". Se você escrever 9 palavras, você perde. Se escrever 11, você perde.

Por muito tempo, pensamos que os Grandes Modelos de Linguagem (LLMs) — os cérebros de IA superinteligentes por trás dos chatbots — apenas tentavam adivinhar o caminho para essas tarefas. Mas um novo estudo sugere que algo muito mais organizado está acontecendo dentro da máquina. Os pesquisadores descobriram que a IA possui um pequeno "subcircuito de contagem regressiva" especializado que atua como um cronômetro integrado, contando as palavras restantes até atingir a linha de chegada.

O Cronômetro Escondido

Os pesquisadores começaram instruindo um modelo específico, o Llama-3.1-70B-Instruct, a escrever frases de um comprimento fixo. Eles queriam saber como o modelo sabia quando parar. Ao espiar dentro do "cérebro" do modelo (especificamente observando como ele processa informações camada por camada), descobriram um grupo específico de três cabeças de atenção (pense nelas como pequenos trabalhadores especializados) na camada 18 que são responsáveis por essa contagem regressiva.

Esses três trabalhadores — rotulados como L18H24, L18H28 e L18H30 — não apenas adivinham. Eles realmente medem a distância entre onde a frase está agora e onde ela precisa terminar.

Um trabalhador torna-se ativo cedo na frase.
Outro entra em ação durante o meio.
O terceiro dispara logo no final.

Juntos, eles criam um sinal de "contagem regressiva" suave que se torna mais forte e intenso à medida que o modelo se aproxima da contagem de palavras alvo. É como ter três despertadores diferentes configurados para tocar em momentos diferentes, garantindo que o modelo saiba exatamente quanto tempo (ou, neste caso, quantas palavras) lhe resta.

A Magia da Contagem "Implícita"

Aqui é onde fica realmente legal. Você poderia pensar que essa contagem regressiva só funciona se você disser explicitamente à IA: "Escreva uma frase de 10 palavras". Mas os pesquisadores descobriram que o modelo é mais esperto do que isso.

Eles testaram o modelo com comandos que não forneciam número algum. Em vez disso, deram ao modelo um padrão. Por exemplo, mostraram a ele uma lista de sequências de DNA ou códigos base64, todos exatamente do mesmo comprimento. Ao serem solicitados a continuar a lista, o modelo não precisou de um número; ele simplesmente "deduziu" o padrão. Ele inferiu o comprimento alvo a partir dos exemplos anteriores e usou esse mesmo subcircuito de contagem regressiva para parar no lugar certo.

O estudo sugere que o modelo armazena essa informação de comprimento "invisível" logo ao final das strings anteriores (como uma nota oculta dizendo "A próxima deve ter este comprimento"). Quando o modelo vê o fim de uma string, ele lê essa nota e inicia sua contagem regressiva para a próxima.

Uma Ferramenta Universal Entre Modelos e Tarefas

Os pesquisadores não pararam por aí. Eles usaram uma técnica chamada "sondagem não supervisionada" para ver onde mais essa ferramenta de contagem estava escondida pelo mundo. Eles escanearam quantidades massivas de texto, incluindo artigos de notícias, logs de chat e código, procurando por lugares onde esses trabalhadores específicos estavam operando.

Eles encontraram o subcircuito de contagem regressiva surgindo em todos os tipos de lugares surpreendentes:

Tweets Incorporados: O modelo percebeu que estava lendo um tweet e contou regressivamente até o limite de 280 caracteres, mesmo que o texto não dissesse "tweet".
Tabelas ASCII: Ao formatar uma tabela, o modelo contou os espaços para garantir que todas as colunas tivessem a mesma largura.
Haikus: Ele rastreou a contagem de sílabas para a estrutura 5-7-5.
Hashes SHA: Ele sabia exatamente quando um código de 64 caracteres estava terminado.

Isso sugere que o modelo não está apenas memorizando regras para tarefas específicas; ele possui um "motor de contagem regressiva" de uso geral que reutiliza para quase tudo que exige o rastreamento de um comprimento.

Um Projeto Compartilhado?

Talvez a descoberta mais fascinante seja que isso não é apenas uma peculiaridade do modelo Llama. Os pesquisadores compararam a "geometria" interna (a forma dos dados) deste subcircuito de contagem regressiva com um modelo diferente, o Claude 3.5 Haiku, que foi estudado em uma tarefa diferente (ajustar o texto para caber em uma linha).

Eles descobriram que ambos os modelos usam exatamente a mesma forma matemática para armazenar e processar informações de comprimento. É como se dois fabricantes de carros diferentes, trabalhando em fábricas diferentes, tivessem decidido usar exatamente o mesmo design de motor para seus carros. Isso sugere que este "motivo de contagem regressiva" pode ser um bloco de construção fundamental que muitos modelos de IA descobrem por conta própria quando precisam rastrear tempo ou espaço.

O Que Isso Significa (e O Que Não Significa)

O artigo é cuidadoso ao dizer que eles fizeram engenharia reversa deste comportamento específico. Eles provaram que, se você mexer nos sinais nestas cabeças específicas, o modelo para de contar corretamente. Eles mediram os sinais e observaram os padrões.

No entanto, eles não alegam ter resolvido o mistério de como a IA pensa em geral. Eles estão apenas mostrando que, para o trabalho específico de "saber quando parar", a IA usa uma ferramenta muito específica, reutilizável e surpreendentemente universal. É uma pequena, mas poderosa peça do quebra-cabeça, mostrando que, mesmo no mundo complexo e caótico da IA, existem sub-rotinas organizadas e nítidas que ajudam a máquina a dar sentido ao mundo.

Portanto, da próxima vez que você vir uma IA escrever um haiku perfeito ou formatar uma tabela sem ser instruída sobre quantos espaços usar, lembre-se: em algum lugar profundo, três pequenos trabalhadores na camada 18 estão silenciosamente contando o tempo, garantindo que tudo termine exatamente como deveria.

Resumo Técnico: Um Subcircuito Compartilhado Permite que LLMs Contem Regressivamente Através de Tarefas

Declaração do Problema

Grandes Modelos de Linguagem (LLMs) frequentemente realizam tarefas que exigem o rastreamento de contagens de tokens em relação a um objetivo alvo, como escrever uma frase de um comprimento específico, formatar tabelas ASCII ou encerrar sequências de DNA no códon correto. Embora os LLMs demonstrem proficiência nessas tarefas, os mecanismos internos que permitem o rastreamento da "contagem regressiva de tempo restante" até um comprimento alvo não são totalmente compreendidos. Especificamente, não está claro se os modelos possuem um mecanismo generalizável de contagem regressiva que opera em diferentes contextos (alvos explícitos vs. implícitos) e se esse mecanismo é compartilhado entre diferentes modelos.

Metodologia

Os autores empregaram uma abordagem de baixo para cima (bottom-up) de interpretabilidade mecanística, focando no modelo Llama-3.1-70B-Instruct. A metodologia procedeu em três estágios:

Localização Causal via Patching:
- Tarefa: O modelo recebeu um prompt de "planejamento de sentença": escrever uma sentença de um comprimento especificado ( $N$ ) terminando em uma palavra específica.
- Técnica: Os autores realizaram residual stream patching. Eles construíram prompts "origem" (comprimento alvo $n_{src}$ ) e prompts "destino" (comprimento alvo $n_{dst}$ , onde $n_{dst} > n_{src}$ ). As ativações do token de comprimento alvo e do token de unidade de comprimento do prompt de origem foram injetadas (patched) no prompt de destino em várias camadas.
- Objetivo: Identificar as camadas e tokens específicos onde a informação de comprimento é causalmente suficiente para determinar o comprimento da saída.
Identificação de Cabeças de Atenção:
- Uma vez identificada a camada crítica, os autores analisaram as normas de saída das cabeças de atenção naquela camada, especificamente observando o fluxo de informação do token de unidade de comprimento para os tokens subsequentes.
- Eles examinaram a geometria das representações (chaves e consultas/queries) usadas por essas cabeças para determinar como elas comparam a posição atual contra o comprimento alvo.
Probing Não Supervisionado e Generalização:
- Comprimento Implícito: Os autores investigaram configurações onde o comprimento alvo não era explicitamente declarado, mas inferido do contexto (por exemplo, strings repetidas de mesmo comprimento em Base64 ou sequências de DNA). Eles usaram patching para verificar se delimitadores de término nessas strings armazenavam causalmente informações de comprimento.
- Análise Geométrica: Eles compararam os manifolds geométricos do subcircuito identificado no Llama-3.1-70B contra um subcircuito de "quebra de linha" (line-wrapping) previamente identificado no Claude 3.5 Haiku usando Análise de Componentes Principais (PCA) e similaridade de cosseno.
- Descoberta Não Supervisionada: Usando as ativações de saída dos "cabeças de contagem regressiva" identificados, eles construíram sondas lineares (linear probes). Essas sondas foram executadas em um grande corpus não rotulado (The Pile e o conjunto de dados LMSYS-1M chat) para encontrar exemplos diversos de alta ativação onde o modelo estava contando regressivamente de forma implícita.

Principais Contribuições e Resultados

1. Identificação do Subcircuito de Contagem Regressiva

O estudo isolou com sucesso um subcircuito específico no Llama-3.1-70B-Instruct responsável pelo rastreamento de tokens restantes:

Localização: A informação de comprimento é movida para o "token de unidade de comprimento" começando por volta da Camada 4 e é usada causalmente até a Camada 18.
Cabeças Específicas: Três cabeças de atenção na Camada 18 (L18H24, L18H28, L18H30) foram identificadas como as "cabeças de contagem regressiva".
Mecanismo: Essas cabeças exibem um padrão de campos receptivos sobrepostos. A L18H28 ativa cedo, a L18H24 no meio, e a L18H30 perto do fim. A norma de saída combinada delas atinge o pico imediatamente antes do comprimento alvo, indicando um mecanismo de contagem contínua em vez de um pico súbito no alvo.

2. Armazenamento de Comprimento Implícito e Universalidade

Os autores demonstraram que este subcircuito funciona mesmo quando o comprimento alvo não é fornecido explicitamente no prompt:

Armazenamento Implícito: Em configurações de "strings repetidas" (ex: múltiplas strings Base64 com o mesmo comprimento), o modelo infere o comprimento alvo a partir do contexto. Experimentos de patching confirmaram que os delimitadores de término dessas strings armazenam causalmente a informação de comprimento alvo implícito.
Similaridade de Representação: A análise de similaridade de cosseno revelou que as ativações de chave para comprimentos implícitos (em delimitadores) e comprimentos explícitos (em tokens de prompt) residem em manifolds similares. A relação entre comprimento implícito e explícito é altamente linear ( $0.93 \le r^2 \le 0.97$ ), sugerindo uma representação unificada de informação de comprimento.
Motivo Trans-Modelo: A estrutura geométrica do subcircuito de contagem regressiva (manifolds curvas para chaves e consultas com propriedades de alinhamento específicas) foi encontrada como idêntica ao subcircuito de "quebra de linha" identificado anteriormente no Claude 3.5 Haiku. Isso sugere que o motivo é compartilhado entre diferentes modelos e tarefas.

3. Descoberta Não Supervisionada de Aplicações Diversas

Usando o probing não supervisionado com as saídas das cabeças de contagem regressiva, os autores identificaram uma ampla variedade de tarefas onde este subcircuito está ativo, incluindo:

Tweets Incorporados: Predizer o fim de um tweet de 280 caracteres incorporado em texto de notícias.
Sequências de DNA: Encerrar sequências no códon correto com base em sequências anteriores.
Hashes SHA-256: Detectar o fim de uma string hexadecimal de 64 caracteres.
Geração de Haikus: Rastrear contagens de sílabas e quebras de linha.
Tabelas ASCII: Alinhar células a uma largura específica.
Lançamentos de Moeda e Arredondamento: Rastrear contagens de caracteres ou dígitos em sequências geradas.

Significância e Alegações

O artigo afirma que a engenharia reversa de um subcircuito a partir de uma tarefa única e estreita (planejamento de sentença) permite que pesquisadores entendam como comportamentos específicos se generalizam para um amplo espectro de tarefas e até mesmo entre diferentes modelos.

Generalização: O trabalho demonstra que um único subcircuito é reutilizado tanto para contagem explícita (especificada no prompt) quanto para contagem implícita (inferida pelo contexto).
Mecanismos Compartilhados: A identificação do mesmo motivo geométrico no Llama-3.1 e no Claude 3.5 Haiku sugere que certos primitivos computacionais para rastrear tempo/comprimento são fundamentais e compartilhados entre modelos de fronteira.
Abordagem Metodológica: Os autores propõem um fluxo de trabalho "de baixo para cima" para interpretabilidade mecanística: isolar um subcircuito em uma tarefa controlada, realizar a engenharia reversa de sua geometria e, então, usar probing não supervisionado para mapear seu uso através de todo o espaço operacional do modelo. Eles sugerem que esta abordagem poderia ser automatizada, de forma semelhante à análise de dicionário de características, para descobrir sistematicamente outros comportamentos generalizados em LLMs.

Os autores permanecem modestos, observando que, embora tenham identificado um motivo compartilhado, o trabalho foca nas intervenções causais e na geometria do processamento de comprimento, em vez de alegar ter resolvido todos os aspectos de planejamento ou generalização de LLMs.