🤖 AI

Subliminal Clocks: Latent Time Modelling in Diffusion Language Models

Este artigo demonstra que os Modelos de Linguagem de Difusão, apesar de carecerem de condicionamento explícito de passo de tempo, codificam internamente uma representação latente decodificável do progresso de denoising dentro de seus fluxos residuais, a qual pode ser manipulada para controlar sistematicamente a confiança e a entropia do modelo. Especificamente, a ativação $h_{n,t}$ refere-se ao estado da camada $n$ no passo de tempo $t$ , onde $n$ denota o índice da camada na rede neural e $t$ representa o passo atual do processo de denoising. A divergência KL não escala linearmente com a distância de $\hat{t}-t$ .

Autores originais: Maximo Rulli (Sapienza University of Rome), Thomas Fontanari (Sapienza University of Rome), Simone Petruzzi (Sapienza University of Rome), Federico Alvetreti (Sapienza University of Rome), Giorgio Str

Publicado 2026-07-03

📖 6 min de leitura🧠 Leitura aprofundada

CC0 1.0

Autores originais: Maximo Rulli (Sapienza University of Rome), Thomas Fontanari (Sapienza University of Rome), Simone Petruzzi (Sapienza University of Rome), Federico Alvetreti (Sapienza University of Rome), Giorgio Strano (Sapienza University of Rome), Donato Crisostomi (Sapienza University of Rome), Giorgos Nikolaou (EPFL), Tommaso Mencattini (EPFL), Andrea Santilli (Independent researcher), Emanuele Rodolà (Sapienza University of Rome), Simone Scardapane (Sapienza University of Rome), Alessio Devoto (Independent researcher)

Artigo original dedicado ao domínio público sob CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine um Modelo de Linguagem de Difusão (DLM) como um mestre escultor trabalhando em uma sala escura. Ao contrário de um escritor tradicional que constrói uma história palavra por palavra da esquerda para a direita, este escultor começa com um bloco de pedra completamente coberto por argila (representado por tokens [MASK]). O trabalho dele é remover a argila, revelando as palavras escondidas por baixo, uma camada de cada vez, até que a estátua final seja revelada.

O grande mistério que este artigo resolve é: O escultor sabe quanta argila resta?

Nos modelos de escrita tradicionais, o computador sabe exatamente quantas palavras já escreveu. Mas nestes modelos de "escultura", o artigo questiona se o modelo possui um "relógio" interno ou um senso de progresso, mesmo sem ter sido explicitamente ensinado a contar.

Aqui está o que os pesquisadores descobriram, explicado de forma simples:

1. O "Relógio Subliminar"

Os pesquisadores descobriram que, embora o modelo não seja informado "Você está 50% concluído", ele mantém o controle secreto de seu próprio progresso. É como um escultor que não tem um relógio de pulso, mas consegue sentir o peso da pedra em suas mãos e instintivamente sabe: "Estou na metade do caminho".

Eles encontraram um sinal oculto dentro do cérebro do modelo (especificamente em seus "fluxos residuais", que são como as vias de pensamento interno do modelo). Este sinal atua como um relógio latente. Para entender como isso funciona tecnicamente, os pesquisadores analisaram as ativações internas do modelo, representadas pela variável $h$ . Neste contexto, $h$ é indexada por dois parâmetros cruciais:

$n$ : Representa a camada da rede neural (ou seja, em qual nível de processamento profundo o modelo está).
$t$ : Representa o passo de tempo ou o estágio atual do processo de difusão (ou seja, quanta "argila" já foi removida).

Este sinal diz ao modelo exatamente quanta "argila" (os tokens mascarados) foi removida e quanto ainda resta, variando conforme o passo de tempo $t$ avança através das diferentes camadas $n$ .

2. Ler a Mente (Sondagem)

Para provar que esse relógio existe, os pesquisadores construíram um "decodificador" simples (uma sonda). Eles observaram os pensamentos internos do modelo em diferentes estágios do processo.

O Resultado: O decodificador conseguiu ler com precisão o relógio interno do modelo. Ele podia dizer, apenas olhando para a ativação do modelo, se ele estava no início (muita argila), no meio ou no fim (quase nenhuma argila restante).
A Analogia: É como ser capaz de olhar para a postura de uma pessoa e saber instantaneamente se ela está apenas começando uma maratona ou se está prestes a cruzar a linha de chegada, mesmo que ela não tenha dito uma única palavra.

3. Hackear o Relógio (Direcionamento)

A parte mais emocionante é que os pesquisadores não apenas leram o relógio; eles o reconfiguraram. Eles descobriram uma direção específica no cérebro do modelo que corresponde a "tempo" ou "progresso".

O Experimento: Eles empurraram artificialmente o relógio interno do modelo para frente ou para trás.
- Empurrando para Frente: Eles disseram ao modelo: "Você está quase terminando!" (mesmo quando não estava). O modelo tornou-se imediatamente mais confiante, falou com menos hesitação (menor entropia) e agiu como se estivesse pronto para terminar.
- Empurrando para Trás: Eles disseram ao modelo: "Você está apenas começando!" (mesmo quando estava perto do fim). O modelo ficou confuso, menos confiante e começou a questionar suas próprias escolhas.
A Conclusão: Isso prova que o relógio não é apenas uma observação passiva; é um mecanismo de controle. Se você altera o senso de tempo do modelo, você altera como ele se comporta. Notavelmente, o impacto dessa manipulação, medido pela divergência KL (Kullback-Leibler), não escala linearmente com a distância entre o tempo manipulado ( $\hat{t}$ ) e o tempo real ( $t$ ). A relação é mais complexa, indicando que pequenas alterações no "relógio" podem ter efeitos desproporcionais ou não lineares na distribuição de saída do modelo.

4. A Forma do Tempo

Os pesquisadores também observaram a geometria deste "relógio". Eles descobriram que o modelo não representa o tempo como uma nuvem desordenada e caótica. Em vez disso, ele organiza o tempo em uma curva muito limpa e suave (como uma parábola).

A Analogia: Imagine o entendimento de tempo do modelo como o trilho de uma montanha-russa. À medida que o processo de denoising avança, o estado interno do modelo desliza suavemente ao longo deste trilho. Os pesquisadores descobriram que quase toda a informação sobre "o quão longe estamos" se encaixa nesta única trilha de baixa dimensão.

5. O Mecanismo de Autocorreção

Uma das descobertas mais legais é que o modelo é inteligente o suficiente para corrigir erros.

Se os pesquisadores mexeram no relógio nas camadas iniciais do modelo (no "início" do processo de pensamento), o modelo frequentemente se "corrigia" à medida que a informação passava pelas camadas mais profundas. Ele percebia: "Espera, me disseram que estou na linha de chegada, mas na verdade ainda estou no meio", e ajustava seu estado interno de volta à verdade.
No entanto, se eles mexessem no relógio nas camadas finais, o modelo não conseguia se corrigir, e o comportamento mudava permanentemente.

Resumo

Este artigo revela que os Modelos de Linguagem de Difusão possuem um senso interno oculto de "quanto trabalho resta a fazer".

Eles têm um relógio: Eles codificam seu progresso em seus estados cerebrais internos, onde o índice de tempo $t$ e o índice de camada $n$ definem o estado de ativação $h$ .
Podemos lê-lo: Podemos medir esse progresso com precisão.
Podemos controlá-lo: Ao ajustar esse relógio interno, podemos tornar o modelo mais ou menos confiante, com efeitos na divergência KL que não são estritamente lineares em relação à magnitude da manipulação temporal.
É estruturado: Esse "tempo" é organizado em uma forma geométrica limpa e previsível dentro do cérebro do modelo.

Essencialmente, o modelo é como uma pessoa caminhando por um túnel que sabe exatamente quão longe está da luz, mesmo que ninguém tenha lhe dito a distância. Os pesquisadores encontraram a parte do cérebro que detém esse conhecimento e mostraram que podiam girar o botão para mudar como a pessoa se sente em relação à jornada.

Resumo Técnico: Relógios Subliminares: Modelagem de Tempo Latente em Modelos de Linguagem de Difusão

Declaração do Problema

Modelos de Linguagem de Difusão (DLMs) emergiram como uma alternativa promissora aos modelos autorregressivos, gerando texto ao remover progressivamente tokens mascarados em vez de prevê-los sequencialmente. Diferente dos modelos de difusão padrão que são explicitamente condicionados a uma variável de passo de tempo $t$ , os DLMs tipicamente não recebem um input explícito de passo de tempo durante a inferência. Isso levanta uma questão fundamental sobre seus mecanismos internos: Os DLMs representam internamente o progresso do processo de denoising (desruído), e se sim, como essa informação é codificada e utilizada?

Embora a fração de tokens não mascarados ( $\tau_t$ ) sirva como um proxy observável para o progresso do denoising, permanece incerto se as representações internas do modelo (fluxos residuais) codificam um sinal latente correspondente a esse progresso, e se a manipulação desse sinal afeta causalmente a geração.

Metodologia

Os autores investigam este fenômeno utilizando dois modelos de difusão mascarada de grande escala: LLaDA-1.5 e Dream. A abordagem deles é estruturada em torno de três questões de pesquisa (RQs) abordadas através de sondagem (probing), direcionamento causal (causal steering) e análise geométrica.

1. Sondagem para o Tempo Latente (RQ1)

Para determinar se o progresso do denoising é codificado, os autores treinam sondas MLP no estado oculto do fluxo residual dos modelos.

Input: Estados ocultos $h_{t,l,n}^j$ de camadas $l$ específicas e posições de token $j$ . Aqui, $t$ representa o passo atual do processo de denoising (ou etapa de inferência), e $n$ denota o índice da amostra dentro do lote (batch) de treinamento ou inferência.
Alvo: O progresso empírico do denoising $\tau_t$ , definido como a fração de tokens não mascarados no passo $t$ .
Configuração: As sondas são treinadas separadamente para cada camada e para diferentes subconjuntos de tokens ([MASK], não-[MASK] e todos os tokens) para testar a localização do sinal.

2. Direcionamento Causal (RQ2)

Para testar a importância causal do sinal identificado, os autores empregam o direcionamento por vetor de ativação média.

Extração de Sinal: Eles computam vetores de ativação média $\mu_{t,l}$ para cada passo de denoising $t$ e camada $l$ , através da média dos estados ocultos entre os exemplos.
Intervenção: Durante a inferência, eles substituem a ativação da camada atual por uma versão perturbada: $\tilde{h}_{t,l}^j = h_{t,l}^j - \mu_{t,l} + \mu_{\hat{t},l}$ , onde $\hat{t}$ é um passo de denoising alvo. Isso desloca o estado interno do modelo em direção à representação de um nível de progresso diferente.
Controle: Eles comparam essas perturbações direcionadas contra perturbações aleatórias amostradas da matriz de covariância empírica com normas correspondentes.
Métricas: Eles medem os efeitos a jusante na entropia, confiança (probabilidade máxima) e divergência KL entre as distribuições de tokens originais e direcionadas.

3. Caracterização Geométrica (RQ3)

Os autores analisam a estrutura do sinal recuperado:

Dimensionalidade: Eles realizam uma Análise de Componentes Principais (PCA) nos vetores médios para determinar a dimensionalidade efetiva da representação de $\tau$ .
Alinhamento entre Camadas: Eles computam similaridades de cosseno entre vetores médios do mesmo passo de denoising através de diferentes camadas para avaliar se existe uma representação unificada em nível de modelo.
Componentes Intra-Camada: Eles examinam como o sinal é representado dentro de componentes específicos da camada (Self-Attention, portão MLP, up-projeção MLP, etc.).

Principais Resultados

1. Existência de um Sinal de Denoising Latente

Precisão da Sonda: Sondas MLP podem prever de forma confiável $\tau_t$ a partir das ativações do fluxo residual em todas as camadas, alcançando $R^2 > 0,5$ na maioria das camadas. O sinal está presente tanto em tokens [MASK] quanto em não-[MASK], embora seja ligeiramente mais forte em tokens [MASK].
Conclusão: Os DLMs codificam internamente um sinal relacionado ao passo de denoising atual, mesmo sem condicionamento explícito de passo de tempo.

2. Impacto Causal na Geração

Modulação Previsível: Direcionar o modelo para um $\hat{t}$ mais alto (mais progresso) aumenta a confiança do modelo e diminui a entropia. Inversamente, direcionar para um $\hat{t}$ mais baixo diminui a confiança e aumenta a entropia.
Divergência KL: A divergência entre as distribuições limpa e direcionada aumenta com a distância $|\hat{t} - t|$ , mas não segue uma relação linear estrita.
Especificidade: Esses efeitos são específicos para a direção de $\tau$ ; perturbações aleatórias da mesma magnitude não produzem tendências coerentes em entropia ou confiança.
Correção de Profundidade: Quando as perturbações são injetadas em camadas iniciais, o modelo compensa progressivamente por elas conforme o processamento avança pelas camadas mais profundas, restaurando o sinal ao seu valor limpo. No entanto, o direcionamento extremo (ex: $\hat{t}=100$ ) é mais difícil de corrigir e pode levar ao colapso da geração (tokens EOS prematuros).

3. Geometria Estruturada de Baixa Dimensionalidade

Baixa Dimensionalidade: A variância dos vetores médios é capturada por um número muito pequeno de componentes principais (frequentemente $<3$ ), com o primeiro componente explicando mais de 90% da variância.
Estrutura de Manifold: A trajetória dos vetores médios através dos passos de denoising forma um manifold estruturado e de baixa dimensão que se assemelha a uma parábola. Esta geometria é consistente entre as camadas no LLaDA e organizada em blocos específicos no Dream.
Consistência entre Camadas: No LLaDA, a maioria das camadas mantém uma representação altamente correlacionada do mesmo passo de $\tau$ , sugerindo uma base compartilhada em nível de modelo. No Dream, a representação é organizada em blocos computacionais distintos.
Anticorrelação de Componentes: Dentro de uma camada, a saída da auto-atenção (self-attention) e a saída do MLP (especificamente os vetores pós-MLP e pós-atenção) exibem uma forte anticorrelação. Eles compartilham uma direção comum, mas apontam em direções opostas, sugerindo um mecanismo onde o modelo pode "cancelar" ou refinar o sinal durante o processamento.

Significância e Alegações

O artigo afirma fornecer a primeira evidência sistemática de que Modelos de Linguagem de Difusão modelam internamente um "relógio" latente representando o progresso do denoising, apesar de carecerem de inputs explícitos de passo de tempo.

Insight Mecanístico: O trabalho revela que a fração de tokens não mascarados não é apenas uma métrica externa, mas é ativamente rastreada e representada dentro do fluxo residual do modelo.
Controlabilidade: O sinal identificado é causalmente relevante; direcioná-lo permite a modulação previsível da confiança e da entropia do modelo, demonstrando que a "noção" de progresso do modelo é um subspace manipulável.
Regularidade Estrutural: A descoberta de um manifold parabólico de baixa dimensão compartilhado entre as camadas sugere que os DLMs processam o tempo de denoising de uma maneira geométrica e altamente estruturada, distinta das representações lineares frequentemente encontradas em modelos autorregressivos para outros conceitos.
Mecanismo de Correção: A observação de que perturbações iniciais são corrigidas por camadas mais profundas implica um mecanismo interno robusto para manter a integridade da trajetória de denoising.

Os autores concluem que, embora o sinal seja funcionalmente relevante e estruturalmente organizado, a circuiteria específica que computa ou atualiza essa representação permanece uma questão aberta para trabalhos futuros. Eles alertam que o sinal está emaranhado com as distribuições de tokens (por exemplo, influenciando a probabilidade de EOS) em vez de ser um contador puramente agnóstico ao conteúdo.