💬 NLP

T^2MLR: Transformer with Temporal Middle-Layer Recurrence

O artigo introduz o T^2MLR, uma arquitetura Transformer que aprimora o raciocínio latente ao fundir representações de camadas médias em cache de tokens anteriores em camadas anteriores do token atual, uma abordagem direcionada que supera os baselines padrão e a recorrência de camada total, permitindo simultaneamente a retroajuste eficiente de modelos pré-treinados existentes.

Autores originais: Ziyang Cai, Xingyu Zhu, Yihe Dong, Yinghui He, Sanjeev Arora

Publicado 2026-07-17

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Ziyang Cai, Xingyu Zhu, Yihe Dong, Yinghui He, Sanjeev Arora

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você esteja tentando ensinar um robô superinteligente a resolver um quebra-cabeça difícil. No mundo da inteligência artificial, os robôs mais populares hoje são construídos sobre um design chamado "Transformer". Pense em um Transformer como um leitor muito rápido e muito ávido que processa uma história palavra por palavra. Cada vez que ele lê uma nova palavra, ele tem que esquecer quase tudo sobre seus pensamentos profundos e complexos da palavra anterior e começar do zero, comprimindo todo esse pensamento rico em uma nota minúscula e simples antes de passar para a próxima palavra. Isso é como tentar resolver um problema de matemática enquanto apaga constantemente seu rascunho e escreve apenas a resposta final antes de passar para a próxima etapa. Isso funciona bem para tarefas simples, mas quando o robô precisa manter uma longa cadeia de lógica em sua cabeça — como rastrear um código secreto ou resolver um enigma de várias etapas — ele frequentemente se perde porque não consegue manter seus "pensamentos" vivos entre as etapas.

Cientistas têm tentado consertar isso permitindo que o robô mantenha um "caderno oculto" de seus pensamentos, mas a maioria das tentativas ou torna o robô incrivelmente lento (porque ele tem que reler todo o seu caderno a cada vez) ou o força a escrever seus pensamentos em uma linguagem estranha e invisível que é difícil de treinar. A grande questão é: Podemos dar ao robô uma maneira de manter seu pensamento profundo e abstrato vivo de uma palavra para a próxima sem diminuir sua velocidade ou torná-lo impossível de ensinar? Este artigo introduz um novo truque inteligente chamado T2MLR (Transformers com Recorrência de Camada Intermediária Temporal) que sugere que a resposta é sim, mas apenas se mudarmos onde o robô guarda seus pensamentos.

Os pesquisadores propõem uma nova maneira para esses modelos de IA "lembrarem" de seu processo de pensamento. Em vez de forçar o robô a escrever seus pensamentos profundos em uma nota minúscula no início ou no fim de seu processamento, eles permitem que o robô passe uma "mensagem secreta" do meio de seu cére-braço diretamente para o meio de seu cérebro para a próxima palavra. Imagine uma corrida de revezamento onde, em vez de passar o bastão apenas na linha de partida ou de chegada, os corredores passam uma nota especial uns aos outros bem no meio da pista. Isso permite que o raciocínio complexo e abstrato que acontece nas "camadas intermediárias" da IA persista e evolua conforme o robô lê, sem ter que parar e recalcular tudo do zero.

O artigo descobre que essa abordagem de "camada intermediária" funciona surpreendentemente bem. Quando testaram em tarefas que exigem o rastreamento de estados (como lembrar uma sequência de movimentos em um jogo) ou resolver problemas matemáticos de várias etapas, o novo modelo T2MLR superou consistentemente os modelos padrão de mesmo tamanho. Curiosamente, eles descobriram que você não precisa fazer o robô inteiro lembrar de tudo; apenas deixar um pequeno pedaço das camadas intermediárias (cerca de 20% da rede) passar essas notas de um lado para o outro era frequentemente melhor do que fazer todo o robô percorrer seus próprios pensamentos em loop. Ainda mais emocionante para o mundo real, eles mostraram que você não precisa construir um novo robô do zero para usá-lo. Eles pegaram um robô pré-treinado existente (um modelo de 1,7 bilhão de parâmetros) e simplesmente "enxertaram" este novo sistema de memória de camada intermediária nele. Após apenas um pouco de treinamento extra em problemas matemáticos, este robô atualizado ficou significamente melhor em resolvê-los, saltando de uma taxa de sucesso de 35,8% para quase 40% em um teste, e de 12,8% para 18% em outro.

Os autores sugerem que isso funciona porque o "meio" de um Transformer é onde o raciocínio mais abstrato acontece e, ao permitir que esses pensamentos específicos persistam ao longo do tempo, o modelo pode realizar um "raciocínio latente" muito melhor (pensar sem escrever tudo). No entanto, eles são cuidadosos ao notar que isso traz uma compensação: embora o robô não fique muito mais lento quando está realmente respondendo perguntas (ele adiciona apenas cerca de 8% de trabalho extra por palavra), ele leva mais tempo para ser treinado porque o computador precisa fazer cálculos extras para entender como essas notas de memória devem funcionar. Apesar desse custo de treinamento, os resultados sugerem que o raciocínio eficaz em IA não requer que se percorra todas as camadas do cérebro em loop; em vez disso, um sistema de memória direcionado à camada intermediária pode ser a chave para desbloquear um pensamento mais inteligente e persistente.

Resumo Técnico: T2MLR: Transformer com Recorrência de Camada Intermediária Temporal

Declaração do Problema

Os autores identificam uma limitação fundamental nas arquiteturas Transformer padrão em relação às capacidades de raciocínio. Embora os Transformers se destaquem na recuperação de contexto (in-context retrieval), seu mecanismo de decodificação autorregressiva cria um gargalo de informação. Em cada etapa de decodificação, representações latentes ricas e de alta dimensão são repetidamente comprimidas em um espaço de tokens esparso (vetores one-hot) antes de serem alimentadas como entrada para o próximo passo. Esse processo impede que estados de raciocínio abstrato intermediários persistam através do tempo, forçando o modelo a reconstruir informações necessárias indiretamente via atenção ou através de embeddings de entrada altamente comprimidos.

Abordagens existentes para o raciocínio latente tentam mitigar isso realizando o raciocínio inteiramente no espaço contínuo (frequentemente na camada final) ou propagando a incerteza através de combinações lineares de embeddings de tokens. No entanto, esses métodos tipicamente alimentam sinais recorrentes de volta através do embedding de entrada, contornando as camadas intermediárias onde o raciocínio abstrato é conhecido por ocorrer. Alternativamente, arquiteturas Transformer de "loop" aumentam a profundidade efetiva ao iterar sobre todas as camadas, mas isso acarreta custos de inferência que escalam linearmente com o número de loops, tornando-os impraticáveis para implantação.

Metodologia

O artigo introduz o T2MLR (Transformers com Recorrência de Camada Intermediária Temporal), uma arquitetura inovadora projetada para permitir que representações abstratas intermediárias persistam e evoluam através dos passos de decodificação sem aumentar a profundidade no tempo de inferência.

Design Arquitetural

O T2MLR modifica um decoder-only Transformer padrão de $L$ camadas, introduzindo um caminho recorrente com portão (gated) que conecta uma camada profunda do token anterior a uma camada inicial do token atual.

Limites de Recorrência: A arquitetaura é parametrizada por dois índices de camada, $\ell_{start}$ e $\ell_{end}$ , definindo um bloco "médio" de camadas.
Cache Recorrente ( $R_t$ ): Um vetor de cache de tamanho constante é mantido para cada passo de decodificação $t$ . Ele armazena a representação após a camada $\ell_{end}$ do passo anterior.
Módulo de Fusão ( $\Phi$ ): Antes de processar o token atual na camada $\ell_{start}$ , o modelo funde a representação do token atual ( $h^{(\ell_{start}-1)}_t$ ) com o cache recorrente ( $R_{t-1}$ ) do token anterior. A fusão é governada por um mecanismo de portão aprendível:
$\Phi(h, R) = h + \tanh(\gamma_{cur}) \sigma(f_{cur}([h, R])) \odot h + \tanh(\gamma_{rec}) \sigma(f_{rec}([h, R])) \odot W_{rec}R$
Este design permite que o modelo aprenda quando confiar no fluxo do token atual versus o estado latente acumulado temporalmente.
Atualização do Cache: Após passar pela camada $\ell_{end}$ , o cache recorrente é atualizado usando a nova representação e o cache anterior via uma conexão residual e RMSNorm.

Estratégia de Treinamento: Paralelismo Temporal

Um desafio fundamental para arquiteturas de raciocínio latente é que o treinamento padrão de paralelismo de sequência (paralelismo de token) é interrompido quando existem dependências entre os passos de tempo. Para resolver isso, os autores propõem um esquema de treinamento de paralelismo temporal aproximado usando iterações de ponto fixo de Jacobi:

Em vez do processamento sequencial de tokens, o modelo realiza $d_{forward}$ iterações de refinamento em paralelo.
Ele começa com um cache inicial derivado de uma passagem forward padrão, então funde iterativamente este cache com a representação do token atual, refina o bloco médio e atualiza o cache.
Os gradientes são retropropagados através dessas iterações com uma profundidade truncada ( $d_{backward}$ ), analogamente à Retropropagação através do Tempo Truncada (TBPTT).
Esta abordagem permite que o modelo seja treinado com teacher forcing denso e paralelismo de sequência, uma capacidade que os autores afirmam ser única entre as variantes de cadeia de pensamento (chain-of-thought) contínuas.

Principais Contribuições

Inovação Arquitetural: O T2MLR introduz um caminho recorrente direcionado especificamente nas camadas médias do Transformer, em vez de na embedding de entrada ou na saída final. Isso preserva a interface autorregressiva padrão enquanto permite a persistência do estado latente.
Treinamento Escalável: Os autores demonstram um método para treinar essas dependências recorrentes usando paralelismo temporal aproximado, permitindo o pré-treinamento e ajuste fino em grandes conjuntos de dados sem sacrificar a escalabilidade.
Capacidade de Retrofit (Retrofitting): O artigo mostra que o T2MLR não requer treinamento do zero. O caminho recorrente pode ser inserido em um modelo pré-treinado existente (ex: SmolLM2-1.7B) e ajustado para gerar melhorias significativas no raciocínio.
Eficiência: Diferente dos Transformers de loop, o T2MLR adiciona um overhead negligenciável de inferência (no máximo ~8% por token) porque a recorrência é tratada via um cache de tamanho constante e uma única passagem forward durante a inferência.

Resultados Experimentais

Os autores avaliam o T2MLR através de benchmarks sintéticos, pré-treinamento de linguagem natural e tarefas de raciocínio downstream.

Raciocínio Sintético (S5-Retrieval): O T2MLR supera significativamente tanto os Transformers padrão quanto os LSTMs em uma tarefa que exige rastreamento de estado simultâneo e recuperação de contexto. Enquanto os Transformers falham em sequências longas devido a restrições de profundidade e os LSTMs falham na recuperação devido à compressão de estado fixa, o T2MLR mantém alta precisão.
Pré-treinamento (FineWeb-Edu): Em modelos de 135M de parâmetros, variantes do T2MLR consistentemente igualam ou superam os baselines Transformer de mesmo número de parâmetros em benchmarks de NLP zero-shot (ARC, HellaSwag, etc.). Notavelmente, a recorrência de camada média (looping sobre ~20% das camadas, ex: camadas 13–18) frequentemente supera a recorrência de camada total.
Raciocínio Downstream: Em tarefas como GSM-Aug (matemática), HotPotQA (QA multi-salto) e Variable Assignment, o T2MLR mostra ganhos consistentes sobre os baselines. As variantes de recorrência de camada média novamente superam a recorrência de camada total, sugerindo que a recorrência direcionada é mais eficaz do que o looping global.
Escalabilidade: Os ganhos de desempenho persistem e crescem ao escalar para 361M e 1B de parâmetros e estender o pré-treinamento para 50B de tokens.
Retrofit: Aplicar o T2MLR a um modelo SmolLM2-1.7B-Instruct pré-treinado e realizar ajuste fino em dados matemáticos melhorou a precisão do GSM8K de 35.8% para 39.9% e do MATH500 de 12.8% para 18.0%, demonstrando aplicabilidade prática sem pré-treinamento total.

Significância e Alegações

O artigo postula que o raciocínio latente eficaz em Transformers não requer o looping sobre todas as camadas (o que aumenta o custo de inferência) nem confinar a recorrência à embedding de entrada (o que contorna a computação abstrata). Em vez disso, os autores afirmam que a recorrência direcionada de camada média é suficiente para desbloquear capacidades de raciocínio significativas.

A significância do T2MLR reside em sua capacidade de:

Desacoplar a Profundidade de Raciocínio do Custo de Inferência: Ele introduz um caminho latente temporal que persiste através dos passos de tempo sem a penalidade linear de inferência associada às arquiteturas de loop.
Reduzir a Barreira de Adoção: Ao demonstrar que o T2MLR pode ser retroajustado em modelos pré-treinados existentes, os autores argumentam que capacidades avançadas de raciocínio podem ser adicionadas aos modelos atuais a uma fração do custo de pré-treinar do zero.
Validar Vieses Indutivos: Os resultados sugerem que o "ponto ideal" para a recorrência em Transformers são as camadas médias, onde ocorre a computação abstrata, e não as interfaces de entrada ou saída.

Os autores reconhecem que o T2MLR incorre em um overhead de tempo de treinamento (2–4x o tempo de relógio, dependendo do tamanho do bloco recorrente) devido aos passos de aproximação de Jacobi. Eles enquadram isso como um compromisso: o T2MLR sacrifica computação de treinamento para ganhar uma arquitetura de inferência de alto desempenho e baixo overhead para tarefas de raciocínio.