Resumo Técnico: Quantas Saídas Diferentes um Transformer Pode Gerar?

Declaração do Problema

Apesar do sucesso empírico dos Transformers no processamento de linguagem natural e na visão computacional, esses modelos exibem falhas fundamentais em tarefas algorítmicas simples, como copiar ou repetir sequências, uma vez que o comprimento da entrada excede um determinado limiar. Enquanto trabalhos anteriores atribuíram essas falhas a dados de treinamento ou problemas de otimização, este artigo postula que elas decorrem de restrições arquitetônicas intrínsecas. Especificamente, os autores investigam a acessibilidade de sequências de saída: o conjunto de todas as sequências de tokens que um Transformer pode gerar dado qualquer prompt possível (incluindo prompts suaves otimizados) e comprimento de contexto arbitrário. A questão central é: Quantas sequências distintas um Transformer pode realmente produzir, e como essa capacidade escala com o comprimento do prompt e a arquitetura do modelo?

Metodologia

Os autores abordam o problema analisando as restrições geométricas impostas pela precisão numérica finita e pela natureza limitada das representações internas dentro da arquitetura do Transformer.

1. Formulação de Campo Médio: Para lidar com comprimentos de prompt arbitrários, os autores interpretam os Transformers como mapeamentos entre medidas de probabilidade (extensão de campo médio) em vez de sequências finitas. Isso aproveita a equivariância de permutação das camadas de atenção.
2. Particionamento do Espaço de Embedding: O espaço de embedding é particionado em regiões ($E_t$) correspondentes ao próximo token (ou sequência de tokens) mais provável, com base na projeção de saída do decodificador.
3. Análise de Números de Empacotamento: Os autores utilizam o conceito de números de empacotamento (o número máximo de bolas disjuntas de um determinado raio que podem caber em um espaço) para quantificar o número de entradas distintas que um Transformer pode distinguir.
   • Hipótese de Precisão Finita: Eles assumem que o Transformer possui precisão finita $\epsilon$, o que significa que não consegue distinguir entre entradas mais próximas do que $\epsilon$ (modeladas como cubos alinhados aos eixos ou bolas).
   • Suporte Limitado: Eles assumem que o suporte do embedding está contido dentro de uma região limitada (por exemplo, uma bola de raio $r$).
4. Derivação Teórica: Ao limitar o número de empacotamento do espaço de entrada em relação ao volume do suporte do embedding, eles derivam limites superiores para o número de sequências acessíveis.
5. Validação Empírica: As previsões teóricas são testadas usando a tarefa de "Cramming" (Kuratov et al., 2025), onde um Transformer congelado é condicionado a prompts suaves otimizados para gerar sequências-alvo específicas. Eles também avaliam tarefas de cópia para observar falhas de generalização dependentes do comprimento.

Principais Contribuições

1. Acessibilidade Finita de Sequências

O artigo prova que um Transformer pode produzir apenas um conjunto finito de sequências distintas, independentemente do comprimento do prompt ou da estratégia de inferência.

• Teorema 4.5: Para um Transformer com precisão $\epsilon$, raio de embedding $r$ e comprimento de prompt $m$, o número de sequências acessíveis distintas é limitado superiormente por $(1 + 2r/\epsilon)^{dm}$.
• Implicação: A maioria das sequências é fundamentalmente inacessível; nenhuma escolha de prompt pode fazer com que o modelo as gere.

2. Escala Linear e Decaimento Exponencial

Os autores estabelecem uma relação precisa entre o comprimento do prompt e o comprimento máximo de sequências acessíveis:

• Crescimento Linear: O comprimento máximo $n$ de sequências acessíveis cresce linearmente com o comprimento do prompt $m$ ($n \propto m$).
• Decaimento Exponencial: Além de um limiar crítico $N$, a proporção de sequências acessíveis de comprimento $n$ decai exponencialmente com $n$.
• Limiar Teórico: Eles derivam uma fórmula explícita para esse limiar: $n^* \approx C \cdot m$, onde $C$ depende da dimensão de embedding $d$, tamanho do vocabulário $|V|$, precisão $\epsilon$ e raio de suporte $r$.

3. Explicação de Falhas Empíricas

A análise fornece uma explicação teórica para a "falha abrupta" observada na prática (por exemplo, cópia perfeita até o comprimento $L$, seguida de falha total). O artigo argumenta que isso não é uma degradação gradual, mas uma consequência do decaimento exponencial de sequências acessíveis além do limiar crítico.

4. Limites Refinados via Geometria

Os autores refinam seus limites superiores teóricos ao relaxar a hipótese de um suporte de embedding uniforme em forma de bola. Eles propõem:

• Suportes Anisotrópicos: Modelar o suporte como cones ou elipsoides para capturar melhor a distribuição real dos embeddings.
• Volumes de Células Não Uniformes: Levar em conta o fato de que tokens comuns ocupam regiões maiores no espaço de embedding do que tokens raros.
  Esses refinamentos reduzem a lacuna entre limites superiores teóricos e observações empíricas (de um fator de ~10 para ~5–6).

Resultados

Previsões Teóricas

• Corolário 4.6: Para um orçamento de prompt fixo $m$, a acessibilidade permanece alta até um comprimento $n^*(m)$ e depois cai exponencialmente. A inclinação dessa relação linear é limitada por $C \leq \frac{d \ln(1 + 2r/\epsilon)}{\ln(|V|)}$.
• Corolário 4.10: Mesmo com contexto e computação ilimitados, existe um limiar $N$ além do qual quase todas as sequências são inacessíveis.

Validação Empírica

• Tarefa de Cramming: Experimentos em modelos (Pythia, Qwen-2.5, Llama-3.2, Gemma-3) mostram que o comprimento $n_{50}$ (onde a acessibilidade cai para 50%) escala linearmente com o número de vetores de memória treináveis $m$ ($R^2 > 0,99$).
• Comparação de Inclinação: As inclinações observadas empiricamente são consistentemente menores que os limites superiores teóricos, com a razão entre teoria e experimento variando de 4,5 a 20,4, dependendo do modelo e das suposições geométricas utilizadas.
• Tarefa de Cópia: Modelos treinados para copiar sequências até o comprimento 50 falham abruptamente quando testados em sequências mais longas, confirmando a existência de um limiar de acessibilidade agudo independente do comprimento do prompt.
• Distribuição de Volume de Células: A análise revela que os volumes das células do decodificador são altamente assimétricos; um pequeno conjunto de tokens frequentes (por exemplo, espaços em branco, pontuação) ocupa uma fração desproporcional do espaço de embedding, o que estreita os limites de acessibilidade em comparação com suposições uniformes.

Significado e Afirmações

O artigo afirma fornecer a primeira explicação teórica rigorosa para as limitações intrínsecas dos Transformers em tarefas de geração de sequências. Seu significado reside em:

1. Limites Arquitetônicos: Demonstrar que a incapacidade de copiar sequências longas é uma propriedade fundamental da precisão finita e das representações limitadas da arquitetura, e não meramente um artefato de treinamento.
2. Poder Preditivo: Oferecer uma fórmula para prever os limites de desempenho de um Transformer com base exclusivamente na geometria do seu espaço de embedding (dimensão, tamanho do vocabulário, precisão e forma do suporte), sem necessidade de inspecionar o conjunto completo de parâmetros.
3. Generalizabilidade: Os resultados se estendem além dos Transformers para qualquer arquitetura com representações internas limitadas e precisão finita (por exemplo, Modelos de Espaço de Estado como Mamba, embora estados ocultos divergentes apresentem desafios).

Os autores concluem que o espaço de embedding, apesar de representar apenas uma fração dos parâmetros do modelo, carrega informações significativas sobre as capacidades e limitações fundamentais do modelo.