💬 NLP

Language models struggle with compartmentalization

Este artigo demonstra que os grandes modelos de linguagem frequentemente falham em unificar apresentações distintas de um mesmo conceito latente (como diferentes idiomas ou paradigmas de programação) em representações internas compartilhadas, levando a uma aprendizagem redundante, à redução da eficiência amostral e a uma transição de fase na eficácia da intervenção com base no número de apresentações do conceito.

Autores originais: Thomas Vincent Howe, David Wingate

Publicado 2026-05-20

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Thomas Vincent Howe, David Wingate

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

A Grande Ideia: O Problema do "Universo Paralelo"

Imagine que você tem um aluno que é incrivelmente inteligente, mas tem um hábito muito estranho: ele trata o mesmo fato exato como se fossem dois segredos completamente diferentes e não relacionados, dependendo de como é escrito.

Se você disser a ele: "O céu é azul" em Inglês, ele anota no seu "caderno de Inglês".
Se você disser a ele: "O céu é azul" em Suaíli, ele anota em um "caderno de Suaíli" separado.
Ele nunca percebe que esses dois cadernos estão falando sobre a mesma coisa. Ele não os cruza. Ele não diz: "Ah, eu já sei disso!"

Este artigo chama esse comportamento de Compartimentalização.

Os autores argumentam que os Modelos de Linguagem de Grande Escala (LLMs) frequentemente fazem isso. Em vez de construir um único cérebro gigante e eficiente que entenda o conceito de "o céu é azul", eles constroem cérebros separados e redundantes para cada idioma, código de programação ou estilo de escrita que encontram. Isso desperdiça sua capacidade cerebral (capacidade) e torna-os mais lentos para aprender (ineficiência de amostra).

O Experimento: O Truque do "Vocabulário Mágico"

Para provar que isso acontece, os pesquisadores criaram um experimento controlado. Eles não usaram apenas idiomas diferentes; usaram um "truque de mágica" para forçar o modelo a ver os mesmos dados como totalmente diferentes.

A Analogia:
Imagine uma biblioteca onde cada livro é escrito na mesma língua, mas o bibliotecário tem uma regra:

Se um livro está na Estante Esquerda, a palavra "Maçã" é escrita como "Maçã".
Se um livro está na Estante Direita, a palavra "Maçã" é escrita como "Banana" (mesmo significando a mesma coisa).

Os pesquisadores criaram um modelo onde a "Estante Esquerda" e a "Estante Direita" tinham dicionários completamente diferentes. Eles alimentaram o modelo com as mesmas histórias exatas, apenas com as palavras trocadas de acordo com a estante.

O Resultado:
O modelo falhou em conectar os pontos. Ele aprendeu a história para a Estante Esquerda e aprendeu a história para a Estante Direita, mas tratou-as como duas tarefas totalmente separadas.

O Custo: Como estava aprendendo a mesma coisa duas vezes, precisava de mais dados para se tornar bom nisso (Ineficiência de Amostra).
O Gargalo: Como estava armazenando duas cópias do mesmo conhecimento, esgotava seu "espaço cerebral" mais rápido (Custo de Capacidade).

A Armadilha da "Tradução"

Os pesquisadores tentaram uma correção comum: deram ao modelo "pares de tradução". Mostraram a ele: "Aqui está 'Maçã' na Estante Esquerda, e aqui está 'Banana' na Estante Direita".

A Surpresa:
O modelo aprendeu a regra de tradução quase instantaneamente. Podia traduzir perfeitamente "Maçã" para "Banana". No entanto, isso não ajudou a parar a compartimentalização. Ele ainda mantinha os dois conceitos em caixas mentais separadas. Era como um aluno que pode traduzir uma frase perfeitamente, mas ainda não entende que o significado subjacente é o mesmo.

Eles descobriram que isso só começou a funcionar quando deram ao modelo quantidades massivas de dados de tradução, ou quando usaram uma técnica de treinamento específica chamada "decaimento de peso" (que age como um leve empurrão para simplificar o pensamento do modelo).

A "Transição de Fase"

O artigo descobriu algo estranho chamado Transição de Fase.
Pense nisso como um interruptor de luz.

Se você tem 2 compartimentos (Estantes Esquerda/Direita), o modelo permanece teimoso e não compartilha conhecimento.
Se você tem 8 compartimentos, de repente, com dados de tradução suficientes, o modelo "estala" e começa a compartilhar conhecimento entre todos eles.

Parece que o modelo só percebe que deve unificar seu cérebro quando o problema fica demasiado complicado para manter separado.

Exemplos do Mundo Real

Os pesquisadores testaram isso em cenários do mundo real para ver se acontece fora de sua "biblioteca mágica":

Aprendizado Multilíngue: Eles treinaram modelos pequenos em Inglês e Chinês. Descobriram que, para modelos pequenos, o conhecimento em Inglês e Chinês não se misturava realmente. O modelo estava essencialmente "compartimentalizado", tratando-os como tarefas separadas em vez de uma compreensão unificada.
Biografias vs. Perguntas e Respostas: Eles deram ao modelo fatos sobre pessoas em dois formatos:
- Formato A: Um parágrafo de biografia ("João é um médico que vive em Nova York").
- Formato B: Um par de Pergunta e Resposta ("Quem é João? Um médico em Nova York").
- O Desastre: Quando o modelo tentou aprender ambos os formatos ao mesmo tempo, eles lutavam entre si. O modelo ficou confuso e performou pior do que se tivesse aprendido apenas um formato. Era como tentar segurar dois pesos pesados em uma mão; eles se cancelavam mutuamente.

A Boa Notícia: É Corrigível

A descoberta mais importante é que isso não é um defeito fundamental na forma como a IA funciona; é apenas um mau hábito em que o modelo cai.

Os pesquisadores mostraram que, se você copia manualmente o conhecimento de um compartimento para outro no início (ou após o treinamento), o modelo performa perfeitamente. Isso prova que o modelo é capaz de compartilhar conhecimento, mas o processo de treinamento padrão (SGD) simplesmente não descobre naturalmente como fazer isso de forma eficiente.

Resumo

O Problema: Modelos de IA frequentemente tratam o mesmo fato apresentado de maneiras diferentes (diferentes idiomas, diferentes formatos) como tarefas completamente não relacionadas.
A Consequência: Isso desperdiça sua memória e os torna mais lentos para aprender.
O Fracasso da "Tradução": Simplesmente mostrar ao modelo como traduzir entre formatos não é suficiente para corrigir isso; eles precisam de muito mais dados ou empurrões específicos de treinamento para perceber que os conceitos são os mesmos.
A Lição: Modelos de IA estão atualmente "compartimentalizados". Eles têm salas separadas em seu cérebro para cada maneira de um fato ser dito, em vez de uma grande sala onde todos os fatos vivem juntos. O artigo sugere que precisamos de melhores métodos de treinamento para ajudá-los a fundir essas salas.

Resumo Técnico: Modelos de Linguagem Têm Dificuldade com Compartimentalização

Declaração do Problema

Modelos de Linguagem de Grande Escala (LLMs) são treinados em dados que contêm os mesmos conceitos latentes apresentados de múltiplas formas distintas (por exemplo, fatos em inglês e suaíli, funções em Python e Haskell, ou proposições em linguagem formal e natural). Embora seja desejável que os modelos reconheçam essas apresentações como relacionadas e compartilhem força estatística, modelos de ponta frequentemente falham em fazê-lo.

O artigo define compartimentalização como um fenômeno onde um modelo trata $c$ apresentações distintas de um processo unificado de geração de dados latentes como tarefas parcial ou completamente separadas. No pior caso, o modelo aprende representações internas paralelas para cada apresentação sem amortizar informações entre elas. Isso leva a duas ineficiências primárias:

Ineficiência de Amostra: Cada apresentação beneficia-se apenas de sua própria parcela dos dados. Se uma apresentação representa uma fração $\epsilon$ dos dados, o modelo pode exigir $1/\epsilon$ vezes mais amostras para aprender a estrutura em comparação com uma apresentação unificada.
Competição de Capacidade: Representações redundantes consomem capacidade finita do modelo. Um modelo compartimentalizado pode saturar mais cedo do que um modelo coeso, estabilizando-se em uma perda de validação mais alta mesmo com o aumento dos dados.

Metodologia

Para isolar e estudar a compartimentalização, os autores propõem uma construção experimental de "pior caso" que remove pistas estruturais naturais (como sobreposição de subpalavras ou regularidade sintática) que normalmente incentivam o compartilhamento de representações.

O Truque de Tokenização

Os autores criam $c$ apresentações distintas de dados estatisticamente idênticos modificando o tokenizador:

O tamanho do vocabulário base $V$ é aumentado por um fator de $c$ para criar um vocabulário conjunto de $cV$ tokens.
Para codificar dados na apresentação $j$ , os IDs dos tokens são deslocados por $jV$.
Isso garante que o mesmo texto subjacente seja representado por conjuntos de tokens completamente disjuntos entre os compartimentos, forçando o modelo a aprender $c$ mapeamentos independentes, a menos que descubra uma estrutura compartilhada.

Configuração Experimental

Modelos: Decodificadores estilo GPT treinados em ~131 bilhões de tokens do FineWeb.
Escalas: Os experimentos cobrem seis tamanhos de modelo variando de 1,1M a ~1B de parâmetros.
Treinamento: Os modelos são treinados até a convergência (super-treinados em relação ao ótimo de Chinchilla) para observar limites de capacidade.
Baselines: Comparações são feitas entre um modelo de compartimento único ( $c=1$ ) e modelos compartimentalizados ( $c \in \{2, \dots, 8\}$ ).

Principais Contribuições e Resultados

1. Quantificação dos Custos da Compartimentalização

Os autores demonstram que a compartimentalização impõe custos significativos que escalam com o número de compartimentos ( $c$ ):

Desaceleração da Eficiência de Amostra: À medida que $c$ aumenta, o número de etapas de treinamento necessárias para atingir uma perda de validação específica aumenta linearmente. Por exemplo, em $c=8$ , o modelo requer significativamente mais etapas para atingir a mesma perda que a baseline $c=1$ .
Custos de Capacidade: A perda final de validação estabiliza em valores mais altos à medida que $c$ aumenta, indicando que o modelo não pode representar os dados com tanta eficiência quando forçado a manter representações disjuntas.

2. Existência de Soluções Unificadas

O artigo prova que a incapacidade de compartilhar força não é uma limitação fundamental da arquitetura ou dos dados, mas sim uma falha do processo de otimização (SGD) em encontrar configurações específicas de parâmetros:

Duplicação de Inicialização: Se o modelo for inicializado copiando os embeddings do vocabulário base através de todos os $c$ compartimentos (em vez de inicialização aleatória), ele alcança uma eficiência de amostra que iguala a baseline $c=1$ .
Duplicação de Parâmetros Post-hoc: Um modelo treinado $c=1$ pode ser convertido em um modelo de $c$ compartimentos duplicando seus embeddings aprendidos. Após um breve pico inicial de perda, o modelo retoma o treinamento no patamar original de desempenho sem sobrecarga de capacidade.
Implicação: Soluções unificadas existem e são alcançáveis, mas o treinamento padrão a partir de inicialização aleatória falha em descobri-las.

3. Limitações de Intervenções Padrão

Os autores testam estratégias comuns para incentivar o compartilhamento de representações e descobrem que elas são frequentemente insuficientes ou exibem transições de fase:

Dados de "Tradução" Emparelhados: Introduzir dados onde o mesmo texto aparece em dois compartimentos (emparelhado com uma tarefa de tradução) não reduz a compartimentalização para pequenos $c$ $c$ . O modelo aprende a tarefa de tradução (prever tokens em um compartimento dado o outro) até uma perda próxima de zero, ainda assim os compartimentos continuam a competir por capacidade.
- Transição de Fase: Uma redução na compartimentalização (quebrando o patamar de perda) ocorre apenas após um limiar dependente de $c$ ser cruzado (por exemplo, em $c=8$ com altas razões de tradução).
- Decaimento de Peso: O decaimento de peso agressivo acelera essa transição de fase, deslocando o limiar para valores menores de $c$ (por exemplo, de $c=8$ para $c=6$ ).
Alinhamento Contrastivo (InfoNCE): Um objetivo auxiliar para alinhar representações de camadas intermediárias do mesmo texto entre compartimentos mostra comportamento semelhante. Não oferece benefício mensurável para $c=2$ , benefícios modestos para $c=4$ e recuperação significativa do "imposto de compartimentalização" para $c=6$ e $c=8$ .

4. Estudos de Caso em Dados Naturais

Os autores aplicam seu framework a cenários do mundo real para validar o conceito:

Treinamento Multilíngue: O treinamento em dados da Wikipedia em inglês e chinês mostra que modelos pequenos (<1B de parâmetros) exibem alta compartimentalização. O desempenho de um modelo multilíngue com tokenizador compartilhado segue de perto uma baseline "compartimentalizada" (usando tokenizadores disjuntos), sugerindo baixo compartilhamento de informações entre apresentações nas etapas iniciais de treinamento.
Biografias Sintéticas vs. Q&A: Uma tarefa sintética que apresenta fatos como parágrafos biográficos ou pares de perguntas e respostas revela competição destrutiva de capacidade. Quando treinados conjuntamente com um tokenizador compartilhado, o modelo desempenha mal em ambos os formatos em comparação com o treinamento em um único formato. No entanto, quando os formatos são compartimentalizados (tokenizadores disjuntos), o desempenho no formato biográfico melhora significativamente, indicando que a falha no treinamento conjunto deveu-se à interferência em parâmetros compartilhados e não à falta de capacidade.

Significado e Afirmações

O artigo argumenta que o objetivo de modelagem de linguagem pode apenas unificar representações de forma inconsistente entre apresentações distintas do mesmo conceito. As principais conclusões são:

A Compartimentalização é um Fenômeno Real: LLMs frequentemente falham em compartilhar força estatística entre apresentações distintas (línguas, formatos, código), levando a aprendizado redundante e capacidade desperdiçada.
Falha de Otimização: A falha em unificar representações não se deve à incapacidade arquitetônica; soluções unificadas existem e são alcançáveis via inicializações específicas, mas o treinamento padrão com SGD não as encontra.
Transições de Fase na Aprendizagem: Intervenções como dados de tradução ou perdas contrastivas não melhoram o desempenho linearmente. Em vez disso, exibem transições de fase onde a eficácia só emerge após um certo limiar de razão de dados ou complexidade do modelo ( $c$ ) ser atingido.
Implicações para Eficiência: As descobertas sugerem que os paradigmas de treinamento atuais podem ser inerentemente ineficientes em amostras e em capacidade ao lidar com dados multifacetados, pois os modelos podem estar "aprendendo uns com os outros" muito menos do que se assume.

Os autores permanecem modestos, observando que suas descobertas são baseadas em modelos de pequena escala e que a compartimentalização pode diminuir em escalas maiores, embora evidências existentes de modelos de ponta sugiram que o fenômeno persiste. Eles propõem sua construção baseada em tokenizador como uma baseline para medir o compartilhamento de representações em pesquisas futuras.