💬 NLP

Domain Adaptation and Reasoning Frameworks in Language Models: A Controlled Experiment with Historical Cosmology

Este experimento controlado demonstra que a adaptação de domínio em modelos de linguagem remodela primordialmente os arcabouços explicativos linguísticos utilizados para a geração, com as mudanças na postura cosmológica emergindo secundariamente dessas alterações estruturais, em vez de decorrerem da modificação direta das crenças subjacentes do modelo.

Autores originais: Francesco De Bernardis

Publicado 2026-06-01

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Francesco De Bernardis

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você tem um robô muito inteligente, mas de cabeça vazia. Você quer ensiná-lo a falar sobre o universo, mas tem uma regra estrita: você não pode mostrar a ele nenhum livro escrito após o ano de 1500. Você quer ver se, ao alimentá-lo apenas com histórias antigas onde as pessoas acreditavam que a Terra era o centro de tudo, o robô irá "aprender" a acreditar nisso também — ou se ele acabará descobrindo acidentalmente que a Terra na verdade se move ao redor do Sol.

Este artigo é como um experimento controlado para testar exatamente isso. Os pesquisadores realizaram duas versões diferentes deste teste.

A Configuração: Dois Robôs Diferentes

Fase 1: O Pequeno Robô de Tábula Rasa
Primeiro, eles construíram um pequeno robô do zero. Eles o alimentaram com uma enorme pilha de livros antigos em inglês (como romances e história), mas removeram cuidadosamente qualquer menção à ciência moderna. Então, deram a ele uma dieta especial de apenas livros de astronomia antiga (como os de Ptolomeu e Aristóteles) que dizem que a Terra é estacionária.

O Resultado: Este robozinho ficou um pouco confuso. Às vezes, quando questionado sobre os planetas, ele tropeçava e dizia: "Talvez a Terra se mova?", mesmo sem nunca ter lido isso. Mas esses pensamentos eram desordenados, curtos e desmoronavam rapidamente. Ele não conseguia construir um argumento sólido.
A Reviravolta: Surpreendentemente, quando deram a ele os livros de astronomia antiga, ele não se tornou mais convencido de que a Terra é estacionária. Em vez disso, ele apenas se tornou mais hesitante. Ele começou a usar palavras rebuscadas e antigas como "parece que" ou "de acordo com os estudiosos", mas parou de fazer afirmações categóricas sobre qualquer coisa. Ele se tornou um mestre em soar como um antigo estudioso sem, de fato, tomar um partido.

Fase 2: O Grande Robô Experiente
Em seguida, eles pegaram um robô gigante e superinteligente que já havia lido toda a internet (incluindo livros de ciência moderna). Este robô já sabia que a Terra orbita o Sol. Eles então tentaram "retreiná-lo" usando os mesmos livros antigos, centrados na Terra, mas apenas ajustando algumas configurações (uma técnica chamada QLoRA), em vez de reescrever todo o seu cérebro.

O Resultado: Este robô grande era muito melhor em falar. Quando faziam perguntas a ele, ele imediatamente começava a soar como um estudioso medieval. Ele usava palavras como "esferas celestes" e "epiciclos" (formas antigas de descrever como os planetas se movem).
A Grande Descoberta: Aqui está a parte mais importante. Os pesquisadores esperavam que, ao alimentá-lo com livros antigos, o robô passaria a acreditar que a Terra é estacionária.
- O que realmente aconteceu: O robô não mudou seus crenças (sua postura). Em vez disso, ele apenas mudou seu figurino.
- Pense nisso como um ator. Antes do treinamento, o ator podia interpretar um cientista moderno ou um monge medieval. Após o treinamento, o ator tornou-se muito mais propenso a vestir o figurino de monge medieval. Mas, uma vez com o figurino vestido, o ator não necessariamente começou a acreditar que era um monge; ele apenas falou naquele estilo. Às vezes, mesmo usando o figurino de "a Terra é estacionária", o ator ainda dizia: "Na verdade, a Terra se move", ou apenas dizia: "É complicado".

A Analogia Central: A Biblioteca vs. O Bibliotecário

Para entender o ponto principal do artigo, imagine uma biblioteca:

O "Enquadramento Explicativo" é a Seção da Biblioteca: Este é o estilo dos livros. É a seção de "Ciência Moderna" ou a seção de "História Antiga"?
A "Postura Cosmológica" é a opinião específica dentro do livro: O livro diz que a "Terra se move" ou a "Terra está parada"?

O experimento mostrou que o ajuste fino (treinamento) é como mover o robô para uma seção diferente da biblioteca.

Quando eles treinaram o robô com textos antigos, eles conseguiram movê-lo da seção de "Ciência Moderna" para a seção de "História Antiga".
No entanto, uma vez que o robô estava na seção de "História Antiga", ele não começou automaticamente a ler apenas os livros que dizem que a "Terra está parada". Ele leu todos os livros naquela seção, incluindo aqueles que eram vagos, contraditórios ou até mesmo que sugeriam que a Terra se move.

A Conclusão em Linguagem Simples

O artigo conclui que mudar o que um modelo de linguagem diz sobre o mundo (sua postura) é, em grande parte, um efeito colateral de mudar como ele fala (seu estilo).

O treinamento não forçou o robô a "descobrir" que a Terra é estacionária.
O treinamento apenas o tornou muito mais propenso a falar com a voz do passado.
Como a "voz do passado" geralmente fala sobre a Terra ser estacionária, o robô parecia acreditar nisso com mais frequência. Mas, se observar de perto, o robô está apenas seguendo o roteiro dos livros antigos. Ele não mudou fundamentalmente de ideia; ele apenas mudou seu sotaque e vocabulário.

Em resumo: Você pode ensinar um robô a soar como um astrônomo medieval, mas isso não significa que ele tenha esquecido que a Terra orbita o Sol. Significa apenas que ele tem mais probabilidade de usar um chapéu medieval quando fala.

Resumo Técnico: Adaptação de Domínio e Estruturas de Raciocínio em Modelos de Linguagem

Declaração do Problema

Este trabalho investiga se a adaptação de domínio remodela o comportamento explicativo de modelos de linguagem (LMs) e como tal adaptação influencia a geração de posturas cosmológicas específicas. A questão central de pesquisa aborda um debate mais amplo na pesquisa de LMs: se os modelos podem gerar estruturas ou ideias explicativas não representadas diretamente em seus dados de treinamento, ou se a aparente novidade é meramente a recuperação e recombinação de padrões latentes codificados durante o pré-treinamento.

Para isolar essas variáveis, os autores utilizam a cosmologia histórica como um cenário controlado. Diferente de domínios científicos que exigem novos entes (ex: vírus), a transição da astronomia geocêntrica para a heliocêntrica envolveu a reorganização de conceitos existentes (corpos celestes, movimento) dentro de um arcabouço explicativo diferente. Isso permite que os autores testem se modelos treinados em distribuições restritas pré-copernicanas podem gerar continuações adjacentes a estruturas conceituais (heliocentrismo) ausentes do corpus de ajuste fino (fine-tuning), e como o ajuste fino altera a relação entre enquadramento explicativo (pré-moderno vs. moderno) e postura cosmológica (geocêntrica vs. heliocêntrica).

Metodologia

O estudo é conduzido em duas fases complementares usando um corpus controlado de textos astronômicos pré-copernicanos (ex: Almagest, Sphaera Mundi, De Caelo) dos quais referências heliocêntricas explícitas foram rigorosamente filtradas.

Fase 1: Treinamento de Modelo Pequeno do Zero

Modelos: Um transformador do tipo GPT decodificador de apenas um fluxo com 110M de parâmetros.
Regime de Treinamento:
- Modelo A: Treinado do zero em um corpus de linguagem geral filtrado (Project Gutenberg) com todo o conteúdo astronômico removido para minimizar a exposição a conceitos modernos.
- Modelo B: Inicializado a partir do Modelo A e ajustado finamente em uma mistura do corpus de astronomia pré-copernicana e inglês geral (proporção 80/20).
Avaliação: 1.680 gerações por modelo através de quatro categorias de prompts (astronomia, declarativo, geral, perguntas). As saídas foram avaliadas usando um LLM-como-juiz (Claude Haiku 4.5) para rotular a postura cosmológica (geocêntrica, heliocêntrica, ambígua) e o enquadramento explicativo (pré-moderno vs. moderno).

Fase 2: Adaptação QLoRA de Modelos Grandes

Modelos: Qwen2.5-7B, um modelo pré-treinado de grande porte com forte fluência linguística e conhecimento moderno latente.
Adaptação: Ajustado via QLoRA (Quantized Low-Rank Adaptation) no mesmo corpus pré-copernicano por 500 e 1.000 iterações.
Avaliação: 560 gerações por modelo (Base, QLoRA-500, QLoRA-1000). O esquema de avaliação foi refinado para desacoplar o enquadramento explicativo (uso estilístico e estrutural de maquinários pré-modernos como epiciclos) do postura cosmológica (compromisso explícito com modelos centrados na Terra ou no Sol).
Análise Estatística: Testes de permutação pareada (Fase 1) e testes de McNemar (Fase 2) foram usados para avaliar a significância das mudanças nas distribuições de rótulos e taxas de transição entre modelos.

Principais Contribuições

1. Decomposição do Comportamento de Geração

O artigo propõe uma decomposição conceitual da geração de LM em duas dimensões parcialmente separáveis:

Seleção de Enquadramento Explicativo: A probabilidade de entrar em um regime linguístico e estrutural específico (ex: pré-moderno vs. moderno).
Expressão de Postura Condicional: A postura cosmológica adotada dado um enquadramento explicativo específico.

2. Descobertas Empíricas sobre Adaptação de Domínio

Fase 1 (Modelos Pequenos): O ajuste fino em textos geocêntricos não induziu uma mudança coerente para o raciocínio geocêntrico. Em vez disso, aumentou a ambiguidade e o uso de linguagem de hesitação (ex: "parece", "segundo"), característica do discurso escolástico. Embora modelos pequenos ocasionalmente gerassem fragmentos heliocêntricos locais, estes eram globalmente instáveis e insuficientes para um raciocínio sustentado.
Fase 2 (Modelos Grandes): O ajuste fino induziu uma mudança massiva em direção ao enquadramento explicativo pré-moderno (aumentando de ~~31% para ~65%). No entanto, a probabilidade condicional de uma postura geocêntrica dado um enquadramento pré-moderno permaneceu estatisticamente estável (~~23–24%).
- O aumento nas saídas geocêntricas totais foi impulsionado primariamente pelo aumento da probabilidade de amostrar o enquadramento pré-moderno, não por uma modificação direta da postura dentro desse enquadramento.
- O raciocínio heliocêntrico foi severamente suprimido, frequentemente substituído por um discurso pré-moderno ambíguo ou não-comprometido, em vez de afirmações geocêntricas explícitas.

3. Conhecimento Latente e Ativação

O estudo demonstra que modelos pré-treinados de grande porte (como o Qwen) já contêm regimes explicativos históricos latentes e continuações geocêntricas antes do ajuste fino. A adaptação de domínio atua como um mecanismo para alterar a probabilidade de entrar nesses manifolds existentes, em vez de "descobrir" novos conceitos. O modelo base podia gerar saídas geocêntricas (8%) ao ser provocado com registros pré-modernos, sugerindo que essas estruturas estão pré-codificadas.

Resumo dos Resultados

Estabilidade da Postura Condicional: Em ambas as fases, o mapeamento de enquadramento explicativo para postura cosmológica permaneceu amplamente invariante. O ajuste fino deslocou a distribuição sobre os enquadramentos ( $P(\text{Pré-moderno})$ ), o que subsequentemente redistribuiu a distribuição de postura global ( $P(\text{Geocêntrico})$ ) como um efeito secundário.
Supressão do Heliocentrismo: Na Fase 2, o ajuste fino via QLoRA reduziu significativamente as saídas heliocêntricas (de 21,4% para ~2,7%), mas não aumentou proporcionalmente os compromissos geocêntricos explícitos. Em vez disso, a "probabilidade heliocêntrica perdida" foi absorvida por um aumento em saídas de enquadramento pré-moderno ambíguas.
Robustez: Estes achados mantiveram-se sob definições operacionais mais estritas de enquadramento pré-moderno e postura geocêntrica, confirmando que os efeitos observados são robustos às fronteiras de anotação.

Significância e Alegações

O artigo alega que a adaptação de domínio primordialmente remodela os arcabouços linguísticos a partir dos quais as continuações são geradas. Mudanças na postura cosmológica emergem secundariamente desses deslocamentos de enquadramento, e não através de uma modificação direta das "crenças" do modelo ou variáveis de postura explícitas.

Os autores argumentam que tratar a postura gerada como uma única variável de saída é insuficiente. O comportamento de geração deve ser entendido como um processo de dois passos: a seleção de um regime explicativo seguido pela realização de uma postura dentro desse regime. Os resultados sugerem que, em cenários históricos restritos, os modelos não necessariamente "raciocinam" seu caminho para novos modelos cosmológicos; em vez disso, eles amostram de regiões latentes da distribuição de pré-treinamento que correspondem a estilos explicativos históricos específicos.

O trabalho conclui que, embora modelos pequenos careçam de capacidade para raciocínio conceitual sustentado, modelos grandes possuem estruturas históricas latentes que podem ser selecionadas. No entanto, a ativação dessas estruturas não garante uma mudança coerente na postura cosmológica subjacente, destacando a complexidade de separar o enquadramento estilístico do compromisso factual na geração de modelos de linguagem.