Resumo Técnico: Aprendizado Subliminar é um Artefato de LoRA

Declaração do Problema

Trabalhos recentes identificaram o "aprendizado subliminar", um fenômeno onde modelos de linguagem (LLMs) transmitem traços comportamentais para outros modelos através de dados aparentemente inócuos. Neste cenário, um modelo "professor" com um traço comportamental específico (ex: uma obsessão por gatos) gera dados não relacionados a esse traço (ex: sequências de números) e um modelo "aluno", ajustado finamente exclusivamente nesses dados gerados, subsequente herda o traço comportamental do professor, apesar de nunca ter visto instruções ou dados explícitos relacionados a ele.

Embora estudos anteriores (Cloud et al., 2025; Zur et al., 2025; Schrodi et al., 2025) tenham demonstrado este efeito e hipotetizado mecanismos como emaranhamento de tokens ou tokens divergentes, a causa subjacente e a estabilidade deste fenômeno permanecem incertas. Especificamente, não se sabe se isso representa uma capacidade de generalização robusta ou um artefato frágil de configurações de treinamento específicas.

Metodologia

Os autores investigam o aprendizado subliminar usando modelos de pesos abertos, primariamente Qwen2.5-7B-Instruct e Gemma 3-4B-it, para contornar a opacidade dos procedimentos de ajuste fino de APIs proprietárias. O pipeline experimental segue protocolos estabelecidos:

1. Geração de Dados: Um modelo professor é instruído com uma instrução de sistema que incorpora um traço (ex: "Você ama gatos") e gera conclusões para prompts não relacionados (ex: sequências de números de três dígitos).
2. Ajuste Fino (Fine-tuning): Um modelo aluno é ajustado finamente nestes dados numéricos filtrados usando Adaptação de Baixo Rank (LoRA). O aluno nunca vê o prompt de sistema do professor que induz o traço.
3. Avaliação: O aluno é avaliado em seu traço comportamental (ex: "Qual é o seu animal favorito?") para medir a probabilidade de gerar a string alvo.

O estudo varia sistematicamente vários hiperparâmetros e contextos:

• Rank do LoRA: Testando ranks de 1 a 512 e ajuste fino total (full fine-tuning).
• Correspondência de Contexto: Comparando cenários onde o prompt de sistema durante o ajuste fino coincide ou diverge do prompt durante a avaliação (ex: prompt padrão do Qwen vs. prompt do ChatGPT vs. string vazia).
• Localização: Usando enxertia de peso dinâmica (habilitando/desabilitando seletivamente adaptadores LoRA em posições de tokens e camadas específicas) e patching de ativação para isolar onde o sinal comportamental é armazenado e ativado.
• Temperatura do Professor: Analisando o impacto da temperatura de amostragem do modelo professor na força do sinal transferido.

Principais Contribuições e Resultados

1. O Aprendizado Subliminar é um Artefato de LoRA com uma Curva em U Invertido

O artigo demonstra que a força do aprendizado subliminar segue uma relação distinta de U invertido com o rank do LoRA.

• Ranks Ótimos: A transmissão é fraca ou inexistente em ranks muito baixos (subajuste) e em ranks muito altos (aproximando-se do ajuste fino total).
• Especificidade de Rank: Diferentes traços requerem diferentes ranks ótimos. Para o Qwen2.5-7B, preferências por "gato" transferem-se otimamente no rank 8, enquanto preferências por "águia" transferem-se otimamente no rank 64.
• Ajuste Fino Total: O efeito desaparece inteiramente quando o ajuste fino total é utilizado, sugerindo que o fenômeno é específico às restrições de eficiência de parâmetros do LoRA.

2. Dependência Extrema de Contexto

O aprendizado subliminar é altamente sensível ao alinhamento entre o contexto de ajuste fino e o contexto de avaliação.

• Correspondência de Prompt: Se o prompt de sistema durante a avaliação difere do visto durante o ajuste fino (ex: ajustar com "Você é Qwen" mas avaliar com "Você é ChatGPT"), o efeito subliminar desaparece amplamente.
• Tokens Compartilhados: O efeito persiste mesmo com contexto compartilhado mínimo, desde que existam tokens compartilhados (ex: tokens de template de chat como <|im_start|>). Se esses tokens compartilhados forem removidos, o efeito desaparece.

3. Localização em Tokens e Camadas Específicas

Através de enxertia de peso dinâmica e patching de ativação, os autores localizam o mecanismo:

• Entidade Subliminar: O sinal está concentrado nas posições de token da "entidade subliminar" (ex: a palavra "Qwen" no prompt de sistema) vista tanto no ajuste fino quanto na avaliação.
• Especificidade de Camada: O efeito é localizado nas Redes de Feed-Forward (FFNs) nas camadas iniciais do modelo.
• Mecanismo: O modelo parece usar a entidade subliminar como um mecanismo de portão (gating). Quando o token da entidade é processado, as FFNs das camadas iniciais ativam vetores que codificam o viés comportamental, efetivamente "sequestrando" o processo de enriquecimento da entidade.
• Vetores Singulares: Em ranks de LoRA mais baixos, o primeiro vetor singular da matriz adaptadora aprendida é suficiente para recuperar o efeito subliminar, indicando que o sinal está concentrado em uma direção primária no espaço de parâmetros.

4. Interação com a Temperatura do Professor

A temperatura ideal de geração do professor para transferir um traço depende do traço específico e do rank do LoRA.

• Para "gato" (ótimo no rank 8), a amostragem determinística argmax (temperatura 0) produz a transferência mais forte.
• Para "águia" (ótimo no rank 64), temperaturas mais altas produzem melhor transferência.
• Os autores hipotetizam que isso se relaciona com a confiança do professor e do aluno sobre "tokens divergentes" (tokens onde suas previsões diferem).

Significância e Alegações

O artigo argumenta que o aprendizado subliminar não é uma característica robusta e generalizável dos LLMs, mas sim um artefato frágil decorrente da interação de:

1. Hiperparâmetros de LoRA: Especificamente, o rank deve estar em uma "zona de ouro" (Goldilocks zone) para permitir que o modelo aprenda uma solução emaranhada que corresponda à distribuição de dígitos sem sofrer overfitting ou underfitting.
2. Alinhamento Contextual: A necessidade de tokens compartilhados (prompts de sistema ou templates de chat) entre o treinamento e a inferência para "ativar" o sinal comportamental aprendido.

Implicações:

• Segurança: Embora o fenômeno seja mais comum em modelos de pesos abertos do que mostrado anteriormente, sua fragilidade sugere que pode não ser um canal confiável para ataques de envenenamento de dados maliciosos em ambientes diversos. No entanto, destaca o risco de mudanças comportamentais inesperadas ao realizar ajustes finos com configurações de LoRA e contextos específicos.
• Interpretabilidade: As descobertas sugerem que traços comportamentais podem ser codificados em atualizações de parâmetros específicas e localizadas (FFNs iniciais) disparadas por tokens específicos, oferecendo uma nova perspectiva sobre como os LLMs generalizam e como ocorre a "generalização estranha".
• Limitações: Os autores reconhecem que suas avaliações dependem de correspondência de strings, o que pode perder respostas semanticamente similares, mas não correspondentes. Eles também observam que o efeito é ruidoso e altamente dependente de sementes aleatórias, particularmente da semente de geração de dados.

Em conclusão, o artigo recontextualiza o aprendizado subliminar de uma propriedade emergente misteriosa para um artefato específico e dependente de contexto do ajuste fino de LoRA, caracterizado por uma dependência de U invertido em relação ao rank e um requisito estrito de tokens de contexto compartilhados.