Resumo Técnico: Sobre os Limites da Adaptabilidade de LLMs

Declaração do Problema

Grandes Modelos de Linguagem (LLMs) são cada vez mais implantados para tarefas de anotação zero-shot e "LLM-como-juiz", operando sob a premissa implícita de que os prompts fornecidos pelo usuário (definições de tarefas) governam totalmente o comportamento do modelo. No entanto, os LLMs não são telas em branco; eles possuem priors internalizados no modelo desenvolvidos através de pré-treinamento, ajuste de instrução (instruction tuning) e aprendizado por reforço com feedback humano (RLHF). Esses priors formam entendimentos implícitos de conceitos (ex: "toxicidade") que podem não se alinhar com definições específicas do usuário. O problema central investigado é a tensão entre esses conceitos internalizados e as instruções do usuário: até que ponto o prompting pode sobrepor os priors internos de um modelo, e como esses priors restringem o desempenho e a confiabilidade da anotação?

Metodologia

Os autores avaliaram 9 LLMs ajustados por instrução (abrangendo arquiteturas densas e de mistura de especialistas/MoE, incluindo Llama, Mistral, DeepSeek e modelos proprietários) em 5 conjuntos de dados primários de detecção de toxicidade (cobrindo redes sociais, jogos, notícias e fóruns) e tarefas suplementares não relacionadas à segurança.

O estudo abordou três Questões de Pesquisa (RQs) usando métricas e condições experimentais específicas:

1. RQ1 (Familiaridade vs. Alinhamento): O desempenho correlaciona-se com a memorização de texto ou com o alinhamento conceitual?

   • Familiaridade de Texto: Medida via ROUGE-L, BERTScore e similaridade de cosseno de embeddings ao solicitar que os modelos continuem instâncias de texto (prefixo de 40%) e comparando a saída com o sufixo da verdade fundamental (ground truth).
   • Familiaridade Específica da Definição (DSF): Uma métrica inovadora que quantifica o alinhamento semântico entre o conceito interno de um modelo e a definição do conjunto de dados. Isso foi computado solicitando que o modelo descrevesse o conceito alvo com suas próprias palavras e medindo a similaridade de cosseno entre essa descrição e a definição oficial do conjunto de dados. A DSF foi calculada como um consenso entre seis codificadores de sentenças diversos para garantir robustez.
   • Análise: Correlações parciais foram usadas para controlar confusões ao nível do dataset (ex: dificuldade, domínio).

2. RQ2 (Aderência de Decisão / Decision Stickiness): Erros zero-shot podem ser corrigidos via prompting?

   • Taxa de Resgate (Rescue Rate): Definida como $P(\text{Correto} | \text{Prompted}, \text{Zero-Shot Errado})$.
   • Condições: Zero-shot, Definição Alinhada, Few-Shot, Few-Shot + Definição, e prompts otimizados via DSPy.
   • Análise de Confiança: Investigou a relação entre pontuações de confiança zero-shot e a probabilidade de correção de erro.

3. RQ3 (Suscetibilidade ao Desalinhamento): Como os modelos se comportam sob definições incorretas?

   • Substituição de Conceito: Definições de diferentes datasets (ex: "Discurso de Ódio" vs. "Toxicidade em Jogos") foram aplicadas a datasets alvo para criar condições desalinhadas.
   • Métricas: Mediu-se a Taxa de Mudança (Change Rate), Taxa de Resgate (Rescue Rate), Taxa de Corrupção (Corruption Rate), Viés de Predição (Prediction Bias) e níveis de confiança autorrelatados sob desalinhamento.

Principais Resultados

1. O Alinhamento Conceitual Impulsiona o Desempenho (RQ1)

• A memorização não é preditiva: Após controlar a dificuldade do dataset, três métricas distintas de memorização de texto (ROUGE-L, BERTScore, similaridade de embedding) mostraram nenhuma associação positiva com a precisão da anotação (parcial $r \approx -0,15$ a $-0,19$). Em alguns casos, maior memorização correlacionou-se com menor desempenho.
• DSF é preditiva: A Familiaridade Específica da Definição (DSF) mostrou uma associação positiva significativa com a precisão zero-shot (parcial $r = +0,41$, $p=0,003$). Modelos cujos conceitos internos se alinhavam com a definição da tarefa performaram significativamente melhor. Esse achado manteve-se em domínios de segurança (toxicidade) e não-segurança (ironia, subjetividade).

2. Alta Aderência de Decisão (RQ2)

• Resgate Limitado: A Taxa de Resgate geral foi de apenas 34,8%, o que significa que quase dois terços dos erros zero-shot persistiram mesmo quando fornecidas definições alinhadas, exemplos few-shot ou otimização automática de prompt (DSPy).
• Barreira de Confiança: Erros de alta confiança foram particularmente resistentes à correção. A probabilidade de resgate caiu para 20,8% para erros onde o modelo expressou alta confiança (>0,9), comparado a um pico de 51,8% para confiança moderada.
• Falha Iterativa: O prompting multi-turno (adicionando exemplos, definições e pedidos de reconsideração) melhorou apenas marginalmente as taxas de resgate (de 7,5% para 18,7% ao longo de três turnos), confirmando que a aderência de decisão é robusta à correção iterativa.
• Tamanho do Modelo: A capacidade de direcionamento (steerability) não foi monotônica com o tamanho do modelo; modelos menores (ex: Mistral-Small-24B) às vezes exibiram taxas de resgate mais altas que modelos maiores (ex: Llama-3.1-70B).

3. Desalinhamento e Falha de Calibração (RQ3)

• Mudança Comportamental: Os modelos ajustaram seus limiares de predição para corresponder a definições desalinhadas (ex: definições estreitas levaram a sub-predição, definições amplas a sobre-predição), demonstrando que seguem instruções literalmente.
• Cegueira de Confiança: Crucialmente, os modelos permaneceram altamente confiantes (84–91%) mesmo aplicando definições desalinhadas. Os níveis de confiança não diminuíram sob desalinhamento, representando uma falha de calibração fundamental. Praticantes não podem confiar em pontuações de confiança para detectar quando um modelo está aplicando uma definição incorreta.
• Variância de Desempenho: A escolha da definição induziu variações de desempenho maiores (até 17% de variação de precisão) do que a escolha do modelo (aprox. 5% de variação).

Significância e Alegações

O artigo argumenta que, para tarefas de anotação, o alinhamento conceitual entre os priors internalizados de um modelo e a definição da tarefa é o determinante primário de desempenho, sobrepondo-se à memorização de texto ou escala do modelo.

• Limites do Prompting: O direcionamento via prompt tem limites fundamentais. A "aderência de decisão" implica que o prompting é mais eficaz em consolidar respostas corretas do que em resgatar erros, particularmente aqueles de alta confiança.
• Riscos de Confiabilidade: A incapacidade das pontuações de confiança sinalizarem o desalinhamento de definição representa um risco crítico para pipelines de "LLM-como-juiz", pois os modelos podem aplicar critérios incorretos de forma confiante sem disparar salvaguardas baseadas em incerteza.
• Implicações Práticas: Os autores propõem que os pipelines de anotação devem priorizar a medição do alinhamento de definição (ex: via verificações do tipo DSF) antes do deployment em larga escala e evitar o uso de pontuações de confiança como um proxy para a validade da definição. Eles sugerem que o design da definição é um fator experimental de primeira ordem, muitas vezes mais impactante do que a seleção do modelo.

O estudo conclui que, embora os LLMs sejam ferramentas poderosas, seus priors internalizados ancoram seu comportamento de formas que limitam a eficácia do direcionamento via prompt, exigindo uma validação rigorosa das combinações modelo-definição em vez de tratar os modelos como agentes flexíveis e de "tela em branco".