Resumo Técnico: Prompt de Demografia em Escala: Quando Mais Atributos Prejudicam

Declaração do Problema

Grandes Modelos de Linguagem (LLMs) estão sendo cada vez mais implantados como substitutos ou complementos para anotadores humanos em tarefas subjetivas de PLN (ex: detecção de toxicidade, análise de sentimento). Embora pesquisas anteriores tenham estabelecido que os outputs de LLMs não são demograficamente neutros e que pistas demográficas explícitas podem alterar o comportamento do modelo, a área carece de uma compreensão sistemática de como essas pistas funcionam. A literatura existente normalmente compara um baseline "sem demografia" contra um único prompt de "todos os atributos" ou examina apenas um ou dois atributos específicos isoladamente. Essa abordagem falha em explorar o espaço combinatório entre conjuntos de atributos únicos e o conjunto completo, deixando questões críticas sem resposta:

1. Existe um número ideal de atributos demográficos para incluir em um prompt, ou adicionar mais sempre melhora o alinhamento?
2. Quais propriedades do sinal demográfico de um conjunto de dados preveem se um atributo específico irá melhorar ou degradar o alinhamento do LLM?
3. Como os LLMs processam internamente essas pistas, e o aumento da ativação neural correlaciona-se com um melhor alinhamento?

Metodologia

Os autores conduziram um estudo abrangente em cinco tarefas subjetivas de compreensão de linguagem (Toxicidade, Sentimento, Polidez, Ofensividade, Atribuição de Emoção) e cinco LLMs de código aberto (Llama-3.2-3B, Mistral-7B, Gemma3-12B, Qwen2.5-7B, DeepSeek-R1-7B).

Design Experimental

• Prompting Combinatório: O estudo enumerou sistematicamente cada combinação possível de atributos demográficos para cada tarefa, variando de prompts de atributo único ao conjunto completo de atributos disponíveis. Isso permitiu o mapeamento das trajetórias de alinhamento de configurações de componente único para configurações de atributos completos.
• Métricas de Alinhamento: O alinhamento modelo-humano foi quantificado usando o $\kappa$ de Cohen ponderado quadrático (para tarefas ordinais) e acurácia (para tarefas não ordinais), medido em relação às anotações humanas.
• Análise de Sinal do Lado do Dataset: Para entender por que certos atributos funcionam, os autores analisaram os dados de anotação em si usando três níveis de detalhe estrutural:
  1. Magnitude: Usando valores SHAP em um classificador de Regressão Logística para medir a influência dos atributos demográficos na variação dos rótulos humanos.
  2. Aprendibilidade (Learnability): Treinando um LinearSVC com características explícitas de interação palavra-demografia para determinar se o modelo pode aprender padrões lexicais discriminativos para subgrupos específicos.
  3. Coerência Direcional: Calculando correlações de Spearman médias por Fisher entre os vetores de peso de diferentes subgrupos dentro de um atributo. Uma correlação positiva indica que os subgrupos concordam sobre quais palavras sinalizam o rótulo (coerente); uma correlação negativa indica sinais opostos (incoerente).
• Sondagem de Neurônios (Neuron Probing): Adaptando frameworks de interpretabilidade, os autores identificaram "neurônios especializados" (aqueles ativados por um prompt demográfico, mas não por um prompt baseline). Eles mediram a proporção de neurônios especializados e correlacionaram isso com o desempenho de alinhamento para testar se o engajamento interno se traduz em melhor output.

Contribuições Principais

1. Análise Combinatória Completa: O artigo é o primeiro a enumerar sistematicamente todas as combinações de atributos através de múltiplas tarefas e modelos. Estabelece que o prompting demográfico não é monolítico; sua utilidade é altamente dependente de contexto.
2. Framework de Sinal de Três Níveis: Os autores propõem um framework de diagnóstico ligando o sinal do lado do dataset ao alinhamento do LLM. Eles demonstram que a magnitude da influência demográfica nos rótulos humanos é pouco informativa para prever o alinhamento do LLM. Em vez disso, o alinhamento bem-sucedido requer uma consideração conjunta de aprendibilidade e coerência direcional.
3. Aplicação de Sondagem de Neurônios: Este trabalho é o primeiro a aplicar a sondagem de neurônios ao alinhamento demográfico em tarefas subjetivas. Revela que a ativação de neurônios especializados correlaciona-se com ganhos de alinhamento apenas quando o sinal de anotação subjacente é direcionalmente coerente.

Principais Resultados

1. O Limiar de Sobreespecificação (RQ1)

Ao contrário da intuição de que "mais informação é melhor", o alinhamento consistentemente atinge o pico com um a três atributos de alto sinal e degrada quando o conjunto completo de atributos é fornecido.

• Toxicidade: Quatro de cinco modelos alcançaram o pico de alhamento com conjuntos compactos (1–3 atributos). A configuração "todos juntos" nunca superou o melhor prompt compacto e frequentemente causou degradação significativa.
• Polidez e Ofensividade: Estas tarefas mostraram ampla resistência ao prompting demográfico. Para a maioria dos modelos, adicionar atributos degradou o desempenho em relação ao baseline.
• Emoção: Os resultados foram altamente polarizados; enquanto Mistral e Qwen se beneficiaram significamente de prompts baseados em idade, Gemma e DeepSeek foram degradados por cada prompt demográfico.

2. O Papel da Coerência Direcional (RQ2)

O estudo descobriu que a magnitude da influência de um atributo demográfico nos rótulos humanos (importância SHAP) não prevê o alinhamento do LLM.

• Aprendibilidade vs. Coerência: Embora a aprendibilidade (LSVC $\kappa$) seja um preditor melhor que a magnitude, ela é insuficiente por si só.
• O Mecanismo de Coerência: Atributos com sinais direcionalmente coerentes (subgrupos concordam sobre padrões lexicais) permitem ganhos de alinhamento. Por outro lado, atributos com sinais opostos (subgrupos discordam sobre quais palavras indicam o rótulo) causam a degradação do alinhamento, mesmo que o atributo seja altamente aprendível por um classificador.
  • Exemplo: Na tarefa de Ofensividade, idade foi o atributo mais aprendível, mas causou o pior alinhamento porque os subgrupos mantinham visões opostas. Raça, que teve menor aprendibilidade, mas maior coerência para modelos específicos, foi o único atributo que melhorou o alinhamento.

3. Sondagem de Neurônios e o Paradoxo do Alto Volume (RQ3)

• Suporte Seletivo: Na tarefa de Toxicidade, modelos como Llama e Qwen mostraram uma correlação positiva entre a proporção de neurônios especializados ativados e os ganhos de alinhamento, mas apenas para atributos com sinais direcionalmente coerentes.
• O Paradoxo do Alto Volume: O DeepSeek-R1 ativou o maior volume de neurônios especializados em todas as tarefas, porém apresentou consistentemente o melhor desempenho com nenhum prompt demográfico. Isso sugere que o alto volume de ativação não equivale ao engajamento de conhecimento útil; pode, em vez disso, refletir uma perturbação representacional ampla e indiferenciada.

Significância e Alegações

O artigo argumenta que o prompting demográfico não é uma intervenção monolítica. Sua eficácia é estritamente condicionada por:

1. Qualidade do Sinal do Atributo: Especificamente, a coerência direcional do sinal de anotação.
2. Características da Tarefa: Algumas tarefas (ex: Toxicidade) são suscetíveis ao prompting demográfico, enquanto outras (ex: Polidez) são resistentes.
3. Arquitetura do Modelo: Diferentes modelos respondem de forma distinta aos mesmos estímulos (ex: Gemma vs. DeepSeek em Emoção).

Os autores concluem que a seleção criteriosa de atributos é essencial. Profissionais devem evitar prompts de "todos os atributos" e, em vez disso, selecionar 1–3 atributos que exibam alta coerência direcional. Eles enfatizam que a alta aprendibilidade sozinha é uma condição necessária, mas insuficiente; se os subgrupos discordam direcionalmente, nenhum prompt de persona único pode satisfazer as demandas conflitantes, levando à degradação do desempenho.

O estudo nota modestamente limitações, incluindo seu escopo apenas em inglês, as escalas de parâmetros específicas dos modelos testados e a natureza correlacional da análise de neurônios, que identifica associações em vez de provar mecanismos causais.