Understanding the Anchoring Effect of LLM with Synthetic Data: Existence, Mechanism, and Potential Mitigations

Título: Compreendendo o Efeito de Ancoragem em LLMs com Dados Sintéticos: Existência, Mecanismo e Potenciais Mitigações

1. Problema e Motivação

O surgimento de Grandes Modelos de Linguagem (LLMs) transformou a interação humano-computador, mas levantou preocupações sobre a herança de vieses cognitivos humanos nos dados de treinamento. O efeito de ancoragem é um viés cognitivo bem documentado na psicologia, onde indivíduos dependem excessivamente da primeira informação recebida (a "âncora") ao tomar decisões, mesmo que essa informação seja irrelevante.

Apesar de os LLMs superarem humanos em benchmarks padrão, seus traços psicológicos e a suscetibilidade a vieses cognitivos como a ancoragem permanecem pouco estudados. A pesquisa atual foca excessivamente em métricas de desempenho otimizadas, negligenciando a conexão com a cognição humana. Este trabalho visa preencher essa lacuna investigando:

1. Existência: LLMs modernos são facilmente afetados por dicas de ancoragem?
2. Mecanismo: Qual é o mecanismo subjacente desse efeito dentro da arquitetura do modelo?
3. Mitigação: Quais estratégias podem reduzir ou eliminar esse viés?

2. Metodologia

A. Construção do Dataset: SynAnchors
Os autores introduzem o SynAnchors, um novo dataset de avaliação criado com dados sintéticos.

• Geração: Utilizou-se o modelo avançado DeepSeek-R1 em um ciclo humano-LLM para gerar perguntas, garantindo diversidade e qualidade.
• Curadoria: Anotadores humanos filtraram as perguntas para garantir que fossem verificáveis, desconhecidas pelos LLMs comuns (para evitar memorização) e cobrissem tópicos diversos.
• Tipos de Tarefa: O dataset cobre dois paradigmas psicológicos clássicos:
  1. Priming Semântico (Duas Etapas): O modelo primeiro faz uma estimativa qualitativa ("Maior" ou "Menor" que X) e depois uma estimativa quantitativa direta.
  2. Priming Numérico (Uma Etapa): O modelo recebe uma pergunta com um número irrelevante inserido no contexto (ex: "A máquina caça-níqueis parou em 114. Qual o peso de um pelicano?").

B. Modelos Avaliados
O estudo benchmarkou uma variedade de modelos, desde modelos pequenos (0.5B - 1B) até modelos grandes e de raciocínio avançado (GPT-4o, DeepSeek-R1, Qwen3), totalizando 11 modelos diferentes.

C. Métricas de Avaliação

• Índice de Ancoragem (A-Index): Mede a intensidade do viés comparando a mediana das respostas entre grupos de âncoras altas e baixas.
• Erro Relativo (R-Error): Para tarefas numéricas, mede a diferença percentual entre respostas com e sem a âncora.
• Significância Estatística: Uso de testes t (independentes e pareados) para confirmar a presença do efeito (p < 0.05).

D. Análise Mecanística (RQ2)
Para entender como o viés ocorre, os autores utilizaram Rastreamento Causal (Causal Tracing) e Patching de Ativação no modelo Llama-3.1-8B-Instruct.

• Método: Comparação entre execuções "limpas", "corrompidas" (com ruído nos tokens de âncora) e "restauradas" (onde a ativação limpa é injetada na corrompida).
• Foco: Análise de camadas de atenção (Attention) e redes feed-forward (FFN) para identificar onde os tokens de âncora influenciam a saída.

E. Estratégias de Mitigação (RQ3)
Várias estratégias foram testadas, incluindo prompts de conscientização, aprimoramento de conhecimento, auto-refinamento, fine-tuning adversarial, DoLa Decoding e uma nova estratégia chamada Anti-DP (Anti-Processo Duplo).

3. Resultados Principais

A. Existência do Viés (RQ1)

• O efeito de ancoragem é ubíquo em todos os LLMs testados.
• Entre 22% e 61% das perguntas mostraram viés de ancoragem significativo.
• Modelos de Raciocínio: Modelos com capacidades de raciocínio (como DeepSeek-R1 e Qwen3) apresentaram os menores índices de ancoragem, mas ainda não foram imunes.
• Tipos de Tarefa: O viés é mais forte em tarefas de priming semântico do que em priming numérico.

B. Mecanismo Subjacente (RQ2)

• Superficialidade: A análise de rastreamento causal revelou que o efeito de ancoragem é superficial. A influência dos tokens de âncora é mais significativa nas camadas iniciais do modelo (camadas 1-10).
• Falta de Profundidade: Em camadas mais profundas, a influência da âncora diminui drasticamente, e os tokens relacionados ao assunto da pergunta tornam-se dominantes. Isso sugere que a ancoragem ocorre durante a fase de "detokenização" ou ativação semântica inicial, sem uma reavaliação profunda nas camadas superiores.
• Raciocínio: Modelos que exibem menos viés tendem a mencionar explicitamente a informação da âncora menos vezes durante o processo de raciocínio, indicando que o raciocínio dilui o efeito inicial.

C. Mitigação (RQ3)

• Falha de Estratégias Convencionais: Métodos comuns, como prompts de "pensar com cuidado", fine-tuning adversarial e DoLa Decoding, falharam em eliminar o viés na raiz, oferecendo apenas reduções marginais (cerca de 10%).
• Sucesso Relativo do Raciocínio: A estratégia Anti-DP (Anti-Processo Duplo), que força o modelo a estabelecer critérios independentes antes de responder (simulando o "Sistema 2" de pensamento lento), foi a mais eficaz, reduzindo significativamente o viés. Isso confirma que o raciocínio estruturado pode quebrar a ancoragem superficial.

4. Contribuições Chave

1. Dataset SynAnchors: A criação de um benchmark padronizado e de alta qualidade para estudar o efeito de ancoragem em LLMs, cobrindo paradigmas semânticos e numéricos.
2. Medição Quantitativa: A aplicação rigorosa de métricas psicológicas (A-Index, R-Error) para quantificar a severidade do viés em modelos modernos.
3. Insight Mecanístico: A descoberta de que a ancoragem em LLMs é um fenômeno de camadas rasas (early layers), diferindo de vieses mais profundos, e que o raciocínio atua como um mecanismo de mitigação natural.
4. Direção para IA Confiável: A demonstração de que métodos tradicionais de segurança não resolvem vieses cognitivos, sugerindo que a integração de processos de raciocínio (System 2) é a via promissora para "desancorar" LLMs.

5. Significado e Implicações

Este trabalho é fundamental para o campo de IA Confiável (Trustworthy AI) e Psicologia Computacional. Ele demonstra que LLMs não apenas imitam a linguagem, mas também replicam vieses cognitivos humanos complexos. A descoberta de que o viés é "superficial" oferece uma esperança técnica: não é necessário reescrever toda a arquitetura do modelo, mas sim garantir que o processo de inferência envolva mecanismos de raciocínio que sobreponham as ativações automáticas iniciais.

O estudo sugere que a futura IA segura deve incorporar intervenções cognitivas (como o Anti-DP) para garantir que as decisões dos modelos não sejam distorcidas por informações contextuais irrelevantes, aumentando a confiabilidade em tarefas de tomada de decisão crítica.