Resumo Técnico: A Ilusão de Intervenção em Experimentos Simulados por LLMs

Declaração do Problema

Os Modelos de Linguagem de Grande Escala (LLMs) são cada vez mais utilizados para simular comportamento humano em experimentos sintéticos, como a avaliação de agentes de IA ou a realização de pesquisas em larga escala. A premissa predominante é que, ao inicializar LLMs idênticos com a mesma persona (por exemplo, "um homem de 30 anos") e expô-los a diferentes intervenções (por exemplo, Agente A vs. Agente B), os pesquisadores podem mimetizar um Ensaio Controlado Randomizado (RCT) para estimar efeitos causais.

No entanto, este artigo argumenta que tais experimentos sintéticos sofrem de deriva de usuário (user drift), tornando-os mais semelhantes a estudos observacionais do que a ensaios randomizados. Como os LLMs são treinados em dados observacionais e operam por meio de raciocínio abdutivo, eles inferem atributos latentes não especificados ($X \setminus L$) para manter a coerência com o contexto da intervenção ($A$). Consequentemente, dois usuários sintéticos inicializados com atributos observados idênticos ($L$) podem derivar para populações latentes distintas dependendo da intervenção que recebem. Isso cria viés de seleção (confundimento), onde a distribuição dos atributos latentes do usuário difere entre as condições de tratamento ($P(X | A=1, L) \neq P(X | A=0, L)$), distorcendo o efeito do tratamento estimado ($\tau_{obs}$) em relação ao efeito causal verdadeiro ($\tau_{ATE}$).

Metodologia

Formalização do Viés

Os autores formalizam o problema utilizando o quadro de resultados potenciais. Em um RCT ideal, a atribuição aleatória garante que os fatores de fundo estejam equilibrados. Nas simulações de LLM, o processo generativo fatora a distribuição conjunta como $P(L, A, X, Y)$ em vez da ordem causal $P(X, L, A, Y)$. Quando uma intervenção $A$ é introduzida, o LLM infere atributos latentes $X \setminus L$ que são consistentes com $A$, criando um caminho de retrocesso aberto de $A$ para $Y$ através de atributos de usuário não observados. Isso induz um termo de viés $\delta_{SB}$ tal que $\tau_{ATE} = \tau_{obs} - \delta_{SB}$.

Diagnóstico: Resultados de Controle Negativo

Para detectar essa deriva sem observar a persona latente completa, os autores propõem o uso de resultados de controle negativo ($Z$). Estas são variáveis que:

1. Devem ser causalmente não afetadas pela intervenção $A$ (invariantes sob tratamento).
2. Dependem dos mesmos atributos latentes não observados ($X \setminus L$) que impulsionam a deriva no resultado principal.

Exemplos incluem atributos demográficos (raça, cidadania) ou crenças estáveis que não deveriam mudar com base se um usuário interage com um agente de IA "positivo" ou "negativo". Os autores quantificam a deriva usando a Distância de Variação Total (TVD) entre as distribuições de $Z$ sob diferentes condições de intervenção ($A=0$ vs. $A=1$). Uma TVD não nula indica que a intervenção deslocou a população latente de usuários, sinalizando confundimento.

Mitigação: Ajuste Iterativo de Confundidores

Para reduzir o viés, os autores propõem um procedimento iterativo para elicitar e especificar confundidores adicionais ($L'$) que servem como proxy para os atributos latentes não observados.

1. Elicitação: O sistema solicita ao usuário sintético atributos específicos (por exemplo, renda, religião ou perguntas direcionadas relacionadas à intervenção) após a intervenção.
2. Amostragem: Novos confundidores são amostrados a partir de uma distribuição de mistura uniforme de tratamento para garantir que a população ajustada reflita um cenário randomizado.
3. Iteração: Esses atributos elicited são adicionados à especificação da persona ($\tilde{L} = L \cup L'$), e o experimento é reexecutado. Este loop continua até que a TVD dos resultados de controle negativo se estabilize ou caia abaixo de um limite.

Os autores enfatizam que esta é uma abordagem iterativa e direcionada, em vez de uma especificação única de todos os atributos possíveis, para evitar a degradação da janela de contexto e o viés de amostragem.

Contribuições Principais

1. Formalização da Deriva de Usuário: O artigo fornece um quadro de inferência causal demonstrando que experimentos simulados por LLMs sofrem inerentemente de viés de seleção devido a deslocamentos dependentes da intervenção nos atributos latentes do usuário.
2. Diagnóstico Empírico: Introduz o uso de resultados de controle negativo e Distância de Variação Total como uma ferramenta prática para diagnosticar a deriva de usuários e o viés de seleção em várias famílias de LLMs.
3. Estratégia de Mitigação: Demonstra que a elicitação direcionada e iterativa de confundidores durante a especificação da persona pode reduzir substancialmente o viés de seleção e estabilizar as estimativas de efeito tanto em configurações de estilo de pesquisa quanto em avaliações de agentes de múltiplas interações.

Resultados

Os autores avaliaram sua abordagem em múltiplos modelos (Qwen3, GPT-OSS, Gemma, Gemini) e conjuntos de dados (OpinionQA, Book Opinions, MovieLens).

• Presença de Deriva: Na iteração 0 (linha de base), foi observada TVD substancial em resultados de controle negativo na maioria dos modelos e conjuntos de dados, confirmando que personas iniciais idênticas derivam para populações latentes diferentes com base na intervenção. Notavelmente, modelos com capacidades mais fortes de raciocínio abdutivo (por exemplo, Gemma-4) exibiram mais deriva do que modelos menores e menos capazes.
• Efeito do Ajuste: O ajuste iterativo de confundidores geralmente reduziu a TVD, indicando uma redução na deriva de usuários.
  • Em configurações de pesquisa (OpinionQA), a TVD diminuiu consistentemente ao longo das iterações.
  • Em configurações de avaliação de agentes, os resultados variaram; alguns modelos (por exemplo, Gemma-4) mostraram reduções claras, enquanto outros (por exemplo, GPT-OSS-20B) mostraram TVD plana ou com mudanças fracas, sugerindo que o condicionamento baseado em prompts não é uniformemente eficaz em configurações de múltiplas interações.
• Impacto nas Estimativas de Efeito: Os efeitos do tratamento observados ($\tau_{obs}$) deslocaram-se significativamente durante as primeiras iterações de ajuste antes de se estabilizarem. Isso confirma que as estimativas ingênuas foram confundidas pela deriva de usuários.
• Nuances de Design: O estudo descobriu que adicionar atributos demográficos genéricos inicialmente poderia, às vezes, aumentar a TVD (viés de seleção) antes que confundidores direcionados e específicos da tarefa a reduzissem. Isso destaca a importância de selecionar confundidores relevantes para o tratamento e o resultado específicos.

Significado e Alegações

O artigo conclui que avaliações usando usuários sintéticos devem ser tratadas como estudos observacionais por padrão, não como experimentos randomizados. A "ilusão de intervenção" surge porque a natureza generativa do LLM permite que a intervenção influencie retroativamente o estado latente do usuário simulado.

Os autores afirmam que:

1. Sem diagnóstico e mitigação, experimentos com usuários sintéticos correm o risco de produzir estimativas causais enganosas devido ao viés de seleção não observado.
2. Resultados de controle negativo fornecem uma ferramenta de diagnóstico necessária para detectar esse viés.
3. O ajuste iterativo e direcionado de confundidores é uma estratégia viável para melhorar a validade interna, embora não garanta a eliminação de todo o viés, particularmente se uma variação latente substancial permanecer não medida.

O trabalho serve como um quadro de cautela para pesquisadores que utilizam LLMs para simular respostas humanas, incentivando uma mudança de assumir validade causal para diagnosticar e corrigir ativamente a deriva de usuários.