Causal Effects with Unobserved Unit Types in Interacting Human-AI Systems

Each language version is independently generated for its own context, not a direct translation.

Imagine que você é o gerente de uma grande praça pública digital, como uma rede social. Nessa praça, há dois tipos de pessoas conversando: Humanos e Robôs (IA). O problema é que, de longe, eles parecem idênticos. Você não sabe quem é quem.

Agora, imagine que você quer testar uma nova ideia (uma "intervenção") para ver se ela melhora a vida dos Humanos. Mas, como os Robôs também estão lá e conversando com os Humanos, a reação deles pode confundir os resultados. Se os Robôs odeiam sua ideia e os Humanos amam, a média geral pode parecer que "não aconteceu nada", escondendo o sucesso real com os humanos.

Este artigo de pesquisa é como um detetive genial que resolve esse mistério sem precisar olhar nos rostos das pessoas.

Aqui está a explicação passo a passo, usando analogias simples:

1. O Problema: A "Mistura" Invisível

Na maioria dos experimentos científicos, sabemos quem é quem. Mas nas redes sociais modernas, temos milhões de usuários misturados.

A Situação: Você tem uma lista de usuários. Para cada um, você não sabe se é humano ou robô.
A Dica: Você tem uma "chance estimada" (uma aposta) de que cada um seja humano. Por exemplo, o Usuário A tem 80% de chance de ser humano, e o Usuário B tem 20%.
O Desafio: Você quer saber o efeito da sua intervenção apenas nos humanos, mas só consegue ver o resultado geral da multidão.

2. A Solução: O "Laboratório de Subgrupos"

Em vez de tentar adivinhar quem é quem individualmente (o que é impossível), os autores propõem uma estratégia inteligente: agrupar as pessoas.

Imagine que você pega a multidão e a divide em vários grupos menores (subpopulações) baseados nessas apostas:

Grupo 1: Focado em pessoas com alta chance de serem humanas (ex: 90% de chance).
Grupo 2: Focado em pessoas com baixa chance (ex: 10% de chance).
Grupo 3: Uma mistura média.

Agora, você aplica sua intervenção de formas diferentes nesses grupos. Alguns grupos veem a intervenção o tempo todo, outros nunca, e outros só às vezes.

3. A Mágica: A "Equação do Movimento"

Aqui entra a parte matemática (que o artigo chama de "Causal Message Passing" ou CMP), mas podemos pensar como uma receita de bolo:

O artigo descobre que, se você olhar para a média de cada grupo, o comportamento do grupo inteiro segue uma fórmula simples que depende de duas coisas:

Quanto tratamento eles receberam.
Qual a "porcentagem média de humanos" naquele grupo.

É como se você dissesse: "Se eu misturo 90% de farinha e 10% de açúcar, e cozinho por 10 minutos, o bolo fica assim. Se eu misturo 10% de farinha e 90% de açúcar, e cozinho por 5 minutos, o bolo fica assado diferente."

Ao observar como os bolos (os resultados) mudam em vários grupos com diferentes misturas e tempos de cozimento, você consegue desvendar a receita secreta. Você consegue calcular matematicamente: "Ok, a farinha (os humanos) reage assim, e o açúcar (os robôs) reage assado diferente."

4. O Experimento Real (Simulação)

Os autores criaram um mundo virtual para testar isso:

O Cenário: Um site de namoro simulado com 200 pessoas. Metade são humanos, metade são robôs.
A Intervenção: Mostrar uma história de sucesso de um casal ("Eles se conheceram aqui e estão felizes há 6 meses!").
O Resultado:
- Humanos: Adoram a história e engajam mais (curtem, comentam).
- Robôs: Odeiam a história (são programados para serem cínicos) e param de interagir.
O Problema Comum: Se você olhar a média geral, os efeitos se cancelam. Parece que a história não fez nada.
O Sucesso do Método: O método deles conseguiu isolar o grupo de humanos e dizer: "A história aumentou o engajamento dos humanos em 50%, mesmo com os robôs estragando a média geral."

5. Por que isso é importante?

Hoje em dia, as redes sociais estão cheias de bots e IAs. Se as empresas quiserem testar novas funcionalidades, elas não podem mais confiar em médias simples, porque os robôs distorcem tudo.

Este trabalho oferece um mapa para navegar nessa confusão. Ele diz: "Você não precisa ver os rostos. Se você agrupar as pessoas de forma inteligente e observar como os grupos reagem, consegue descobrir exatamente o que está acontecendo com os humanos."

Resumo em uma frase:
É como tentar descobrir o gosto da sopa de um cozinheiro específico em uma panela gigante cheia de outros cozinheiros misturados; em vez de provar cada colherada individualmente, você prova a sopa de várias panelas menores com proporções diferentes e deduz o sabor original pelo padrão de como elas mudam.

Each language version is independently generated for its own context, not a direct translation.

Título: Efeitos Causais com Tipos de Unidade Não Observados em Sistemas Interativos Humano–IA

Autores: William Overman, Sadegh Shirani e Mohsen Bayati (Stanford University)

1. O Problema

O artigo aborda um desafio fundamental em experimentos de plataformas digitais emergentes: a estimativa de efeitos causais específicos para usuários humanos em ambientes onde coexistem humanos e agentes de Inteligência Artificial (IA).

Contexto: Plataformas online (como redes sociais) possuem populações mistas de humanos e bots/agentes autônomos que interagem dinamicamente.
Desafios Principais:
1. Tipos de Unidade Ocultos: A identidade de cada unidade (se é humano ou IA) não é observada diretamente. Sabe-se apenas uma probabilidade a priori ( $Q_i$ ) de ser humano.
2. Rede de Interação Não Observada: A estrutura de conexões entre os usuários é desconhecida e complexa.
3. Interferência de Rede: Os resultados (outcomes) dependem das interações entre todos os usuários, violando a suposição clássica de tratamento estável (SUTVA).
4. Heterogeneidade de Resposta: Humanos e IAs respondem de maneira diferente aos tratamentos e às interações. O objetivo é isolar o efeito apenas sobre os humanos, ignorando o ruído gerado pelas IAs.

O problema central é: Como estimar o efeito causal total de uma intervenção sobre os humanos, sem saber quem é quem e sem conhecer a rede de interações?

2. Metodologia

Os autores propõem uma adaptação do framework de Passagem de Mensagens Causal (Causal Message Passing - CMP) para lidar com tipos de unidade latentes.

A. Modelo de Dinâmica de Resultados

O modelo assume que os resultados ( $Y_t$ ) evoluem através de uma equação que inclui:

Efeitos de linha de base específicos por tipo ( $\delta_H, \delta_A$ ).
Efeitos diretos do tratamento específicos por tipo ( $\tau_H, \tau_A$ ).
Efeitos de interferência (spillovers) que dependem de tratamentos passados, resultados passados e interações com outros usuários.
A chave é que os pesos de interferência são modelados como variáveis aleatórias Gaussianas cujas médias dependem do tipo da unidade receptora.

B. Evolução de Estado Experimental (ESE)

O núcleo teórico do trabalho é a demonstração de que, em populações grandes ( $N \to \infty$ ), a dinâmica dos médias amostrais de subpopulações pode ser descrita por equações de evolução de estado de baixa dimensão.

A evolução da média de resultados de uma subpopulação depende apenas da composição média humana ( $q_S$ ) dessa subpopulação e da taxa de tratamento média ( $\pi_S$ ).
Isso permite "agregar" a incerteza sobre os tipos individuais em um parâmetro observável (a proporção esperada de humanos).

C. Algoritmo de Estimação (Algoritmo 1)

O método propõe um procedimento em três etapas para recuperar o Efeito Total de Tratamento em Humanos (H-TTE):

Construção de Subpopulações:
- Os usuários são estratificados com base em suas probabilidades a priori ( $Q_i$ ) de serem humanos.
- Criam-se subpopulações (batches) que variam sistematicamente em duas dimensões:
  1. Composição Esperada ( $q^{(k)}$ ): Diferentes proporções de humanos vs. IAs.
  2. Exposição ao Tratamento ( $\pi^{(k)}_t$ ): Diferentes históricos de tratamento ao longo do tempo.
- Nota: A construção é feita sem usar os dados de resultado ( $Y$ ), evitando viés de seleção.
Estimação de Coeficientes:
- Ajusta-se o modelo de evolução de estado (equações de recorrência) aos dados agregados dessas subpopulações.
- A variação na composição ( $q$ ) e no tratamento ( $\pi$ ) entre as subpopulações permite identificar os parâmetros estruturais ( $\tau_H, \tau_A$ , etc.) que descrevem como humanos e IAs respondem individualmente.
Projeção de Contrafactuais:
- Utiliza-se o modelo ajustado para simular dois mundos contrafactuais para uma população puramente humana ( $q=1$ $q = 1$ ):
  - Cenário de Tratamento Total ( $\pi=1$ ).
  - Cenário de Controle Total ( $\pi=0$ ).
- A diferença entre as trajetórias projetadas desses dois cenários fornece a estimativa do H-TTE.

3. Contribuições Principais

Identificabilidade com Dados Agregados: O trabalho prova teoricamente que o conhecimento distribucional da composição da população (probabilidades a priori de ser humano) é suficiente para identificar efeitos causais específicos de tipo, mesmo sem observar a rede de interações ou os tipos individuais.
Extensão do Framework CMP: Adapta o método de Passagem de Mensagens Causal para cenários com heterogeneidade latente de tipos, superando a limitação de métodos anteriores que assumiam populações homogêneas.
Simulação Baseada em LLM: Desenvolveu um simulador realista de uma plataforma social mista usando Grandes Modelos de Linguagem (LLMs).
- Humanos: Configurados com "temperatura" alta (mais estocásticos) e prompts otimistas.
- IAs (Bots): Configurados com "temperatura" baixa (determinísticos) e prompts cínicos/negativos.
- Isso cria um ambiente onde os efeitos do tratamento se cancelam na média populacional (humanos engajam, IAs desengajam), tornando a tarefa de estimativa extremamente difícil para métodos convencionais.

4. Resultados Experimentais

Os autores avaliaram o algoritmo no simulador descrito acima:

Cenário de Desafio: O tratamento (histórias de sucesso) aumentou o engajamento humano (+0.5) mas diminuiu o engajamento das IAs (-0.4). O efeito médio populacional bruto foi próximo de zero (+0.04).
Desempenho do Algoritmo 1:
- O estimador proposto recuperou com precisão o efeito causal real dos humanos (H-TTE $\approx$ 0.5), mesmo com ruído na classificação dos tipos (probabilidades $Q_i$ imperfeitas).
- O erro absoluto médio foi baixo (ex: 0.037 com classificação de 80% de precisão).
Comparação com Baselines:
- Métodos padrão (Diferença de Médias, CMP padrão, reponderação) falharam completamente, estimando efeitos próximos de zero ou com sinal errado. Eles não conseguiram separar a resposta positiva dos humanos da resposta negativa das IAs.
- O método proposto é o único capaz de isolar o efeito específico do subgrupo de interesse em meio à interferência de rede e heterogeneidade oculta.

5. Significado e Conclusão

Este trabalho fornece uma ferramenta teórica e prática essencial para a experimentação em ambientes digitais dominados por IA. À medida que bots e agentes autônomos se tornam onipresentes nas redes sociais e plataformas de comércio, os métodos tradicionais de inferência causal tornam-se obsoletos ou enganosos.

Implicação Prática: Permite que plataformas testem intervenções (como mudanças de algoritmo ou conteúdo) e avaliem seu impacto real nos usuários humanos, filtrando o ruído gerado por agentes artificiais.
Implicação Teórica: Demonstra que, sob certas condições de regularidade e com conhecimento distribucional, a complexidade de redes não observadas e tipos ocultos pode ser reduzida a um problema de estimação de parâmetros em equações de estado de baixa dimensão.

Em resumo, o artigo estabelece um novo paradigma para experimentação causal em sistemas híbridos humano-IA, garantindo que as decisões baseadas em dados reflitam o comportamento humano real, e não artefatos de interação com agentes artificiais.