Estimating Treatment Effects under Algorithmic Interference: A Structured Neural Networks Approach

Este artigo propõe uma abordagem semiparamétrica estruturada baseada em redes neurais para corrigir o viés causado pela interferência algorítmica em experimentos de plataformas de conteúdo, permitindo a estimativa precisa do efeito global do tratamento ao modelar explicitamente a competição por exposição entre criadores.

O essencial

Imagine que você é o dono de um grande festival de música (uma plataforma de vídeos, como o TikTok ou o YouTube). Você tem milhares de artistas (criadores) e milhões de fãs (espectadores). O seu trabalho é decidir qual artista toca em qual palco e para qual público, usando um "maestro" (o algoritmo) que organiza tudo.

Agora, imagine que você quer testar um novo maestro para ver se ele faz a festa ficar melhor.

O Problema: O "Efeito Dominó" Invisível

Normalmente, para testar algo novo, você faz um experimento simples: escolhe metade dos artistas para usar o novo maestro e a outra metade para usar o velho. Depois, você olha quem teve mais aplausos.

Mas aqui está a pegadinha: No seu festival, todos os artistas estão competindo pelo mesmo espaço no palco. Se o novo maestro faz o artista "A" tocar mais alto e mais rápido, ele pode "empurrar" o artista "B" para fora do palco, mesmo que o artista "B" não tenha sido escolhido para o teste.

Isso cria um efeito de interferência. O resultado do artista "B" não depende apenas dele mesmo, mas do que o artista "A" (que está no grupo de teste) está fazendo.

Se você usar a matemática comum (chamada de "Diferença de Médias") para analisar isso, você vai cometer um erro grave:

1. Viés de Exposição: O novo maestro pode fazer os artistas testados aparecerem 56% das vezes, mesmo que você tenha sorteado 50%. Você está medindo o sucesso de quem apareceu, não de quem foi testado.
2. Viés de Seleção: O novo maestro pode, sem querer, mostrar os artistas testados apenas para fãs muito entusiasmados, enquanto os artistas antigos aparecem para fãs mais relaxados. Você está comparando maçãs com laranjas.

O Perigo: Na vida real, isso pode fazer uma empresa acreditar que um novo algoritmo é ótimo, quando na verdade ele é péssimo, e gastar bilhões de dólares implantando-o. Ou pior: descartar um algoritmo incrível achando que é ruim.

A Solução: O "Detetive de Estrutura" com IA

Os autores deste artigo (Ruohan Zhan e colegas) criaram uma nova maneira de fazer essa conta, que eles chamam de Abordagem de Redes Neurais Estruturadas com Desviamento de Viés.

Vamos traduzir isso para uma analogia simples:

1. O Modelo de Escolha (O Maestro): Eles criaram um "simulador" que entende como o algoritmo decide quem toca. Eles não tentam adivinhar tudo de uma vez. Eles dividem o problema:

   • Primeiro, eles aprendem como o algoritmo escolhe quem aparece (quem ganha o palco).
   • Segundo, eles aprendem como o público reage quando vê o artista (quem aplaude).

2. A Rede Neural (O Cérebro Flexível): Eles usam Inteligência Artificial (Redes Neurais) para aprender essas regras complexas. É como treinar um cérebro de computador para entender que "fãs de rock gostam de baterias rápidas" e "fãs de pop gostam de melodias doces", sem precisar escrever essas regras manualmente.

3. O Desviador de Viés (O Corretor de Erros): Aqui está a mágica. Como a IA nunca é perfeita e pode errar um pouco, eles usam uma técnica matemática avançada (chamada Double Machine Learning) que age como um "corretor de erros".

   • Imagine que você pede para um aluno resolver um problema difícil. Ele pode errar um pouco. Mas, se você pedir para ele explicar como chegou à resposta e corrigir os pequenos desvios no processo, você obtém a resposta exata.
   • Essa técnica permite que eles usem a IA poderosa, mas ainda assim tenham certeza matemática de que o resultado final é justo e preciso, mesmo com dados "sujos" e correlacionados.

O Teste Real: O Experimento Duplo

Para provar que funcionava, eles fizeram um teste gigante no Weixin Channels (um app de vídeos curtos da Tencent, na China).

• O Método Caro (A "Verdade Absoluta"): Eles criaram um experimento super caro e difícil, dividindo o mundo em três partes isoladas. Em uma parte, testaram o novo maestro. Em outra, o velho. Como eles não se misturavam, não havia interferência. Isso deu a "verdadeira" resposta, mas custou muito dinheiro e tempo.
• O Método Comum: Usaram o experimento normal (metade dos artistas no novo, metade no velho) e aplicaram a matemática velha.
• O Método Novo: Usaram o experimento normal, mas aplicaram a nova fórmula com IA e corretor de erros.

O Resultado:

• A matemática comum disse: "O novo maestro é ótimo!" (Mentira).
• A "Verdade Absoluta" (o método caro) disse: "O novo maestro é ruim!"
• O Método Novo disse: "O novo maestro é ruim!" (Acerto!).

Em alguns casos, a matemática comum chegou a dizer que o efeito era positivo, quando na verdade era negativo. Isso é como dizer que um remédio cura uma doença quando, na verdade, ele a piora.

Resumo da Ópera

Este artigo ensina que, em plataformas digitais onde tudo compete por atenção, não podemos usar as regras antigas de teste (A/B testing simples).

Eles criaram uma ferramenta que:

1. Entende a competição entre os criadores.
2. Usa IA para modelar como as escolhas são feitas.
3. Usa matemática avançada para limpar os erros da IA.

Isso permite que empresas de tecnologia tomem decisões melhores, gastem menos dinheiro em testes caros e evitem implantar algoritmos ruins que poderiam arruinar a experiência dos usuários. É como ter um mapa preciso de um território cheio de armadilhas, em vez de tentar adivinhar o caminho no escuro.

Resumo técnico

Resumo Técnico: Estimativa de Efeitos de Tratamento sob Interferência Algorítmica

1. O Problema: Interferência Algorítmica em Experimentos de Lado do Criador

Plataformas de conteúdo gerado por usuários (como o Weixin Channels da Tencent) operam em mercados de dois lados, onde algoritmos alocam tráfego promocional entre criadores e espectadores. Para avaliar atualizações nesses algoritmos, as plataformas geralmente realizam experimentos aleatórios do lado do criador (criadores são randomizados para o algoritmo de tratamento ou controle).

O problema central identificado é a interferência algorítmica:

• Violação do SUTVA: Em um ambiente competitivo, criadores tratados e de controle competem pelos mesmos espaços de exposição (slots) dentro de um mesmo conjunto de consideração (consideration set). O resultado de um criador não depende apenas de seu próprio tratamento, mas também do tratamento dos concorrentes no mesmo conjunto.
• Viés nos Estimadores Padrão: O estimador padrão de Diferença de Médias (DIM) torna-se severamente enviesado devido a dois mecanismos:
  1. Viés de Exposição de Conteúdo: Se o algoritmo de tratamento aumenta as pontuações de certos itens, eles "expulsam" (crowd out) os itens de controle, alterando a probabilidade real de exposição em relação à probabilidade de atribuição.
  2. Viés de Seleção de Espectadores: Como a alocação é personalizada, mudanças no algoritmo podem expor itens tratados a um público sistematicamente diferente (ex: espectadores mais engajados) em comparação com itens de controle.
• Consequência: O uso de estimadores padrão pode levar a conclusões erradas, como recomendar a implantação de um algoritmo inferior (efeito negativo) quando o estimador indica um efeito positivo, ou vice-versa.

2. Metodologia Proposta

Os autores propõem uma estrutura semiparamétrica baseada em Redes Neurais combinada com Double Machine Learning (DML) para recuperar o Efeito de Tratamento Global (GTE) de forma não enviesada.

A. Modelagem da Interferência
O framework decompõe o processo em dois modelos principais:

1. Modelo de Escolha do Algoritmo (Algorithm Choice Model):
   • Modela como a exposição é alocada entre itens concorrentes dentro de um conjunto de consideração.
   • Utiliza uma estrutura semiparamétrica: uma componente estrutural (logit multinomial) combinada com redes neurais flexíveis para aprender a função de pontuação latente ($s_0$ para controle e $s_1$ para o efeito do tratamento).
   • Captura explicitamente a dependência: a probabilidade de um item ser exposto depende do status de tratamento de todos os itens no conjunto.
2. Modelo de Resposta do Espectador (Viewer Response Model):
   • Uma rede neural flexível que prevê o resultado (ex: visualização, like) condicionado à exposição do item.
   • Assume que, dada a exposição, o resultado não depende diretamente do status de tratamento (o espectador não sabe qual algoritmo foi usado).

B. Estimador Debiased (Deviado) e Inferência

• Estimador Plug-in vs. Debiased: Uma estimativa direta (plug-in) usando redes neurais seria enviesada devido à convergência lenta das funções de "nuisance" (ruído) e à dependência amostral.
• Correção de Viés: Os autores constroem um estimador corrigido (Debiased Estimator) baseado no framework DML. Este estimador adiciona um termo de correção (usando gradientes e Hessiana) que remove o viés de primeira ordem introduzido pela estimação imperfeita das funções de nuisance.
• Inferência sob Correlação Amostral: Uma contribuição metodológica crucial é a extensão da teoria assintótica do DML para amostras correlacionadas. Em experimentos de plataforma, itens aparecem repetidamente em diferentes conjuntos de consideração, criando dependência entre as observações. Os autores provam a consistência $\sqrt{n}$ e a normalidade assintótica sob essa correlação, utilizando teoremas de limites de martingale.

3. Contribuições Principais

1. Substancial: Desenvolvimento de um método confiável para avaliar algoritmos promocionais usando experimentos padrão do lado do criador, evitando a necessidade de designs experimentais de "lado duplo" (double-sided), que são extremamente caros e reduzem o poder estatístico.
2. Metodológica:
   • Introdução de um framework estruturado de redes neurais para modelar interferência competitiva.
   • Extensão da teoria de Double Machine Learning para dados correlacionados (não i.i.d.), permitindo inferência válida em ambientes de mercado onde itens compartilham status de tratamento.
   • Demonstração de que estimadores baseados em propensity (IPW/AIPW) falham na prática devido à variância exponencial com o tamanho do conjunto de consideração.

4. Resultados

Os resultados foram validados através de simulações de Monte Carlo e um grande experimento de campo no Weixin Channels.

• Simulações:

  • O estimador proposto (DB) recuperou o efeito de tratamento verdadeiro com viés próximo de zero e inferência estatística válida.
  • Estimadores DIM (Horvitz-Thompson e Hájek) apresentaram viés substancial e, em alguns cenários, inverteram o sinal do efeito.
  • Estimadores Puro Deep Learning falharam na extrapolação para cenários contrafactuais globais.
  • Estimadores baseados em Propensão (IPW/AIPW) foram teoricamente não enviesados, mas apresentaram variância explosiva (instabilidade) mesmo para conjuntos de consideração moderadamente grandes.

• Experimento de Campo (Weixin Channels):

  • Os autores compararam os resultados do estimador proposto com um "padrão-ouro" obtido via um design experimental de lado duplo (que elimina a interferência, mas é custoso).
  • Resultado Crítico: Para uma das métricas de resultado, o ground truth (experimento de lado duplo) mostrou um efeito negativo significativo (o novo algoritmo era pior).
  • O estimador DB proposto recuperou corretamente esse efeito negativo.
  • Todos os estimadores de benchmark (DIM e PDL) indicaram um efeito positivo significativo, o que teria levado a plataforma a implantar um algoritmo inferior, causando prejuízos.

5. Significado e Conclusão

O artigo demonstra que a interferência algorítmica em plataformas digitais invalida os métodos tradicionais de teste A/B quando aplicados ao lado do criador. Ignorar essa interferência pode levar a decisões de negócios catastróficas (implantar algoritmos piores).

A abordagem proposta oferece uma solução prática e teoricamente robusta, permitindo que plataformas utilizem seus experimentos existentes para tomar decisões seguras sobre a alocação de tráfego, sem os custos proibitivos de reestruturar todo o mercado para experimentos de lado duplo. A extensão da inferência causal para dados correlacionados também abre caminho para aplicações mais amplas em econometria de mercado e painéis.