Sequentially-Rerandomized Switchback Experiments

Este artigo propõe os Experimentos de Alternância Rerandomizados Sequencialmente (SRSB), um novo desenho experimental que melhora a precisão e a robustez na avaliação de políticas em plataformas online ao re-randomizar tratamentos em cada período para garantir o equilíbrio de variáveis prognósticas e lidar com heterogeneidade, não estacionariedade e efeitos de carryover.

O essencial

Imagine que você é o gerente de uma grande rede de restaurantes e quer testar uma nova receita de hambúrguer para ver se ela vende mais. O problema é que você não pode testar a receita em todos os restaurantes ao mesmo tempo, nem pode mudar a receita de um único restaurante todos os dias, porque os clientes podem estranhar ou o efeito da receita pode durar vários dias (o cliente prova hoje e volta amanhã).

Aqui entra o conceito do Switchback (o "vai e volta"): você divide a cidade em bairros (unidades operacionais). Na segunda-feira, o Bairro A usa a receita nova e o Bairro B usa a antiga. Na terça-feira, você inverte: Bairro B usa a nova e Bairro A usa a antiga. E assim por diante.

O problema é que os bairros são diferentes. O Bairro A pode ser muito rico e o Bairro B, muito pobre. Se na segunda-feira o Bairro A (rico) testar a receita nova, ele vai vender muito, mas será porque é rico, não porque a receita é boa. Se na terça-feira o Bairro B (pobre) testar, venderá pouco. Isso cria um "ruído" que atrapalha a análise.

Agora, imagine que você tem um assistente superinteligente (o algoritmo do artigo) que faz algo chamado SRSB (Experimentos de Switchback Realeatorizados Sequencialmente).

A Analogia do "Casamento Perfeito"

Pense no experimento como tentar encontrar o par perfeito para uma dança.

1. O Problema do Método Antigo (Randomização Completa):
   Imagine que você sorteia aleatoriamente quem dança com quem a cada música. Às vezes, por sorte, você coloca dois dançarinos experientes juntos. Às vezes, coloca dois iniciantes. Às vezes, coloca um experiente com um iniciante.

   • Resultado: Você não sabe se a dança ficou boa porque o par era bom ou porque a música era boa. A "variância" (o erro) é alta.

2. A Solução do SRSB (Realeatorização Sequencial):
   O assistente SRSB olha para o que aconteceu antes. Ele sabe que o Bairro A teve um dia de chuva na semana passada (o que afetou as vendas) e que o Bairro B teve um feriado.
   Antes de decidir quem testa a receita nova hoje, o assistente diz: "Espera aí! Se eu colocar o Bairro A na receita nova hoje, ele vai vender muito só por causa do feriado de ontem. Isso não é justo. Vamos tentar outra combinação."
   Ele joga o sorteio de novo e de novo, até encontrar um par onde as condições passadas (chuva, feriado, histórico de vendas) estejam equilibradas entre os dois grupos.

   A Metáfora da Balança:
   Pense em uma balança de dois pratos.

   • Sem SRSB: Você coloca os ingredientes aleatoriamente. Um prato fica pesado demais com "chuva" e o outro com "feriado". A balança pende para um lado, e você não sabe se o peso é da receita ou do ingrediente extra.
   • Com SRSB: O assistente coloca os ingredientes, olha a balança e diz: "Ops, o prato da esquerda está muito pesado com 'histórico de vendas'". Ele tira um pouco de lá e coloca ali, ou troca os ingredientes inteiros, até que a balança fique perfeitamente nivelada antes de começar a pesar a receita nova.

Por que isso é genial?

O artigo mostra que, ao fazer esse "ajuste fino" a cada passo (a cada dia ou semana), você elimina o ruído.

• Sem carryover (efeito de arrasto): Se a receita nova só afeta o dia de hoje, o SRSB garante que o grupo de teste e o grupo de controle sejam "gêmeos" em termos de histórico. Assim, qualquer diferença de vendas hoje é quase certeza de ser culpa da receita, não do passado.
• Com carryover (efeito de arrasto): Às vezes, a receita de ontem afeta as vendas de hoje. Se você mudou a receita no Bairro A ontem, ele pode vender bem hoje mesmo com a receita antiga.
  • O Truque do "Bloqueio": Para lidar com isso, o SRSB cria "grupos de permanência". Ele garante que, se um bairro usou a receita antiga ontem, ele tenha a mesma chance de usar a receita antiga ou a nova hoje, mas dentro de um grupo controlado. É como se ele dissesse: "Vamos garantir que os bairros que usaram a receita antiga ontem estejam equilibrados entre si, e os que usaram a nova também." Isso cria grupos estáveis e comparáveis, evitando que o "fantasma" do dia anterior estrague a conta.

O Resumo em Português

Em termos simples, este artigo propõe um método para testar novas ideias em grandes plataformas (como Uber, Airbnb ou redes de varejo) que é muito mais inteligente do que o sorteio aleatório comum.

1. Não é apenas sorteio: Em vez de apenas jogar uma moeda para decidir quem testa o que, o sistema olha para o passado (vendas de ontem, clima, etc.).
2. É um "ajuste contínuo": Se o sorteio inicial criar um desequilíbrio (ex: um grupo muito rico vs. um grupo muito pobre), o sistema descarta esse sorteio e joga de novo, até encontrar um equilíbrio perfeito.
3. Resultado: Você precisa de menos dados para ter certeza do resultado. O "ruído" é eliminado, e você descobre se a nova política funciona de verdade, sem ser enganado por diferenças entre os grupos ou por efeitos que duram mais de um dia.

É como se, em vez de tentar adivinhar se um remédio funciona jogando uma moeda, você garantisse que o grupo de teste e o grupo de controle tivessem exatamente a mesma idade, peso e histórico de saúde antes de dar o remédio. O artigo prova matematicamente que essa "perfeição" no equilíbrio leva a conclusões muito mais rápidas e precisas.

Resumo técnico

1. O Problema

Plataformas online e sistemas de mercado frequentemente avaliam novas políticas através de experimentos que randomizam tratamentos em unidades operacionais (ex.: regiões geográficas, "geos") ao longo de múltiplos períodos de tempo. O método padrão, o teste A/B, torna-se ineficiente ou não confiável nesses contextos devido a quatro desafios principais:

1. Número limitado de unidades: Muitas vezes há poucas unidades (dezenas ou centenas), tornando a inferência assintótica baseada em muitas unidades inviável.
2. Heterogeneidade substancial: Unidades individuais podem ser outliers (ex.: uma região metropolitana com população e atividade econômica muito acima da média), e desequilíbrios nessas unidades afetam a precisão e a interpretação.
3. Não estacionariedade: O ambiente é dinâmico, com sazonalidade forte, tendências persistentes e correlação serial nos resultados.
4. Efeitos de arrasto (Carryover): Intervenções podem ter impactos atrasados ou persistentes em períodos futuros (ex.: uma campanha publicitária afetando o comportamento do usuário dias depois).

Essas características tornam a randomização completa tradicional subótima, pois pode gerar desequilíbrios significativos em variáveis prognósticas (como resultados passados), aumentando a variância do estimador.

2. Metodologia Proposta: SRSB

Os autores propõem os Experimentos de Switchback Rerandomizados Sequencialmente (SRSB). Esta é uma abordagem adaptativa baseada em design que utiliza informações observadas até o tempo $t$ para construir a atribuição de tratamento no tempo $t$.

Princípio Central

Em vez de aceitar a primeira randomização possível, o SRSB gera repetidamente candidatos de atribuição e aceita apenas aquele que satisfaz um critério de equilíbrio (balanceamento) em variáveis prognósticas pré-especificadas ($H_{i,t}$).

• Variáveis de Equilíbrio ($H_{i,t}$): Geralmente incluem covariadas contemporâneas ($X_{i,t}$) e, crucialmente, resultados defasados ($Y_{i,t-1}$).
• Mecanismo: Para cada período $t$, o algoritmo calcula a distância de Mahalanobis entre os grupos de tratamento e controle em relação a $H_{i,t}$. Se a distância estiver abaixo de um limiar pré-definido, a atribuição é aceita; caso contrário, o processo de randomização é repetido.

Dois Cenários de Estudo

A. Cenário sem Efeitos de Arrasto (Carryover)

• Suposição: O resultado em $t$ depende apenas do tratamento em $t$.
• Estimador: Média das diferenças de médias (Difference-in-Means) em cada período, agregada ao longo do tempo.
• Inferência:
  1. Inferência de Randomização Exata: Válida para amostras finitas $(N, T)$, baseada na distribuição de randomização sob uma hipótese nula aguda (efeito constante).
  2. Inferência Assintótica: À medida que $T \to \infty$, utiliza-se um Teorema Central do Limite (CLT) para Martingales. A sequência de erros de estimação forma uma sequência de diferenças de martingale, permitindo inferência assintótica normal mesmo com $N$ fixo.

B. Cenário com Efeitos de Arrasto de Primeira Ordem

• Suposição: O resultado em $t$ depende dos tratamentos em $t$ e $t-1$.
• Desafio: A randomização simples não garante equilíbrio entre os grupos de "permanência" (unidades que permaneceram no tratamento ou no controle em dois períodos consecutivos), que são essenciais para estimar o efeito de arrasto.
• Solução: SRSB Bloqueado (Blocked SRSB):
  • O design estratifica as unidades em dois blocos baseados no tratamento do período anterior ($W_{i,t-1} = 1$ ou $0$).
  • Dentro de cada bloco, aplica-se a rerandomização para atribuir $W_{i,t}$.
  • Isso garante que os grupos "Stay-Treated" ($1 \to 1$) e "Stay-Control" ($0 \to 0$) sejam comparáveis e representativos, estabilizando o tamanho da amostra para esses grupos.
• Inferência: Devido à dependência de duas etapas, a sequência não é um martingale simples. Os autores utilizam argumentos de "Bernstein sums" e teoremas CLT para mixingales para estabelecer a normalidade assintótica do estimador.

3. Contribuições Chave

1. Novo Design Adaptativo: Introdução do SRSB, que integra a rerandomização (comum em ensaios clínicos estáticos) com experimentos de switchback dinâmicos, aproveitando a dependência temporal.
2. Redução de Variância: Demonstra teoricamente que o balanceamento de resultados defasados reduz a variância do estimador de tratamento, especialmente quando há forte autocorrelação nos dados.
3. Fundamentos Teóricos Robustos:
   • Desenvolvimento de inferência exata para amostras finitas (sem depender de grandes $N$).
   • Prova de normalidade assintótica para designs dependentes de tempo usando teoria de martingales e mixingales.
4. Solução para Efeitos de Arrasto: Proposta de um design bloqueado que resolve o problema de desequilíbrio sistemático em grupos de "permanência" sob efeitos de arrasto de primeira ordem.

4. Resultados (Simulações e Estudos de Caso)

Os autores realizaram extensas simulações, incluindo dados semi-sintéticos baseados no Penn World Table (GDP) e modelos de processos de decisão de Markov (MDP).

• Sem Efeitos de Arrasto: O SRSB reduziu consistentemente o Erro Quadrático Médio (RMSE) em comparação com a randomização completa. A redução de variância aumentou conforme a previsibilidade dos resultados passados (maior $\rho$ na correlação serial) aumentou.
• Com Efeitos de Arrasto: O design SRSB Bloqueado superou tanto a randomização completa quanto o SRSB não bloqueado. O bloqueio estabilizou o tamanho dos grupos de comparação, reduzindo a variância e tornando o estimador mais robusto a mudanças no tamanho do efeito.
• Robustez: Em cenários com efeitos de arrasto de ordem superior (não modelados), o viés aumentou conforme a persistência do estado latente cresceu, mas o SRSB manteve vantagens de variância sobre a randomização completa quando o viés era pequeno em relação à variância.
• Dados Reais (Penn World Table): Simulações usando dados macroeconômicos reais confirmaram que o SRSB oferece ganhos práticos significativos em precisão, mesmo com poucas unidades (países) e muitas séries temporais.

5. Significado e Impacto

Este trabalho é significativo para a indústria de tecnologia e pesquisa operacional por várias razões:

• Eficiência em Escala Limitada: Permite que plataformas com poucas unidades geográficas realizem experimentos rigorosos e precisos, superando a limitação de "poucas unidades" que inviabiliza testes A/B tradicionais.
• Gestão de Dinâmica Temporal: Oferece um framework formal para lidar com a não estacionariedade e efeitos de arrasto, problemas crônicos em experimentos de mercado (ex.: Uber, Airbnb, publicidade).
• Inferência Válida: Fornece métodos de inferência estatística (p-valores e intervalos de confiança) que são válidos mesmo quando a randomização depende de resultados passados, uma situação onde métodos analíticos padrão falham.
• Aplicabilidade Prática: O algoritmo é computacionalmente viável e pode ser implementado em sistemas de experimentação online para melhorar a tomada de decisão de produtos e políticas.

Em resumo, o SRSB representa um avanço na metodologia experimental para ambientes dinâmicos, transformando a dependência temporal (geralmente um problema) em uma ferramenta para aumentar a precisão estatística através do balanceamento adaptativo.