Resumo Técnico: Da Predição à Incrementalidade: Otimização Causal para Direcionamento e Recomendação em Larga Escala

1. Definição do Problema

Sistemas de direcionamento (targeting) e recomendação em larga escala em plataformas online modernas (ex: publicidade, marketing, notificações) dependem tradicionalmente de modelagem preditiva. Esses sistemas treinam modelos para estimar probabilidades de resposta do usuário (ex: probabilidade de clique ou conversão) e ranqueiam itens com base nessas predições.

No entanto, os autores argumentam que esse paradigma é fundamentalmente desalinhado com os objetivos de negócio em cenários de marketing e incentivos, onde o objetivo é o impacto incremental (ex: "Este usuário converteria por causa da intervenção, ou ele converteria de qualquer maneira?").

• O Desalinhamento: Uma alta resposta prevista não equivale necessariamente a um alto valor causal. Usuários que agiriam independentemente de uma intervenção (os "always-takers" ou "sempre receptores") são sistematicamente alvo de excesso de direcionamento, desperdiçando recursos.
• A Lacuna: As abordagens causais existentes focam frequentemente em tomada de decisão local (ranqueamento) ou avaliação de política sem abordar restrições globais (orçamentos, limites de frequência, equidade). Por outro lado, sistemas de otimização com restrições tipicamente utilizam pontuações preditivas não causais como entradas, levando a uma alocação de recursos subótima.

2. Metodologia

O artigo propõe um framework centrado na decisão que otimiza conjuntamente efeitos causais sob restrições globais. O sistema integra três componentes principais sob um único objetivo:

A. Rede Neural Causal (A Cabeça "DragonBandit")

O sistema estima Efeitos de Tratamento Individual (ITE) usando uma arquitetura DragonNet modificada:

• Arquitetura: Um codificador compartilhado $\Phi$ alimenta três cabeças: duas cabeças de resultado ($\mu_1, \mu_0$) para resultados potenciais sob tratamento e controle, e uma cabeça de propensão ($e$) para a probabilidade de atribuição de tratamento.
• Backbone de Transformer: Para lidar com interações sequenciais do usuário (pontos de contato de marketing), o modelo incorpora um codificador Transformer. Este processa características temporais (recência, cadência de engajamento) usando embeddings aprendidos para tipos de interação, dia da semana e codificações posicionais senoidais.
• Extensão Multi-Resultado: Para suportar múltiplos produtos sem necessidade de retreinamento, o modelo utiliza embeddings de resultado. Uma matriz de embedding compartilhada codifica atributos do produto (estruturados ou derivados de LLM), permitindo que o modelo pontue novos produtos não vistos via similaridade de produto escalar com a representação de estado do usuário.
• Objetivo de Treinamento: O modelo minimiza uma perda composta que inclui predição de resultado (BCE), predição de propensão, regularização direcionada baseada na Função de Influência Eficiente (EIF) para ATE, e uma perda de reconstrução de autoencoder para os embeddings de resultado.

B. Exploração Consciente de Incerteza (Neural Bandit)

Para enfrentar loops de feedback e melhorar a identificação causal (overlap), o sistema emprega Thompson Sampling Neural:

• Mecanismo: Em vez de usar estimativas de ponto determinísticas, o sistema amostra da distribuição posterior dos parâmetros da rede.
• Aproximação: Utiliza uma Aproximação de Laplace Linearizada (LLA) centrada na solução de Máxima Verossimilhança a Posteriori (MAP). Esta calcula a curvatura do log-verossimilhança para derivar uma distribuição Gaussiana sobre os logits, permitindo uma exploração consciente da incerteza com overhead de serviço mínimo em comparação com métodos como Bayes by Backprop.
• Papel: Isso garante que o sistema explore ações com alta incerteza, evitando a dinâmica de "rico fica mais rico" e melhorando a qualidade dos dados para futuras estimativas causais.

C. Alocação Restrita (Programação Linear de Larga Escala)

As pontuações incrementais amostradas são enviadas para um solver de programação linear (LP) de larga escala baseado em dual para coordenar decisões entre milhões de usuários e itens:

• Formulação: O problema maximiza a soma das recompensas incrementais amostradas sujeita a restrições globais (orçamentos, limites de volume, limites de frequência).
• Escalabilidade: Para lidar com dezenas de milhões de variáveis, os autores utilizam Decomposição Dual. Eles relaxam as restrições binárias para probabilidades e resolvem o problema dual usando ascensão acelerada por Nesterov. O minimizador primal se decompõe por usuário, tornando o custo por iteração linear no número de usuários e itens ($O(|U| \cdot |I|)$), em vez de cúbico.
• Controle de Entrega: Um controlador de feedback ajusta as metas de custo com base nas taxas de entrega realizadas (ex: vitórias em leilões, taxas de retorno do usuário) para garantir que o sistema cumpra os requisitos de ritmo (pacing) sem entregar demais ou de menos.

3. Principais Contribuições

1. Framework de Decisão Unificado: Uma formulação que alinha estimativa causal, exploração e alocação restrita sob um único objetivo, indo além do padrão comum de otimizar sinais preditivos com alocação heurística.
2. Extensões Arquiteturais:
   • Um DragonNet aumentado por Transformer para modelar sequências de marketing temporais.
   • Uma cabeça de embedding de resultado compartilhada permitindo pontuação condicionada a atributos e multi-resultado para produtos de cold-start.
3. Pipeline de Produção: Um pipeline totalmente integrado combinando a cabeça causal, exploração de bandit neural e um solver de LP baseado em dual.
4. Validação Empírica:
   • Offline: Simulações no Open Bandit Dataset (OBD) mostrando que a modelagem incremental + otimização restrita supera as baselines de propensão e apenas de ranqueamento.
   • Online: Um teste A/B de oito semanas no tráfego de marketing do LinkedIn Feed.

4. Resultados

• Simulações Offline:
  • Turno único (Single-turn): A abordagem de "Modelagem Incremental + Otimização Restrita" alcançou o maior retorno líquido ($0.46 vs. $0.39 para propensão + restrição) e reduziu significativamente os custos ao identificar usuários com alta probabilidade de converter organicamente (aumentando as taxas de "não-recomendação").
  • Múltiplos turnos (Multi-turn): O "Modelo Incremental Bandit" superou os vieses iniciais de dados e superou variantes gananciosas (greedy) após cerca de 50 rodadas, demonstrando o valor de longo prazo da exploração.
• Teste A/B Online:
  • Implementado no tráfego de marketing do LinkedIn Feed contra um stack de propensão de dois níveis do Business-As-Usual (BAU).
  • Métrica Primária: O braço de tratamento alcançou um lift estatisticamente significativo de +7,20% na métrica primária de longo prazo ($p=0,041$, IC 95%: [0,31%, 14,09%]).
  • Sucesso Operacional: O sistema gerenciou com sucesso o ritmo de orçamento e as restrições de entrega, evitando as armadilhas de "subentrega" observadas em testes iniciais sem o controlador de feedback.

5. Significância e Alegações

O artigo afirma demonstrar a viabilidade da otimização causal em escala de produção sob complexas restrições de negócio. Sua significância reside em:

• Mudança de Paradigma: Mudar de "ranquear usuários de alta resposta" para "escolher usuários com alto impacto incremental" via alocação coordenada globalmente.
• Implantação Prática: Fornecer um roteiro para integrar inferência causal em sistemas industriais, abordando obstáculos do mundo real como construção de dados de treinamento (janelas de contexto/tratamento/resultado), controle de custo e estimativa de entrega.
• Escalabilidade: Provar que modelos causais complexos combinados com otimização restrita podem rodar eficientemente na escala de centenas de milhões de membros usando decomposição dual e aproximações de incerteza leves.

Os autores enfatem que o sucesso do sistema depende não apenas da arquitetura do modelo, mas das melhorias pragmáticas na construção de dados e controle de entrega, que são frequentemente invisíveis em simulações offline, mas críticas para o ROI do mundo real.