Workload-Preserving Differentially Private Synthetic Data for Causal Inference via Maximum-Entropy Calibration

Resumo Técnico: Dados Sintéticos com Preservação de Carga de Trabalho e Privacidade Diferencial para Inferência Causal via Calibração de Máxima Entropia

1. Definição do Problema

A privacidade diferencial (DP) é cada vez mais utilizada para liberar dados tabulares sensíveis para uso público, frequentemente por meio de microdados sintéticos gerados através de um pipeline de "selecionar–medir–reconstruir". Embora os métodos de última geração (ex: MWEM, AIM, Private-PGM) alcancem uma forte fidelidade distributiva ao preservar marginais de baixa dimensão genéricas, eles frequentemente falham em suportar inferência causal válida.

Estimandos causais, como o Efeito Médio do Tratamento (ATE), dependem de propriedades estruturais específicas — nomeadamente, o equilíbrio entre os braços de tratamento e os momentos condicionais do desfecho — que as marginais genéricas não necessariamente preservam. Além disso, abordagens existentes para inferência causal sob DP frequentemente liberam apenas um estimando pontual ou falham em contabilizar a inflação da variância causada pelo ruído da DP, levando a intervalos de confiança inválidos (erro do Tipo I inflado) quando dados sintéticos são tratados ingenuamente como reais.

A questão central abordada é: Quais consultas de DP devem ser preservadas por um mecanismo de dados sintéticos para permitir a inferência causal válida, e quais são os trade-offs fundamentais entre privacidade e causalidade?

2. Metodologia

Cargas de Trabalho Causais (Causal Workloads)
Os autores propõem cargas de trabalho causais, um conjunto de consultas de DP projetadas em torno dos momentos ortogonais usados por estimadores causais duplamente robustos (DR). Em vez de medir marginais genéricas, o mecanismo mede:

1. Massas de características por braço de tratamento: $q^{(0)}_t = \frac{1}{n} \sum \mathbb{1}\{T_i=t\} \phi(X_i)$
2. Momentos de características ponderados pelo desfecho: $q^{(1)}_t = \frac{1}{n} \sum \mathbb{1}\{T_i=t\} Y_i \phi(X_i)$

Aqui, $\phi$ é um mapa de características (ex: bins discretizados ou splines). Esses quatro blocos correspondem aos momentos necessários para identificar scores ortogonais para funções de incômodo (nuisance functions) projetadas sobre a base de características.

Rotas de Liberação e Reconstrução
O vetor de carga de trabalho ruidoso $\tilde{q}$ é liberado uma única vez. Ele suporta duas rotas subsequentes:

1. Rota de Momento Direto ($q$-route): Um estimador estável (ex: regressão ridge projetada ou IPW/AIPW clipado) é avaliado diretamente como uma função de $\tilde{q}$.
2. Rota de Dados Sintéticos: Uma distribuição de máxima entropia $P^{syn}$ é reconstruída para corresponder aos momentos ruidosos (via calibração estilo Private-PGM). Registros sintéticos são amostrados de $P^{syn}$ e analisados usando estimadores causais padrão.

Seleção Adaptativa (CAUSAL-AIM)
Para melhorar a eficiência, os autores introduzem o CAUSAL-AIM, um mecanismo adaptativo que seleciona iterativamente grupos de características para medição. Ele utiliza uma estimativa privada de utilidade causal (baseada em resíduos de score ortogonal) para selecionar o próximo bloco de coordenadas, reajustando o modelo de máxima entropia após cada etapa.

Inferência Consciente de Ruído (NA+MI)
Para abordar a invalidade dos intervalos de confiança ingênuos, o artigo propõe a Imputação Múltipla Consciente de Ruído (NA+MI). Este procedimento trata os momentos ruidosos liberados como observações de momentos verdadeiros latentes. Ele extrai múltiplas realizações posteriores dos momentos, reconstrói conjuntos de dados sintéticos para cada uma, computa estimativas causais e as combina usando as regras de Rubin. Isso propaga explicitamente o ruído da DP para a quantificação de incerteza final.

3. Contribuições Teóricas

O artigo fornece limites de erro de amostra finita que decompõem o erro do ATE em cinco termos distintos:

1. Erro de Amostragem: Erro padrão proveniente do tamanho da amostra finita.
2. Erro de Privacidade: Erro introduzido pelo ruído de DP na liberação da carga de trabalho.
3. Erro de Aproximação da Carga de Trabalho: Viés decorrente da representação dos modelos verdadeiros de desfecho/propensão dentro da base de características escolhida $\phi$.
4. Erro de Monte Carlo: Erro proveniente do tamanho da amostra sintética finita.
5. Erro de Calibração: O hiato entre as medições ruidosas e a distribuição reconstruída (devido a restrições inviáveis ou tolerância do solver).

A teoria estabelece que estimadores causais (como ridge-plug-ins e clipped IPW/AIPW) são Lipschitz estáveis em relação a perturbações nos momentos da carga de trabalho. Essa estabilidade permite que o limite de ruído de privacidade seja mapeado diretamente para o erro de estimativa causal. Uma regra de design chave derivada é que, para manter a distorção da DP abaixo do ruído de amostragem, o orçamento de privacidade $\epsilon$ deve escalar com $\sqrt{\log m / n}$.

4. Resultados Experimentais

Os métodos foram avaliados em quatro benchmarks (IHDP, Twins, ACIC 2016, LaLonde) e um estudo ACS semi-sintético em vários orçamentos de privacidade ($\epsilon \in \{0.5, 1, 2, 5\}$).

• Precisão de Ponto vs. Cobertura: Cargas de trabalho genéricas (MST, AIM) geralmente alcançam menor RMSE de ponto em orçamentos de privacidade frouxos ($\epsilon \ge 2$). No entanto, em orçamentos estritos ($\epsilon \le 1$), Causal Workload + NA+MI torna-se competitivo ou superior em RMSE em vários datasets.
• Incerteza Calibrada: Análises ingênuas de dados sintéticos (tratando-os como reais) resultam em subcobertura severa (frequentemente $<35\%$ em $\epsilon \le 1$). Causal Workload + NA+MI é o único método que alcança cobertura quase nominal (99,8–100%) em todos os benchmarks sob orçamentos de privacidade estritos.
• Adaptativo vs. Fixo: O CAUSAL-AIM reduz o RMSE significativamente em comparação com cargas de trabalho fixas em orçamentos moderados ($\epsilon \ge 1$), mas pode degradar o desempenho em orçamentos muito estritos ($\epsilon = 0.5$), onde o custo de gastos adicionais de privacidade para seleção supera o benefício de um melhor direcionamento de características.
• Reuso: Uma única liberação de dados sintéticos com DP suporta análises de ATE, ATT e subgrupos sem gastos adicionais de privacidade, uma propriedade não disponível para estimadores diretos de DP.
• Trade-off de Fidelidade: Cargas de trabalho genéricas frequentemente dominam métricas de fidelidade marginal (Distância de Variação Total), mas isso não se correlaciona com a utilidade causal (precisão do ATE ou cobertura).

5. Significância e Alegações

O artigo argumenta que a fidelidade distributiva é insuficiente para a inferência causal. A inferência causal válida requer a preservação de momentos causais específicos (equilíbrio de braço de tratamento e interações desfecho-característica) em vez de marginais genéricas.

A principal significância reside no trade-off entre precisão de ponto e quantificação de incerteza válida:

• Quando o objetivo é fidelidade marginal ampla ou análise exploratória, cargas de trabalho genéricas podem bastar.
• Quando o objetivo é inferência causal válida com intervalos de confiança calibrados, especialmente sob orçamentos de privacidade estritos, cargas de trabalho causais combinadas com inferência consciente de ruído (NA+MI) são necessárias.

Os autores concluem que, embora métodos genéricos possam oferecer melhores estimativas pontuais em regimes de baixa privacidade, eles falham em fornecer quantificação de incerteza confiável. O framework proposto permite que analistas realizem análises de ATE, ATT e subgrupos a partir de uma única liberação, propagando corretamente a incerteza introduzida pela privacidade diferencial.

Limitações reconhecidas pelos autores:

• A abordagem depende da escolha de um mapa de características $\phi$, introduzindo viés de aproximação se os modelos verdadeiros forem altamente não lineares.
• Intervalos de confiança válidos podem ser amplos quando o ruído de DP domina o erro de amostragem.
• A implementação atual foca na família de reconstrução AIM/Private-PGM.
• A teoria fornece limites ao nível de momentos, mas não analisa totalmente cada rotina de ajuste de incômodo (nuisance-fitting) subsequente nas linhas amostradas dos dados sintéticos.