Resumo Técnico: Deslocamento de Distribuição em Imputação de Dados Faltantes

Formulação do Problema

O artigo aborda o desafio fundamental da imputação de dados faltantes, focando especificamente na discrepância entre a distribuição dos dados observados utilizada para treinamento e a distribuição de dados completos necessária para avaliação. Embora muitos métodos de imputação de última geração (por exemplo, GAIN, MIWAE, MICE, MissForest) operem sob um framework de minimização de risco, eles geralmente treinam sobre entradas observadas sem corrigir explicitamente o deslocamento de distribuição induzido pelo mecanismo de falta.

Os autores formalizam o problema como a minimização do risco de Erro Quadrático Médio (MSE) sobre a distribuição de dados completos. Eles demonstram que, quando a probabilidade de falta depende dos dados (especificamente sob a suposição de Falta Aleatória (MAR)), a distribuição de treinamento (dados observados) e a distribuição alvo (dados completos) diferem. Isso cria um problema de deslocamento de covariáveis, onde a minimização empírica padrão de risco sobre dados observados produz estimadores enviesados para o risco de dados completos.

Metodologia

Fundamentação Teórica

A contribuição teórica central é a derivação do risco de imputação como uma expectativa ponderada por importância sobre os dados observados.

• Decomposição do Risco: O risco global de MSE é decomposto em uma soma de riscos coordenada a coordenada. Para uma coordenada específica $i$ com falta, o risco $J_i(g_i)$ é definido sobre a subpopulação não observada ($R_i=0$).
• Conexão com Deslocamento de Covariáveis: Sob a suposição MAR ($p(r|x) = p(r|x_{obs})$) e uma condição de sobreposição, os autores mostram que o risco sobre a subpopulação não observada pode ser reescrito como uma expectativa sobre a subpopulação observada ($R_i=1$) ponderada por um fator de importância:
  $$w_i(x_{obs}, r_{\neg i}) = \frac{p(x_{obs}, r_{\neg i} | R_i = 0)}{p(x_{obs}, r_{\neg i} | R_i = 1)}$$
  Este peso corrige o deslocamento na distribuição marginal das covariáveis entre os grupos observados e não observados. Métodos existentes mostram-se implicitamente omitindo este termo de ponderação, otimizando efetivamente para a distribuição errada.

Algoritmo Proposto: Imputação Iterativa Ponderada

Para operacionalizar essa teoria, os autores propõem um algoritmo de Imputação Iterativa Ponderada (Algoritmo 1), que estende a abordagem iterativa padrão de rodízio (por exemplo, MICE, HyperImpute).

1. Framework Iterativo: O algoritmo percorre variáveis parcialmente observadas. Em cada etapa, um modelo de imputação condicional $g_i$ é ajustado para a variável alvo usando os valores atuais de todas as outras variáveis como preditores.
2. Risco Surrogado: Em vez de minimizar a perda de reconstrução padrão, o algoritmo minimiza um risco surrogado que incorpora pesos de importância estimados:
   $$J_i^{(t)}(g_i) = \mathbb{E}\left[ w_i(\hat{X}_{\neg i}^{(t)}) (g_i(\hat{X}_{\neg i}^{(t)}) - X_i)^2 \mid R_i = 1 \right]$$
3. Estimação de Pesos: Como os pesos verdadeiros dependem de distribuições desconhecidas, eles são estimados em cada iteração (Algoritmo 2) usando um modelo de classificação binária (regressão logística) para estimar a probabilidade de falta $p(R_i=1 | \hat{X}_{\neg i})$. Os pesos são então calculados como a razão inversa de probabilidade.
4. Estabilização Prática: Para gerenciar a alta variância frequentemente associada à ponderação por importância, os autores empregam várias técnicas de estabilização:
   • Limitação (clipping) dos pesos nos percentis 5 e 95.
   • Remoção de características com variância próxima de zero.
   • Introdução de um parâmetro de temperamento $\gamma$ (onde os pesos tornam-se $w_i^\gamma$) para controlar a influência dos pesos, ajustado via validação cruzada.
   • Uma estratégia de "início quente" (warm-starting) para ajustar $\gamma$ e reduzir a sobrecarga computacional.

Principais Contribuições

1. Formulação Teórica: O artigo estabelece rigorosamente que a imputação sob MAR é equivalente a uma coleção de problemas de deslocamento de covariáveis, derivando os pesos de importância específicos necessários para alinhar a distribuição de dados observados com a distribuição de dados completos.
2. Algoritmo Inovador: Introduz um algoritmo iterativo prático de rodízio que integra esses pesos de importância ao objetivo de treinamento, corrigindo explicitamente o deslocamento de distribuição.
3. Validação Empírica: O método é comparado com baselines sem ponderação (usando classes de modelos condicionais idênticas) e métodos de última geração em diversos conjuntos de dados (dados tabulares, séries temporais e imagens) e classes de modelos (Linear, Random Forest, MLP).

Resultados Experimentais

Os autores avaliaram seu método em oito conjuntos de dados, simulando condições MAR com diferentes intensidades de dependência entre a falta e as covariáveis observadas.

• Ganhos de Desempenho: A abordagem ponderada reduziu consistentemente o Erro Quadrático Médio Raiz (RMSE) e a distância de Wasserstein (WD) em comparação com baselines sem ponderação.
  • Redução média de 3% no RMSE e 7% na distância de Wasserstein.
  • As melhorias foram mais pronunciadas para modelos mais simples (Linear) e em configurações com forte deslocamento de covariáveis (alta dependência MAR).
• Expressividade do Modelo: A análise teórica e os resultados empíricos indicam que o benefício da ponderação diminui à medida que a expressividade do modelo condicional aumenta (por exemplo, Random Forests e MLPs). Isso é atribuído ao compromisso viés-variância; modelos altamente expressivos podem aproximar bem a função alvo mesmo sem ponderação explícita, enquanto modelos mais simples dependem mais fortemente da correção.
• Tarefas de Descendência: Em tarefas de regressão e classificação de descendência, a imputação ponderada geralmente levou a melhorias estatisticamente significativas no desempenho preditivo, particularmente para modelos lineares e em comparação com baselines sem imputação.
• Robustez: O método mostrou degradação gradual de desempenho sob violações da suposição MAR (MNAR) ou má especificação do modelo de pesos, em vez de falha abrupta, desde que os principais drivers da falta fossem capturados nos dados observados.
• Eficiência: O custo computacional foi gerenciável, com tempos de execução aumentando apenas ~10% para modelos complexos (RF/MLP) e mostrando acelerações significativas para modelos lineares devido a detalhes específicos de implementação.

Significado e Alegações

O artigo afirma que o deslocamento de distribuição é um problema inerente e frequentemente negligenciado na imputação baseada em risco. Ao enquadrar a imputação como um problema de deslocamento de covariáveis, os autores fornecem uma justificação principiológica para o uso de ponderação por importância.

• O significado reside em demonstrar que contar explicitamente com o deslocamento entre as distribuições de dados observados e completos leva a uma imputação mais precisa e a uma melhor preservação da distribuição subjacente dos dados (fidelidade).
• Os autores posicionam seu trabalho como um refinamento necessário aos frameworks existentes de minimização de risco, argumentando que, sem essa correção, os modelos de imputação são otimizados para a distribuição de dados observados em vez da distribuição de dados verdadeiros necessária para inferência válida.
• O artigo permanece modesto quanto às limitações, reconhecendo que o método pode oferecer ganhos limitados em regimes de MAR fraco ou com modelos altamente expressivos onde o erro de aproximação já é baixo, e que o desempenho depende da qualidade da estimação dos pesos.