Predicting missing values: A good idea?

Resumo Técnico: Prever Valores Ausentes. Uma boa ideia?

Declaração do Problema
O artigo aborda uma desconexão crítica no tratamento de dados ausentes dentro da aprendizagem de máquina e da análise estatística. Embora a minimização do Erro Quadrático Médio (MSE) seja o critério dominante para avaliar métodos de imputação — priorizando a precisão das estimativas pontuais —, essa abordagem introduz sistematicamente vieses nas análises subsequentes. A questão central é que as imputações otimizadas por MSE são essencialmente médias condicionais (médias). Ao substituir valores ausentes por essas médias determinísticas, a variabilidade natural dos dados é artificialmente reduzida. Essa redução distorce parâmetros estatísticos fundamentais, incluindo variância, prevalência, correlação, coeficientes de regressão e variância explicada ($R^2$), levando a inferências inválidas e estimativas excessivamente confiantes na modelagem subsequente.

Metodologia
O autor emprega um quadro teórico e estudos de simulação para comparar duas estratégias distintas de imputação em um cenário normal multivariado:

1. Imputação Preditiva (Predict): Este método minimiza o MSE imputando o valor esperado ($\hat{y}$) com base em preditores observados. É determinístico e corresponde à imputação por regressão ou imputação por média condicional.
2. Imputação Estocástica (Draw): Este método adiciona ruído aleatório ($\epsilon$) ao valor previsto, de modo que $\dot{y} = \hat{y} + \epsilon$. O ruído é extraído da distribuição residual do modelo de imputação. Essa abordagem reconhece a incerteza inerente aos dados ausentes.

O estudo utiliza uma configuração de simulação com populações sintéticas representando dados de "alto sinal" ($R^2=0.8$) e "baixo sinal" ($R^2=0.2$). A ausência é introduzida por dois mecanismos: Ausente Completamente ao Acaso (MCAR) e Ausente ao Acaso (MAR). O desempenho desses métodos é avaliado não apenas pelo MSE, mas pelo seu impacto nos parâmetros subsequentes ($\mu, \sigma, P90, \rho, \gamma, R^2$) em modelos de regressão onde a variável imputada serve tanto como preditor quanto como resultado.

Além disso, o artigo avalia três ferramentas de software populares — missForest, softImpute e mice — para verificar se seus comportamentos padrão alinham-se com os paradigmas preditivo ou estocástico.

Principais Resultados

• Viés em Métodos Preditivos: O método "predict" reduz consistentemente o desvio padrão ($\sigma$) e a proporção de casos que excedem o percentil 90 ($P90$). Por outro lado, ele infla correlações ($\rho$), coeficientes de regressão ($\delta$) e a proporção de variância explicada ($R^2$). Esses vieses são mais severos em cenários de baixo sinal, onde a relação entre variáveis é fraca.
• Validade dos Métodos Estocásticos: O método "draw", que incorpora ruído, produz estimativas para variância, correlação e coeficientes que se alinham estreitamente com os parâmetros populacionais verdadeiros, eliminando efetivamente os vieses sistemáticos introduzidos pelos métodos preditivos.
• O Paradoxo do MSE: Embora o método "draw" produza estimativas subsequentes não viesadas, resulta em um MSE aproximadamente duas vezes maior que o do método "predict" ($MSE_{draw} \approx 2 \times MSE_{predict}$). Confiar apenas no MSE identificaria incorretamente o método preditivo viesado como superior.
• Avaliação de Software:
  • missForest comporta-se de maneira semelhante ao método preditivo, introduzindo viés significativo.
  • softImpute mostra resultados mistos; desempenha-se bem na variância em configurações de alto sinal, mas exibe dispersão excessiva e alto MSE em configurações de baixo sinal, enquanto ainda superestima a variância explicada.
  • mice (usando seu quadro bayesiano padrão) produz as estimativas subsequentes mais precisas, preservando a variabilidade dos dados. O artigo nota um problema menor com $P90$ no mice ao usar correspondência de média preditiva, que pode ser resolvido alternando para imputação normal.

Principais Contribuições

1. Demonstração de Viés Sistemático: O artigo fornece evidências empíricas de que minimizar o MSE para imputação distorce sistematicamente propriedades estatísticas subsequentes, especificamente ao comprimir a distribuição de dados em direção à média condicional.
2. Ruído como Solução: Propõe e valida a adição de ruído (imputação estocástica) como um mecanismo simples e eficaz para restaurar a variabilidade natural dos dados e garantir análises subsequentes não viesadas.
3. Crítica às Métricas de Avaliação: O trabalho desafia a dependência da comunidade de aprendizagem de máquina do MSE como a métrica primária para a qualidade da imputação, argumentando que prioriza a precisão pontual sobre a validade estatística da distribuição de dados.
4. Avaliação Prática de Ferramentas: Oferece uma análise comparativa de ferramentas de imputação amplamente utilizadas, destacando que muitos métodos populares de "caixa preta" (como o missForest) perpetuam inadvertidamente os vieses da imputação determinística.

Significado e Alegações
O artigo argumenta que o objetivo da imputação não deve ser recriar perfeitamente os verdadeiros valores ausentes (o que é impossível), mas facilitar análises subsequentes válidas e informativas. O autor afirma que "prever valores ausentes" é apenas uma "boa ideia" se o processo de previsão abraçar a adição de ruído para preservar a variabilidade dos dados.

O significado reside na mudança de paradigma da precisão (minimizar MSE) para a validade (preservar variabilidade). O artigo conclui que incorporar ruído é essencial para prevenir vieses nas estimativas de variância, correlação e coeficientes. Embora reconheça que adicionar ruído aumenta o MSE, o autor postula que isso é um compromisso necessário para contabilizar o erro irredutível inerente aos dados ausentes. O trabalho une rigor estatístico com utilidade prática, sugerindo que abordagens estocásticas são superiores para lidar com dados incompletos em cenários que exigem inferência confiável.