Neural Wasserstein Two-Sample Tests

Resumo Técnico: Testes de Duas Amostras de Wasserstein Neural

Definição do Problema
O artigo aborda o problema do teste de homogeneidade de duas amostras, que visa determinar se duas amostras independentes originam-se da mesma distribuição. Esta tarefa torna-se particularmente desafiadora em cenários de alta dimensão, onde testes clássicos frequentemente sofrem uma perda substancial de poder. Embora os métodos baseados em kernels (ex: Máximo Desvio Médio, MMD) sejam populares, eles enfrentam limitações intrínsecas em altas dimensões, incluindo o rápido decaimento do poder sob alternativas justas e a dependência de regimes assintóticos complexos envolvendo tanto a dimensão quanto o tamanho da amostra. Por outro lado, embora a distância de Wasserstein preserve a geometria distributiva, sua aplicação direta é dificultada pela maldição da dimensionalidade, levando a taxas de convergência lentas. Os métodos de Wasserstein baseados em projeção existentes frequentemente dependem de projeções únicas ou exigem reamostragem computacionalmente dispendiosa (permutação/bootstrap) para calibrar os p-valores.

Metodologia
Os autores propõem o "Teste de Wasserstein Neural", um procedimento auxiliado por aprendizado baseado na distância de Wasserstein de projeção 1. A metodologia central utiliza a dualidade de Kantorovich–Rubinstein para expressar a distância de Wasserstein de projeção como um supremo sobre funções 1-Lipschitz e direções de projeção.

O procedimento envolve os seguintes componentes principais:

1. Divisão de Dados: Para desacoplar a dependência entre estimativa e teste, o conjunto de dados é dividido em um subconjunto de treinamento ($D_{fit}$) e um subconjunto de teste ($D_{test}$).
2. Estimativa de Dois Passos:
   • Passo 1 (Direções de Projeção): Em $D_{fit}$, o método aprende direções de projeção discriminativas $U$ no manifold de Stiefel $S_{d,k}$. Para se adaptar a níveis de esparsidade desconhecidos, os autores consideram tanto a estimativa não regularizada quanto a estimência sob restrições de esparsidade $\ell_1$ e $\ell_0$. Esta otimização é realizada usando um método de gradiente proximal para otimização em manifolds (ManPG).
   • Passo 2 (Função Testemunha): Usando a projeção estimada $\hat{U}$, uma função testemunha 1-Lipschitz $f$ é aprendida nos dados projetados usando redes neurais profundas (DNNs) com ativação ReLU. A arquitetura da rede é projetada para crescer com o tamanho da amostra para garantir poder de aproximação suficiente.
3. Agregação do Tipo Máximo: Para evitar o ajuste delicado da dimensão de projeção $k$ e dos parâmetros de esparsidade (força de regularização), o método agrega estatísticas sobre um conjunto candidato de hiperparâmetros. Um estatístico do tipo máximo é construído tomando o valor absoluto máximo de estatísticos padronizados através de todas as configurações candidatas.
4. Calibração Pivotal: Diferente das abordagens baseadas em permutação, o estatístico de teste proposto é mostrado para possuir uma distribuição nula limite pivotal. Especificamente, sob a hipótese nula, o estatístico agregado converge para o máximo absoluto de um vetor Gaussiano padrão. Isso permite a calibração assintótica sem necessidade de reamostragem.

Principais Contribuições

• Aproximação Neural da Distância de Wasserstein de Projeção: O artigo introduz um framework que combina otimização de manifold para direções de projeção com redes neurais profundas para aproximar a função testemunha 1-Lipschitz ideal. Esta estratégia estima efetivamente o supremo na fórmula de dualidade.
• Adaptabilidade Livre de Ajuste: Ao empregar uma agregação do tipo máximo sobre um conjunto candidato de dimensões de projeção e parâmetros de esparsidade, o método se adapta a dimensões de projeção e níveis de esparsidade desconhecidos sem exigir a seleção explícita de parâmetros, melhorando assim o poder e reduzindo a complexidade metodológica.
• Validade Assintótica Independente de Distribuição: Os autores estabelecem um limite do tipo Berry–Esseen para a aproximação Gaussiana do estatístico de teste. Crucialmente, a distribuição nula limite é pivotal (independente da distribuição), dependendo apenas da dimensão do conjunto candidato, e não da dimensão ambiente $d$ ou das distribuições populacionais subjacentes. Isso contrasta com os testes MMD studentizados, cujos limites dependem de regimes divergentes de dimensão e tamanho de amostra.
• Eficiência Computacional: A natureza pivotal do estatístico de teste elimina a necessidade de métodos de reamostragem computacionalmente intensivos (permutação ou bootstrap), oferecendo economias computacionais substanciais.

Resultados

• Garantias Teóricas: O artigo prova a validade e consistência do teste proposto. Sob a hipótese nula, o estatístico de teste converge em distribuição para $\max_{j} |Z_j|$ onde $Z \sim N(0, I_m)$. A análise de poder demonstra que o teste é consistente se o sinal (medido pela distância de Wasserstein de projeção) exceder um limiar específico que depende do tamanho da amostra, dimensão e complexidade da rede.
• Estudos de Simulação: Simulações extensas em quatro modelos (deslocamento de média, deslocamento de variância, diferentes marginais e diferentes distribuições conjuntas) mostram que o método proposto supera consistentemente as abordagens existentes, incluindo MMD, MMD com kernels profundos, Distância de Energia, KFDA (Análise Discriminante de Fisher de Kernel) e testes de Wasserstein Projetados padrão. Notavelmente, o método proposto mantém alto poder conforme a dimensão aumenta, enquanto os concorrentes frequentemente exibem um rápido decaimento de poder.
• Aplicação em Dados Reais: O método foi aplicado a dados de metilação de DNA do The Cancer Genome Atlas (TCGA) para distinguir entre Glioma de Baixo Grau (LGG) e Glioblastoma Multiforme (GBM). O teste detectou diferenças significativas entre os grupos (p-valor < 0,001), consistente com a literatura biológica existente, e revelou padrões distintos nas estruturas de média e covariância.

Significância e Alegações
O artigo afirma que o Teste de Wasserstein Neural oferece uma solução robusta para testes de duas amostras de alta dimensão ao mitigar efetivamente a maldição da dimensionalidade através de projeções aprendidas e aprendizado profundo. Sua significância reside em três áreas principais:

1. Escalabilidade: A distribuição limite pivotal permite o cálculo escalável ao contornar a reamostragem, um gargalo importante em testes de permutação de alta dimensão.
2. Robustez à Dimensão: O desempenho do método não se deteriora significativamente com o aumento da dimensionalidade, ao contrário dos métodos baseados em kernel que frequentemente perdem poder em regimes de alta dimensão.
3. Adaptabilidade: A estratégia de agregação do tipo máximo remove a necessidade de ajuste manual de hiperparâmetros críticos (dimensão de projeção e esparsidade), tornando o método mais prático e menos sensível à especificação do usuário.

Os autores reconhecem que, embora a divisão de dados garanta inferência válida, isso reduz o tamanho efetivo da amostra para estimativa. Eles observam que se essa perda é inevitável em modelos de alta dimensão permanece uma questão aberta para investigações futuras. O método depende do poder expressivo das redes neurais para aproximar a função testemunha e da capacidade da otimização de manifold para encontrar direções discriminativas, demonstrando que essas ferramentas podem ser integradas com sucesso em frameworks de testes estatísticos rigorosos.