📊 statistics

Maximum Mean Discrepancy with Unequal Sample Sizes via Generalized U-Statistics

Este artigo estende o teste de duas amostras por Máxima Discrepância de Média (MMD) para tamanhos de amostra desiguais ao aproveitar estatísticas-U generalizadas, eliminando, assim, a necessidade de descartar dados, fornecendo novas caracterizações assintóticas e critérios de otimização de potência, e esclarecendo a relação entre estimadores degenerados e valores de MMD não nulos.

Autores originais: Aaron Wei, Milad Jalali, Danica J. Sutherland

Publicado 2026-07-10

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Aaron Wei, Milad Jalali, Danica J. Sutherland

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você é um detetive tentando resolver um mistério: Será que estes dois montes de dados são realmente diferentes ou são apenas ruído aleatório de uma mesma fonte?

No mundo do aprendizado de máquina, isso é chamado de "teste de duas amostras". Você tem um monte de fotos de um grupo de controle (vamos chamá-lo de Monte A) e um monte de um grupo de tratamento (chamaremos de Monte B). Seu trabalho é descobrir se o tratamento mudou algo. Para fazer isso, os detetives usam uma ferramenta chamada Discrepância de Média Máxima (MMD). Pense na MMD como uma balança super sensível que pesa a "forma" das nuvens de dados. Se as nuvens parecerem diferentes, a balança inclina e você sabe que há uma diferença.

O Probleo Antigo: A Regra dos "Lados Iguais"

Por muito tempo, esta balança tinha uma regra estranha e irritante: ela só funcionava se você tivesse exatamente o mesmo número de fotos no Monte A e no Monte B.

No mundo real, isso é um pesadelo. Talvez você tenha 1.000 fotos de uma doença rara (Monte A) e 10.000 fotos de pessoas saudáveis (Monte B). Os métodos antigos diziam: "Ah não, não podemos usar isso! Devemos jogar fora 9.000 de suas fotos saudáveis para que os montes coincidam". Isso é como jogar fora 90% da sua evidência só porque as caixas não têm o mesmo tamanho. Isso desperdiça dados e torna seu teste mais fraco.

A Nova Solução: A Escala "Generalizada"

Este artigo introduz uma nova maneira de usar a escala MMD que não se importa com tamanhos de montes desiguais. Os autores, Aaron Wei, Milad Jalali e Danica J. Sutherland, descobriram como fazer a matemática funcionar mesmo quando um monte é minúsculo e o outro é enorme.

Eles fizeram isso atualizando a matemática de um "U-estatística" padrão (que exige lados iguais) para uma "U-estatística Generalizada".

Aqui está o truque de mágica que eles descobriram:
Em vez de escalar o resultado com base no total de fotos (o que fica confuso quando os tamanhos são diferentes), eles descobriram que você deve escalar com base no menor monte.

Jeito Antigo: Escalar por $n_A + n_B$ .
Jeito Novo: Escalar por $\min(n_A, n_B)$ .

Eles provaram matematicamente que, se você usar o tamanho do menor monte como sua régua, os resultados permanecem estáveis e precisos, não importa o quão desproporcionais sejam seus dados. Eles até mostraram que, se você tiver um monte minúsculo de 100 itens e um monte gigante de 10.000, você ainda pode obter uma resposta muito precisa usando os 100 como sua âncora.

Uma Reviravolta Surpreendente: O Mistério da "Degeneração"

Enquanto corrigiam o problema do tamanho, os autores depararam-se com algo que pode surpreender outros especialistas na área em relação à relação entre a pontuação MMD e a "degenerescência" da matemática.

Normalmente, as pessoas pensam: "Se a pontuação MMD for zero, os dois montes são idênticos e a matemática torna-se 'degenerada' (ou seja, a variância é zero)".
Mas os autores provaram que o inverso nem sempre é verdadeiro. Eles mostraram que é possível ter um estimador degenerado (variância zero) mesmo quando a pontuação MMD NÃO é zero.

Em outras palavras, você pode ter uma situação em que os dois montes são de fato diferentes (então a MMD é não-zero), mas a matemática se comporta de uma maneira "degenerada" que geralmente só acontece quando os montes são idênticos. Eles construíram um exemplo específico onde os montes são distintos, mas o estimador é degenerado. No entanto, eles também provaram que, na maioria das situações comuns do mundo real (como o uso de kernels gaussianos padrão em dados com formas sobrepostas), esse cenário estranho de "MMD não-zero mas degenerado" não acontece. Portanto, para fins práticos, você não precisa entrar em pânico, mas a matemática agora é mais honesta sobre esses casos extremos.

O "Superpoder": Usando Todos os Seus Dados

A melhor parte deste novo método é que ele permite que você use cada pedaço de dado que possui.

O Jeito Antigo: Se você tivesse 1.000 casos raros e 10.000 casos comuns, você jogaria fora 9.000 casos comuns para fazer uma luta justa.
O Jeito Novo: Você mantém todos os 11.000.

Os autores realizaram simulações usando dados reais de imagens (CIFAR-10 e CIFAR-10.1). Eles montaram um teste onde um grupo tinha 1.000 imagens e o outro tinha $r \times 1.000$ imagens (onde $r$ era 1, 2, 4 ou 8).

Quando usaram o método antigo (jogando fora dados), o poder do teste era razoável.
Quando usaram o novo método (mantendo todos os dados), o teste tornou-se significativamente mais poderoso.
Em seus experimentos, quando a proporção era de 8 para 1, o novo método detectou a diferença 99,9% das vezes, comparado a apenas 82,1% do método antigo.

O Que Eles Não Fizeram (E o Que Eles Descartaram)

É importante saber o que este artigo não afirma:

Eles não inventaram uma nova maneira de escolher o melhor kernel (a "lente" através da qual você olha). Eles apenas mostraram como usar os métodos de melhores kernels existentes quando os tamanhos das amostras são desiguais.
Eles não disseram que isso funciona para toda possibilidade de estranheza matemática. Eles provaram que funciona para "situações comuns" (como kernels contínuos com dados sobrepostos). Se os dados estiverem em dois mundos completamente separados e disjuntos (como dados que nunca se tocam), a matemática torna-se complicada, e eles admitem que ainda não resolveram totalmente esse caso específico.
Eles não alegaram ter resolvido o problema do "teste de permutação" (uma forma de definir a nota de corte para o teste). Eles ainda usam o teste de permutação para definir o limite, mas agora podem fazê-lo com montes desiguais.

A Conclusão

Os autores construíram uma ponte. Antes, se seus montes de dados tivessem tamanhos diferentes, você tinha que cortar o excesso e torcer pelo melhor. Agora, você pode inserir todo o seu monte bagunçado e desigual na escala MMD. A matemática se sustenta, o teste torna-se mais forte e você não precisa jogar fora nenhuma evidência valiosa.

Eles provaram isso com matemática rigorosa (teoremas sobre distribuições assintóticas) e sustentaram com simulações em conjuntos de dados de imagens reais. É uma atualização sólida e prática para qualquer pessoa que tente comparar dois grupos de dados que não possuem o mesmo tamanho.

Enunciado do Problema
O teste de duas amostras é um problema fundamental na inferência estatística, visando determinar se duas distribuições, $P$ e $Q$ , diferem com base em amostras extraídas de cada uma. Embora os testes baseados em Máxima Discrepância de Média (MMD) tenham ganhado popularidade devido à sua flexibilidade e propriedades teóricas, as técnicas existentes frequentemente dependem da suposição de tamanhos de amostra iguais ( $n_X = n_Y$ ). Na prática, os tamanhos das amostras são frequentemente desiguais. Aplicar estimadores de MMD padrão nestes cenários normalmente exige o descarte de dados valiosos (por exemplo, por subamostragem para o conjunto menor) para manter a estrutura teórica das estatísticas de U, o que reduz desnecessariamente o poder do teste. Além disso, o comportamento assintótico dos estimadores de MMD com tamanhos de amostra desiguais, particularmente fora dos regimes proporcionais (onde $n_X/n_Y$ converge para uma constante), permaneceu subdesenvolvido.

Metodologia
Os autores abordam esta limitação estendendo a teoria das estatísticas de U generalizadas para o estimador MMD.

Estatísticas de U Generalizadas: O estimador de MMD não enviesado padrão ( $\widehat{\text{MMD}}^2$ ) é identificado como uma estatística de U generalizada com $c=2$ amostras e ordem de kernel $m_1=m_2=2$ . Diferente das estatísticas de U padrão, que exigem tamanhos de amostra iguais, as estatísticas de U generalizadas acomodam $n_X \neq n_Y$ .
Escalonamento e Assintótica: O artigo deriva as distribuições assintóticas do estimador MMD sob a hipótese nula ( $P=Q$ ) e sob a alternativa ( $P \neq Q$ ). Uma mudança metodológica crítica é a identificação de $\min(n_X, n_Y)$ como o fator de escalonamento correto para convergência, em vez de $n_X + n_Y$ usado em resultados anteriores de regime proporcional. Isso permite que a teoria se mantenha válida mesmo em regimes não proporcionais (ex: $n_Y = n_X^2$ ).
Caracterização da Variância: Os autores fornecem uma caracterização nova e mais clara da variância do estimador de MMD com tamanhos de amostra desiguais. Isso envolve a decomposição da variância em termos envolvendo os embeddings de média ( $\mu_P, \mu_Q$ ) e os operadores de covariância ( $C_P, C_Q$ ) das distribuições.
Análise de Degenerescência: O artigo analisa rigorosamente a "degenerescência" do estimador. Ele esclarece que, embora o MMD zero implique um estimador degenerado, o inverso nem sempre é verdadeiro: um estimador degenerado pode existir com MMD não nulo sob condições específicas (ex: suportes disjuntos com certos kernels), embora isso seja impossível em configurações comuns (ex: suportes sobrepostos com kernels contínuos).
Otimização de Poder: Aproveitando a normalidade assintótica derivada para casos não degenerados, os autores propõem um critério para otimizar a seleção de kernels. Eles maximizam a razão sinal-ruído ( $\text{MMD}^2 / \sigma$ ) usando estimadores plug-in para a variância $\sigma^2$ , permitindo a seleção de kernels que maximizam o poder do teste para razões específicas de tamanho de amostra.

Principais Contribuições

Extensão Teórica: O artigo estende a teoria assintótica de MMD para tamanhos de amostra desiguais aplicando estatísticas de U generalizadas, removendo a necessidade de descartar dados.
Fator de Escalonamento Correto: Estabelece que $\min(n_X, n_Y)$ é o fator de escalonamento apropriado para convergência tanto em regimes proporcionais quanto não proporcionais, corrigindo suposições anteriores que dependiam de $n_X + n_Y$ .
Insights de Variância e Degenerescência: Os autores fornecem fórmulas explícitas de variância para tamanhos de amostra desiguais e oferecem uma compreensão refinada da degenerescência do estimador. Eles provam que, embora o MMD zero implique degenerescência, a degenerescência não implica necessariamente MMD zero, uma nuance frequentemente negligenciada na literatura. Eles também provam que, sob condições comuns (Configuração B: kernels real-analíticos, suportes sobrepostos), a degenerescência ocorre se, e somente se, $\mu_P = \mu_Q$ .
Estrutura de Otimização: O artigo deriva um método prático para otimizar parâmetros de kernel ao maximizar uma razão sinal-ruído estimada, que é mostrada como convergindo uniformemente para o ótimo populacional.
Validação Empírica: Experimentos no CIFAR-10 e CIFAR-10.1 demonstram que utilizar todos os dados disponíveis via o proposto estimador $\widehat{\text{MMD}}^2$ e a otimização baseada em variância produz um poder de teste significativamente maior comparado a métodos que realizam subamostragem para tamanhos iguais (Ratio/Equal) ou usam estatísticas de U padrão.

Resultos

Distribuições Assintóticas: Sob a hipótese nula ($MMD=0$), o estimador escalonado $\min(n_X, n_Y)\widehat{\text{MMD}}^2$ converge para uma mistura infinita de distribuições qui-quadrado centradas. Sob a alternativa ($MMD > 0$), se o estimador for não degenerado, $\sqrt{\min(n_X, n_Y)}(\widehat{\text{MMD}}^2 - \text{MMD}^2)$ converge para uma distribuição normal.
Redução de Variância: A análise teórica mostra que a variância do estimador generalizado $\widehat{\text{MMD}}^2$ é estritamente inferior à do estimador de estatística de U padrão $\widehat{\text{MMD}}^2_U$ quando os tamanhos de amostra são desiguais, podendo ser até duas vezes menor quando um tamanho de amostra é assintoticamente dominante.
Desempenho Experimental: Em experimentos distinguindo CIFAR-10 de CIFAR-10.1 com variando razões de tamanho de amostra ( $r$ ), o método proposto "Ratio/Ratio" (RR), que utiliza todos os dados e otimiza a razão sinal-ruído, superou consistentemente a linha de base "Ratio/Equal" (RE). À medida que o desequilíbrio aumentou ( $r=8$ ), o poder do método RR aproximou-se de 1.0, enquanto o método RE estabilizou em aproximadamente 0.82.

Significância
O artigo afirma resolver uma limitação de longa data no teste de duas amostras baseado em MMD ao fornecer um framework teoricamente rigoroso para tamanhos de amostra desiguais. Ao preservar todos os dados disponíveis, o método proposto aumenta a precisão do teste e a aplicabilidade em cenários realistas onde a coleta de dados é frequentemente assimétrica. A unificação do framework garante que a nova abordagem reduza aos métodos existentes quando os tamanhos de amostra são iguais, mantendo a consistência teórica enquanto estende a utilidade. O trabalho também corrige equívocos relativos à relação entre valores de MMD e degenerescência do estimador, fornecendo uma base mais robusta para a seleção de kernels e design de testes.