📊 statistics

Maximum Mean Discrepancy with Unequal Sample Sizes via Generalized U-Statistics

Este artículo extiende la prueba de dos muestras de la Discrepancia de Máximo Medio (MMD) a tamaños de muestra desiguales mediante el aprovechamiento de las U-estadísticas generalizadas, eliminando así la necesidad de descartar datos, proporcionando nuevas caracterizaciones asintóticas y criterios de optimización de potencia, y aclarando la relación entre los estimadores degenerados y los valores de MMD distintos de cero.

Autores originales: Aaron Wei, Milad Jalali, Danica J. Sutherland

Publicado 2026-07-10

📖 6 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Aaron Wei, Milad Jalali, Danica J. Sutherland

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que eres un detective intentando resolver un misterio: ¿Son estos dos montones de datos realmente diferentes, o son solo ruido aleatorio de la misma fuente?

En el mundo del aprendizaje automático, esto se llama una "prueba de dos muestras". Tienes un montón de fotos de un grupo de control (llamémoslo Montón A) y un montón de un grupo de tratamiento (llamémoslo Montón B). Tu trabajo es averiguar si el tratamiento cambió algo. Para hacer esto, los detectives utilizan una herramienta llamada Discrepancia de la Media Máxima (MMD). Piensa en la MMD como una escala supersensible que pesa la "forma" de las nubes de datos. Si las nubes se ven diferentes, la escala se inclina y sabes que hay una diferencia.

El viejo problema: La regla de los "lados iguales"

Durante mucho tiempo, esta escala tenía una regla extraña y molesta: solo funcionaba si tenías exactamente el mismo número de fotos en el Montón A y en el Montón B.

En el mundo real, esto es una pesadilla. Tal vez tienes 1,000 fotos de una enfermedad rara (Montón A) y 10,000 fotos sanas (Montón B). Los métodos antiguos decían: "¡Oh, no, no podemos usar esto! Debemos desechar 9,000 de tus fotos sanas para que los montones coincidan". Eso es como tirar el 90% de tu evidencia solo porque las cajas no tienen el mismo tamaño. Eso desperdicia datos y debilita tu prueba.

La nueva solución: La escala "generalizada"

Este artículo presenta una nueva forma de usar la escala MMD que no le importa que los tamaños de los montones sean desiguales. Los autores, Aaron Wei, Milad Jalali y Danica J. Sutherland, descubrieron cómo hacer que las matemáticas funcionen incluso cuando un montón es diminuto y el otro es enorme.

Lo hicieron actualizando las matemáticas de un "U-estadístico" estándar (que requiere lados iguales) a un "U-estadístico generalizado".

Aquí está el truco de magia que descubrieron:
En lugar de escalar el resultado basándose en el número total de fotos (lo que se vuelve complicado cuando los tamaños son diferentes), descubrieron que se debe escalar basándose en el montón más pequeño.

Forma antigua: Escalar por $n_A + n_B$ .
Nueva forma: Escalar por $\min(n_A, n_B)$ .

Demostraron matemáticamente que, si utilizas el tamaño del montón más pequeño como tu regla, los resultados se mantienen estables y precisos, sin importar cuán desequilibrados estén tus datos. Incluso demostraron que, si tienes un montón diminuto de 100 elementos y un montón gigante de 10,000, aún puedes obtener una respuesta muy precisa usando los 100 como tu ancla.

Un giro sorprendente: El misterio "degenerado"

Mientras solucionaban el problema del tamaño, los autores tropezaron con algo que podría sorprender a otros expertos en el campo con respecto a la relación entre la puntuación MMD y la "degeneración" de las matemáticas.

Normalmente, la gente piensa: "Si la puntuación MMD es cero, los dos montones son idénticos y las matemáticas se vuelven 'degeneradas' (lo que significa que la varianza es cero)".
Pero los autores demostraron que lo contrario no siempre es cierto. Demostraron que a veces es posible tener un estimador degenerado (varianza cero) incluso cuando la puntuación MMD NO es cero.

En otras palabras, puedes tener una situación en la que los dos montones son diferentes (por lo que la MMD es distinta de cero), pero las matemáticas se comportan de una manera "degenerada" que usualmente solo ocurre cuando los montones son idénticos. Construyeron un ejemplo específico donde los montones son distintos, pero el estimador es degenerado. Sin embargo, también demostraron que en la mayoría de las situaciones comunes del mundo real (como el uso de núcleos gaussianos estándar en datos con formas superpuestas), este escenario extraño de "MMD no nulo pero degenerado" no sucede. Por lo lo tanto, para propósitos prácticos, no necesitas entrar en pánico, pero las matemáticas ahora son más honestas sobre estos casos límite.

El "Potenciador": Usar todos tus datos

La mejor parte de este nuevo método es que te permite usar cada pieza de dato que tienes.

La forma antigua: Si tenías 1,000 casos raros y 10,000 casos comunes, tirabas 9,000 casos comunes para que la pelea fuera justa.
La nueva forma: Conservas los 11,000.

Los autores realizaron simulaciones utilizando datos de imágenes reales (CIFAR-10 y CIFAR-10.1). Configuraron una prueba donde un grupo tenía 1,000 imágenes y el otro tenía $r \times 1,000$ imágenes (donde $r$ era 1, 2, 4 u 8).

Cuando usaron el método antiguo (tirando datos), la potencia de la prueba era aceptable.
Cuando usaron el nuevo método (manteniendo todos los datos), la prueba se volvió significativamente más potente.
En sus experimentos, cuando la relación era de 8 a 1, el nuevo método detectó la diferencia el 99.9% de las veces, comparado con solo el 82.1% del método antiguo.

Lo que NO hicieron (Y lo que descartaron)

Es importante saber qué no afirma este artículo:

No inventaron una nueva forma de elegir el mejor núcleo (la "lente" a través de la cual miras). Solo mostraron cómo usar los métodos de mejores núcleos existentes cuando los tamaños de muestra son desiguales.
No dijeron que esto funcione para toda posible rareza matemática. Demostraron que funciona para "situaciones comunes" (como núcleos continuos con datos superpuestos). Si los datos están en dos mundos completamente separados y disjuntos (como datos que nunca se tocan), las matemáticas se vuelven complicadas, y admiten que aún no han resuelto ese caso límite específico por completo.
No afirmaron haber resuelto el problema de las "pruebas de permutación" (una forma de establecer la nota de aprobación para la prueba). Todavía utilizan pruebas de permutación para establecer el umbral, pero ahora pueden hacerlo con montones desiguales.

La conclusión

Los autores han construido un puente. Antes, si tus montones de datos tenían tamaños diferentes, tenías que recortar el exceso y esperar lo mejor. Ahora, puedes introducir todo el montón desordenado y desigual en la escala MMD. Las matemáticas se sostienen, la prueba se fortalece y no tienes que tirar ninguna evidencia valiosa.

Demostraron esto con matemáticas rigurosas (teoremas sobre distribuciones asintóticas) y lo respaldaron con simulaciones en conjuntos de datos de imágenes reales. Es una actualización sólida y práctica para cualquiera que intente comparar dos grupos de datos que no tienen el mismo tamaño.

Planteamiento del Problema
La prueba de dos muestras es un problema fundamental en la inferencia estadística destinado a determinar si dos distribuciones, $P$ y $Q$ , difieren basándose en muestras extraídas de cada una. Si bien las técnicas basadas en la Discrepancia de la Media Máxima (MMD, por sus siglas en inglés) han ganado popularidad debido a su flexibilidad y propiedades teóricas, las técnicas existentes suelen depender del supuesto de tamaños de muestra iguales ( $n_X = n_Y$ ). En la práctica, los tamaños de muestra son frecuentemente desiguales. Aplicar los estimadores estándar de MMD en estos escenarios típicamente requiere descartar datos valiosos (por ejemplo, mediante el submuestreo hasta alcanzar el conjunto más pequeño) para mantener el marco teórico de las estadísticas U, lo que reduce innecesariamente el poder de la prueba. Además, el comportamiento asintótico de los estimadores de MMD con tamaños de muestra desiguales, particularmente fuera de los regímenes proporcionales (donde $n_X/n_Y$ converge a una constante), ha permanecido poco desarrollado.

Metodología
Los autores abordan esta limitación extendiendo la teoría de las estadísticas U generalizadas al estimador MMD.

Estadísticas U Generalizadas: El estimador de MMD insesgado estándar ( $\widehat{\text{MMD}}^2$ ) se identifica como una estadística U generalizada con $c=2$ muestras y orden de kernel $m_1=m_2=2$ . A diferencia de las estadísticas U estándar que requieren tamaños de muestra iguales, las estadísticas U generalizadas acomodan $n_X \neq n_Y$ .
Escalamiento y Asintótica: El artículo deriva las distribuciones asintóticas del estimador MMD bajo la hipótesis nula ( $P=Q$ ) y la alternativa ( $P \neq Q$ ). Un cambio metodológico crítico es la identificación de $\min(n_X, n_Y)$ como el factor de escala correcto para la convergencia, en lugar de la suma $n_X + n_Y$ utilizada en los resultados previos de régimen proporcional. Esto permite que la teoría se mantenga válida incluso en regímenes no proporcionales (por ejemplo, $n_Y = n_X^2$ ).
Caracterización de la Varianza: Los autores proporcionan una caracterización nueva y más limpia de la varianza del estimador MMD con tamaños de muestra desiguales. Esto implica la descomposición de la varianza en términos que involucran los embeddings de la media ( $\mu_P, \mu_Q$ ) y los operadores de covarianza ( $C_P, C_Q$ ) de las distribuciones.
Análisis de Degeneración: El artículo analiza rigurosamente la "degeneración" del estimador. Aclara que, si bien un MMD de cero implica un estimador degenerado, lo contrario no siempre es cierto: puede existir un estimador degenerado con un MMD no nulo bajo condiciones específicas (por ejemplo, soportes disjuntos con ciertos kernels), aunque esto es imposible en configuraciones comunes (por ejemplo, soportes superpuestos con kernels continuos).
Optimización de la Potencia: Aprovechando la normalidad asintótica derivada para los casos no degenerados, los autores proponen un criterio para optimizar la selección del kernel. Ellos maximizan la relación señal-ruido ( $\text{MMD}^2 / \sigma$ ) utilizando estimadores de inserción (plug-in) para la varianza $\sigma^2$ , lo que permite la selección de kernels que maximizan la potencia de la prueba para ratios específicos de tamaño de muestra.

Contribuciones Clave

Extensión Teórica: El artículo extiende la teoría asintótica de MMD a tamaños de muestra desiguales mediante la aplicación de estadísticas U generalizadas, eliminando la necesidad de descartar datos.
Factor de Escala Correcto: Establece que $\min(n_X, n_Y)$ es el factor de escala apropiado para la convergencia tanto en regímenes proporcionales como no proporcionales, corrigiendo supuestos previos que dependían de $n_X + n_Y$ .
Perspectivas sobre Varianza y Degeneración: Los autores proporcionan fórmulas explícitas de varianza para tamaños de muestra desiguales y ofrecen una comprensión refinada de la degeneración del estimador. Demuestran que, si bien un MMD de cero implica degeneración, la degeneración no implica necesariamente un MMD de cero, un matiz a menudo pasado por alto en la literatura. También demuestran que, bajo condiciones comunes (Configuración B: kernels real-analíticos, soportes superpuestos), la degeneración ocurre si y solo si $\mu_P = \mu_Q$ .
Marco de Optimización: El artículo deriva un método práctico para optimizar los parámetros del kernel mediante la maximización de una relación señal-ruido estimada, la cual se muestra que converge uniformemente al óptimo poblacional.
Validación Empírica: Los experimentos en CIFAR-10 y CIFAR-10.1 demuestran que utilizar todos los datos disponibles mediante el propuesto estimador $\widehat{\text{MMD}}^2$ y la optimización basada en la varianza produce una potencia de prueba significativamente mayor en comparación con los métodos que submuestrean para igualar tamaños (Ratio/Equal).

Resultados

Distribuciones Asintóticas: Bajo la hipótesis nula ($MMD=0$), el estimador escalado $\min(n_X, n_Y)\widehat{\text{MMD}}^2$ converge a una mezcla infinente de distribuciones chi-cuadrado centradas. Bajo la alternativa ($MMD > 0$), si el estimador es no degenerado, $\sqrt{\min(n_X, n_Y)}(\widehat{\text{MMD}}^2 - \text{MMD}^2)$ converge a una distribución normal.
Reducción de Varianza: El análisis teórico muestra que la varianza del estimador generalizado $\widehat{\text{MMD}}^2$ es estrictamente menor que la del estimador de la estadística U estándar $\widehat{\text{MMD}}^2_U$ cuando los tamaños de muestra son desiguales, y puede ser hasta un factor de dos menor cuando un tamaño de muestra es asintóticamente dominante.
Desempeño Experimental: En experimentos para distinguir CIFAR-10 de CIFAR-10.1 con ratios de tamaño de muestra ( $r$ ) variables, el método propuesto "Ratio/Ratio" (RR), que utiliza todos los datos y optimiza la relación señal-ruido, superó consistentemente al modelo base "Ratio/Equal" (RE). A medida que el desequilibrio aumentó ( $r=8$ ), la potencia del método RR se acercó a 1.0, mientras que el método RE se estancó en aproximadamente 0.82.

Significancia
El artículo afirma resolver una limitación de larga data en las pruebas de dos muestras basadas en MMD al proporcionar un marco teóricamente riguroso para tamaños de muestra desiguales. Al preservar todos los datos disponibles, el método propuesto mejora la precisión de la prueba y su aplicabilidad en escenarios realistas donde la recolección de datos suele ser asimétrica. La unificación del marco asegura que el nuevo enfoque se reduzca a los métodos existentes cuando los tamaños de muestra son iguales, manteniendo la consistencia teórica mientras extiende su utilidad. El trabajo también corrige conceptos erróneos respecto a la relación entre los valores de MMD y la degeneración del estimador, proporcionando una base más robusta para la selección de kernels y el diseño de pruebas.