📊 statistics

Maximum Mean Discrepancy with Unequal Sample Sizes via Generalized U-Statistics

Dit artikel breidt de Maximum Mean Discrepancy (MMD) twee-steekproeftoets uit naar ongelijke steekproefgroottes door gebruik te maken van gegeneraliseerde U-statistieken, waardoor het niet langer nodig is om gegevens weg te gooien, waarbij nieuwe asymptotische karakteriseringen en criteria voor machtoptimalisatie worden geboden, en de relatie tussen degeneratieve schatters en niet-nul MMD-waarden wordt verduidelijkt.

Oorspronkelijke auteurs: Aaron Wei, Milad Jalali, Danica J. Sutherland

Gepubliceerd 2026-07-10

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Aaron Wei, Milad Jalali, Danica J. Sutherland

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een detective bent die een mysterie probeert op te lossen: Zijn deze twee stapels data werkelijk verschillend, of zijn het gewoon willekeurige ruis uit dezelfde bron?

In de wereld van machine learning wordt dit een "two-sample test" genoemd. Je hebt een stapel foto's van een controlegroep (laten we het Stapel A noemen) en een stapel van een behandelingsgroep (Stapel B). Jouw taak is om te achterhalen of de behandeling iets heeft veranderd. Om dit te doen, gebruiken detectives een hulpmiddel genaamd Maximum Mean Discrepancy (MMD). Denk aan MMD als een supergevoelige weegschaal die het "vorm" van de dataclouds weegt. Als de wolken er anders uitzien, slaat de weegschaal door en weet je dat er een verschil is.

Het Oude Probleem: De "Gelijke Zijden" Regel

Lange tijd had deze weegschaal een vreemde, irritante regel: Het werkte alleen als je exact hetzelfde aantal foto's in Stapel A en Stapel B had.

In de echte wereld is dit een nachtmerrie. Misschien heb je 1.000 foto's van een zeldzame ziekte (Stapel A) maar 10.000 gezonde foto's (Stapel B). De oude methoden zeiden: "O nee, we kunnen dit niet gebruiken! We moeten 9.000 van je gezonde foto's weggooien zodat de stapels gelijk zijn." Dat is alsof je 90% van je bewijsmateriaal weggooit, simpelweg omdat de dozen niet even groot zijn. Dit verspilt data en maakt je test zwakker.

De Nieuwe Oplossing: De "Gegeneraliseerde" Weegschaal

Dit paper introduceert een nieuwe manier om de MMD-weegschaal te gebruiken die geen rekening houdt met gelijke stapelgroottes. De auteurs, Aaron Wei, Milad Jalali en Danica J. Sutherland, hebben uitgevogeld hoe ze de wiskunde werkend krijgen, zelfs wanneer de ene stapel klein is en de andere enorm groot.

Ze deden dit door de wiskunde te upgraden van een standaard "U-statistiek" (die gelijke zijden vereist) naar een "Gegeneraliseerde U-statistiek."

Hier is de magische truc die ze ontdekten:
In plaats van het resultaat te schalen op basis van het totaal aantal foto's (wat rommelig wordt wanneer de groottes verschillen), ontdekten ze dat je moet schalen op basis van de kleinere stapel.

Oude Manier: Schalen door $n_A + n_B$ .
Nieuwe Manier: Schalen door $\min(n_A, n_B)$ .

Ze hebben wiskundig bewezen dat als je de grootte van de kleinere stapel als je liniaal gebruikt, de resultaten stabiel en nauwkeurig blijven, ongeacht hoe scheefgetrokken je data is. Ze toonden zelfs aan dat als je een kleine stapel van 100 items hebt en een gigantische stapel van 10.000, je nog steeds een zeer precies antwoord kunt krijgen door de 100 als je anker te gebruiken.

Een Verrassende Wending: Het "Degeneratie" Mysterie

Terwijl ze het probleem van de grootte oplosten, stuiterden de auteurs tegen iets aan dat andere experts op dit gebied zou kunnen verrassen met betrekking tot de relatie tussen de MMMD-score en de "degeneratie" van de wiskunde.

Meestal denken mensen: "Als de MMD-score nul is, zijn de twee stapels identiek, en wordt de wiskunde 'degenerat' (wat betekent dat de variantie nul is)."
Maar de auteurs bewezen dat het omgekeerde niet altijd waar is. Ze lieten zien dat het soms mogelijk is om een degenerat estimator (nul variantie) te hebben, zelfs wanneer de MMD-score NIET nul is.

Met andere woorden, je kunt een situatie hebben waarin de twee stapels verschillend zijn (dus de MMD is niet nul), maar de wiskunde zich op een "degenerat" manier gedraagt die normaal gesproken alleen optreedt wanneer de stapels identiek zijn. Ze construeerden een specifiek voorbeeld waarbij de stapels verschillend zijn, maar de estimator degenerat is. Echter, ze bewezen ook dat in de meeste gangbare, reële situaties (zoals het gebruik van standaard Gaussische kernels op data met overlappende vormen), deze vreemde "degenerat maar niet-nul MMD" situatie niet voorkomt. Dus voor praktische doeleinden hoef je niet in paniek te raken, maar de wiskunde is nu eerlijker over deze randgevallen.

De "Power-Up": Gebruik Al Je Data

Het beste deel van deze nieuwe methode is dat het je toestaat om elke stukje data dat je hebt te gebruiken.

De Oude Manier: Als je 1.000 zeldzame gevallen had en 10.000 veelvoorkomende gevallen, zou je 9.000 veelvoorkomende gevallen weggooien om een eerlijk gevecht te leveren.
De Nieuwe Manier: Je houdt alle 11.000.

De auteurs voerden simulaties uit met echte beelddata (CIFAR-10 en CIFAR-10.1). Ze zetten een test op waarbij één groep 1.000 afbeeldingen had en de andere groep $r \times 1.000$ afbeeldingen (waarbij $r$ respectievelijk 1, 2, 4 of 8 was).

Wanneer ze de oude methode gebruikten (data weggooien), was de testkracht (test power) oké.
Wanneer ze de nieuwe methode gebruikten (alle data behouden), werd de test significant krachtiger.
In hun experimenten, bij een ratio van 8-tegen-1, detecteerde de nieuwe methode het verschil 99,9% van de tijd, vergeleken met slechts 82,1% voor de oude methode.

Wat Ze Niet Hebben Gedaan (En Wat Ze Hebben Uitgesloten)

Het is belangrijk om te weten wat dit paper niet claimt:

Ze hebben niet een nieuwe manier uitgevonden om de beste kernel te kiezen (de "lens" waardoor je kijkt). Ze hebben alleen aangetoond hoe je de bestaande best-kernel methoden kunt gebruiken wanneer de steekproefgroottes ongelijk zijn.
Ze hebben niet gezegd dat dit werkt voor elke mogelijke wiskundige vreemdheid. Ze bewezen dat het werkt voor "gangbare situaties" (zoals continue kernels met overlappende data). Als de data in twee volledig gescheiden, disjuncte werelden zich bevinden (zoals data die elkaar nooit raakt), wordt de wiskunde ingewikkeld, en ze geven toe dat ze dat specifieke randgeval nog niet volledig hebben opgelost.
Ze hebben niet beweerd het probleem van "permutatietesten" (een manier om de slaagscore voor de test vast te stellen) te hebben opgelost. Ze gebruiken nog steeds permutatietesten om de drempelwaarde in te stellen, maar nu kunnen ze dit doen met ongelijke stapels.

De Kern van het Verhaal

De auteurs hebben een brug gebouwd. Voorheen, als je datapiles verschillende groottes hadden, moest je het overschot eraf snijden en hopen op het beste. Nu kun je de hele, rommelige, ongelijke stapel in de MMD-weegschaal voeren. De wiskunde houdt stand, de test wordt sterker, en je hoeft geen waardevol bewijsmateriaal weg te gooien.

Ze bewezen dit met rigoureuze wiskunde (stellingen over asymptotische distributies) en onderbouwden dit met simulaties op echte dataset-afbeeldingen. Het is een solide, praktische upgrade voor iedereen die twee groepen data wil vergelijken die niet even groot zijn.

Probleemstelling
Two-sample testing is een fundamenteel probleem in statistische inferentie dat gericht is op het bepalen of twee distributies, $P$ en $Q$ , verschillen op basis van steekproeven getrokken uit elk van de twee. Hoewel Maximum Mean Discrepancy (MMD) gebaseerde testen aan populariteit hebben gewonnen vanwege hun flexibiliteit en theoretische eigenschappen, vertrouwen bestaande technieken vaak op de aanname van gelijke steekproefgroottes ( $n_X = n_Y$ ). In de praktijk zijn steekproefgroottes frequent ongelijk. Het toepassen van standaard MMD-schatters in dergelijke scenario's vereist doorgaans het weggooien van waardevolle data (bijv. door te subsamplen naar de kleinere set) om het theoretische kader van U-statistieken te handhaven, wat onnodig de testkracht vermindert. Bovendien is het asymptotische gedrag van MMD-schatters met ongelijke steekproefgroottes, met name buiten proportionele regimes (waar $n_X/n_Y$ convergeert naar een constante), onderontwikkeld gebleven.

Methodologie
De auteurs pakken deze beperking aan door de theorie van gegeneraliseerde U-statistieken uit te breiden naar de MMD-schatter.

Gegeneraliseerde U-statistieken: De standaard onbevooroordeelde MMD-schatter ( $\widehat{\text{MMD}}^2$ ) wordt geïdentificeerd als een gegeneraliseerde U-statistiek met $c=2$ steekproeven en kernelorde $m_1=m_2=2$ . In tegen tegenstelling tot standaard U-statistieken, die gelijke steekproefgroottes vereisen, kunnen gegeneraliseerde U-statistieken omgaan met $n_X \neq n_Y$ .
Schaling en Asymptotica: Het artikel leidt de asymptotische distributies van de MMD-schatter af onder de nulhypothese ( $P=Q$ ) en de alternatieve hypothese ( $P \neq Q$ ). Een cruciale methodologische verschuiving is de identificatie van $\min(n_X, n_Y)$ als de correcte schaleringsfactor voor convergentie, in plaats van de som $n_X + n_Y$ die werd gebruikt in eerdere resultaten uit het proportionele regime. Dit maakt het mogelijk dat de theorie standhoudt, zelfs in niet-proportionele regimes (bijv. $n_Y = n_X^2$ ).
Variantiekarakterisering: De auteurs bieden een nieuwe, schonere karakterisering van de variantie van de MMD-schatter met ongelijke steekproefgroottes. Dit omvat het decomponeren van de variantie in termen die de gemiddelde embeddings ( $\mu_P, \mu_Q$ ) en covariantie-operatoren ( $C_P, C_Q$ ) van de distributies bevatten.
Degeneratieanalyse: Het artikel analyseert rigoureus de "degeneratie" van de schatter. Het verheldert dat hoewel een zero MMD een degeneratieve schatter impliceert, het omgekeerde niet altijd waar is: een degeneratieve schatter kan bestaan met een niet-nul MMD onder specifieke condities (bijv. disjuncte steungebieden met bepaalde kernels), hoewel dit onmogelijk is in veelvoorkomende settings (bijv. overlappende steungebieden met continue kernels).
Optimalisatie van de Testkracht: Door gebruik te maken van de afgeleide asymptotische normaliteit voor niet-degeneratieve gevallen, stellen de auteurs een criterium voor het optimaliseren van kernelselectie voor. Zij maximaliseren de signaal-ruisverhouding ( $\text{MMD}^2 / \sigma$ ) met behulp van plug-in schatters voor de variantie $\sigma^2$ , waardoor kernels kunnen worden geselecteerd die de testkracht maximaliseren voor specifieke steekproefgrootteverhoudingen.

Belangrijkste Bijdragen

Theoretische Uitbreiding: Het artikel breidt de asymptotische theorie van MMD uit naar ongelijke steekproefgroottes door toepassing van gegeneraliseerde U-statistieken, waardoor de noodzaak om data weg te gooien wordt weggenomen.
Correcte Schaleringsfactor: Het stelt vast dat $\min(n_X, n_Y)$ de passende schaleringsfactor is voor convergentie in zowel proportionele als niet-proportionele regimes, waarmee eerdere aannames die vertrouwden op $n_X + n_Y$ worden gecorrigeerd.
Inzichten in Variantie en Degeneratie: De auteurs bieden expliciete formule voor de variantie bij ongelijke steekproefgroottes en bieden een verfijnd begrip van de degeneratie van de schatter. Ze bewijzen dat hoewel een zero MMD degeneratie impliceert, degeneratie niet noodzakelijkerwijs een zero MMD impliceert, een nuance die vaak over het hoofd wordt gezien in de literatuur. Ze bewijzen ook dat onder veelvoorkomende condities (Setting B: real-analytische kernels, overlappende steungebieden), degeneratie optreedt dan en slechts dan als $\mu_P = \mu_Q$ .
Optimalisatieraamwerk: Het artikel leidt een praktische methode af voor het optimaliseren van kernelparameters door het maximaliseren van een geschatte signaal-ruisverhouding, die wordt aangetoond uniform te convergeren naar het populatieoptimum.
Empirische Validatie: Experimenten op CIFAR-10 en CIFAR-10.1 laten zien dat het gebruik van alle beschikbare data via de voorgestelde $\widehat{\text{MMD}}^2$ schatter en variantiegebaseerde optimalisatie aanzienlijk hogere testkracht oplevert vergeleken met methoden die subsamplen naar gelijke groottes (Ratio/Equal).

Resultaten

Asymptotische Distributies: Onder de nulhypothese ($MMD=0$) convergeert de geschaalde schatter $\min(n_X, n_Y)\widehat{\text{MMD}}^2$ naar een oneindige mengeling van gecentreerde chi-kwadraatverdelingen. Onder de alternatieve hypothese ($MMD > 0$), indien de schatter niet-degeneratief is, convergeert $\sqrt{\min(n_X, n_Y)}(\widehat{\text{MMD}}^2 - \text{MMD}^2)$ naar een normale verdeling.
Variantereductie: Theoretische analyse toont aan dat de variantie van de gegeneraliseerde schatter $\widehat{\text{MMD}}^2$ strikt lager is dan de standaard U-statistiek schatter $\widehat{\text{MMD}}^2_U$ wanneer de steekproefgroottes ongelijk zijn, en tot een factor twee lager kan zijn wanneer één steekproefgrootte asymptotisch dominant is.
Experimentele Prestaties: In experimenten waarbij CIFAR-10 wordt onderscheiden van CIFAR-10.1 met variërende steekproefgrootteverhoudingen ( $r$ ), presteerde de voorgestelde "Ratio/Ratio" (RR) methode, die alle data gebruikt en de signaal-ruisverhouding optimaliseert, consistent beter dan de "Ratio/Equal" (RE) baseline. Naarmate de onbalans toenam ( $r=8$ ), benaderde de kracht van de RR-methode 1.0, terwijl de RE-methode een plateau bereikte op ongeveer 0.82.

Betekenis
Het artikel beweert een langdurige beperking in MMD-gebaseerde two-sample testing op te lossen door een theoretisch rigoureus kader te bieden voor ongelijke steekproefgroottes. Door alle beschikbare data te behouden, verbetert de voorgestelde methode de testnauwkeurigheid en toepasbaarheid in realistische settings waar dataverzameling vaak asymmetrisch is. De unificatie van het kader zorgt ervoor dat de nieuwe aanpak reduceert tot bestaande methoden wanneer de steekproefgroottes gelijk zijn, waardoor de theoretische consistentie behouden blijft terwijl de bruikbaarheid wordt uitgebreid. Het werk corrigeert ook misvattingen over de relatie tussen MMD-waarden en de degeneratie van de schatter, wat een robuustere basis biedt voor kernelselectie en testontwerp.