📊 statistics

Maximum-of-Differences Test for Comparing Multivariate K-Sample Distributions

Dieser Artikel stellt einen Maximum-of-Differences-Test (MOD) zur Vergleichung von $K$ -Stichproben-Verteilungen in multivariaten Daten vor, der auf der Analyse von „innerhalb" und „zwischen" liegenden Verbindungswahrscheinlichkeiten basiert und sowohl asymptotische Eigenschaften als auch eine kovarianzadjustierte Variante (CA-MOD) bereitstellt.

Ursprüngliche Autoren: Wei Lan, Long Feng, Runze Li, Chih-Ling Tsai

Veröffentlicht 2026-04-13

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Wei Lan, Long Feng, Runze Li, Chih-Ling Tsai

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Der große Vergleich: Wie man herausfindet, ob Gruppen wirklich unterschiedlich sind

Stellen Sie sich vor, Sie sind ein Detektiv in einer riesigen Stadt. Ihre Aufgabe ist es, herauszufinden, ob verschiedene Stadtteile (die „Stichproben") wirklich unterschiedliche Bewohner haben oder ob sie sich eigentlich gar nicht so sehr unterscheiden, wie man denkt.

In der Datenwissenschaft passiert genau das: Forscher wollen wissen, ob sich die Daten von Gruppe A, Gruppe B und Gruppe C (und so weiter) wirklich unterscheiden. Das ist wichtig, um zu verstehen, ob ein neues Medikament wirkt, ob Aktienmärkte effizient sind oder ob zwei verschiedene Kundengruppen wirklich unterschiedliches Verhalten zeigen.

Das Problem ist: Je mehr Datenpunkte man hat (z. B. Tausende von Aktienkursen oder Genen) und je mehr Gruppen man vergleicht, desto schwieriger wird es, mit alten Methoden eine klare Antwort zu finden. Die alten Werkzeuge sind oft zu starr oder funktionieren nur bei einfachen Fällen.

Die Autoren dieses Papiers (Wei Lan, Long Feng, Runze Li und Chih-Ling Tsai) haben daher zwei neue, clevere Werkzeuge entwickelt: den MOD-Test und den CA-MOD-Test.

Die Idee dahinter: Das „Freundschafts-Netzwerk"

Stellen Sie sich vor, Sie werfen alle Menschen aus allen Stadtteilen in einen riesigen Raum.

Der Abstand: Sie messen den Abstand zwischen jedem Paar von Menschen. Wenn zwei Menschen sehr nah beieinander stehen, sagen wir, sie sind „verbunden" (wie gute Freunde). Wenn sie weit auseinander stehen, sind sie es nicht.
Die Frage: Jetzt schauen wir uns eine einzelne Person an.
- Wie viele ihrer „Freunde" (die Verbindungen) kommen aus dem selben Stadtteil? (Das nennen wir „Innerhalb").
- Wie viele kommen aus anderen Stadtteilen? (Das nennen wir „Dazwischen").

Das Rätsel:

Wenn alle Stadtteile gleich sind (die Nullhypothese), dann sollte es für jeden Menschen egal sein, woher seine Freunde kommen. Die Anzahl der Freunde aus dem eigenen Viertel sollte ungefähr der gleichen sein wie die von Freunden aus anderen Vierteln.
Wenn die Stadtteile aber unterschiedlich sind (die Alternativhypothese), dann werden die Menschen eher Freunde mit denen aus dem eigenen Viertel schließen. Die Zahlen werden sich stark unterscheiden.

Die zwei neuen Werkzeuge

Die Autoren haben nun zwei Methoden entwickelt, um dieses „Freundschafts-Verhältnis" zu prüfen:

1. Der MOD-Test (Maximum-of-Differences)
Stellen Sie sich vor, Sie gehen durch den Raum und prüfen für jeden einzelnen Menschen: „Ist der Unterschied zwischen meinen Freunden aus dem eigenen Viertel und denen aus anderen Vierteln besonders groß?"
Der MOD-Test sucht nach dem größten Unterschied aller Menschen im Raum.

Die Metapher: Es ist wie ein Suchspiel, bei dem man nach dem lautesten Schrei sucht. Wenn auch nur eine Person einen riesigen Unterschied aufweist, weiß man: „Aha! Da stimmt etwas nicht, die Gruppen sind unterschiedlich!"
Der Haken: Da alle Menschen im Raum miteinander verbunden sind, ist die Mathematik dahinter sehr komplex. Man weiß nicht genau, wie man den „Schrei" bewerten soll, ohne sich zu verirren.

2. Der CA-MOD-Test (Covariance-Adjusted MOD)
Dies ist die verbesserte, „glattere" Version.

Die Metapher: Stellen Sie sich vor, die Menschen im Raum stehen nicht zufällig, sondern in einem komplizierten Tanz, bei dem sie sich gegenseitig beeinflussen. Der CA-MOD-Test ist wie ein Tanzlehrer, der zuerst die komplizierten Tanzschritte (die Korrelationen) herausrechnet und korrigiert. Er „glättet" die Daten, sodass die Menschen fast unabhängig voneinander tanzen.
Der Vorteil: Nach dieser Korrektur lässt sich das Ergebnis viel leichter berechnen. Man kann genau sagen, wann ein Unterschied groß genug ist, um als Beweis zu gelten. Es ist wie das Entwirren eines knäueligen Fadens, damit man das Ende endlich sehen kann.

Warum ist das so toll?

Es funktioniert überall: Egal ob Sie nur 2 Gruppen oder 100 Gruppen vergleichen. Egal ob Sie wenige Datenpunkte haben oder Millionen (hohe Dimensionen).
Es ist robust: Es funktioniert auch, wenn die Daten „kaputt" sind (z. B. Ausreißer oder seltsame Verteilungen), weil es nur auf den Abständen basiert, nicht auf perfekten mathematischen Kurven.
Es ist flexibel: Die Methode kann sogar angewendet werden, wenn man Faktoren wie das Wetter oder die Wirtschaftslage (Kovariaten) herausrechnen muss. Das ist wie beim Vergleich von Sportteams, bei dem man den Einfluss des Wetters auf das Spielergebnis herausfiltert, um zu sehen, ob die Teams wirklich unterschiedlich stark sind.

Ein echtes Beispiel: Der Wochentag-Effekt an der Börse

Um ihre Methode zu testen, haben die Autoren die chinesische Börse untersucht.

Die Frage: Gibt es einen „Wochentag-Effekt"? Das heißt, sind die Aktienkurse am Montag anders verteilt als am Freitag? (Ein klassisches Finanz-Mythos).
Die Anwendung: Sie haben die Kursdaten von Montag bis Freitag in fünf Gruppen eingeteilt und MOD und CA-MOD angewendet.
Das Ergebnis: Die Tests sagten: „Nein, es gibt keinen signifikanten Unterschied." Die Verteilungen waren gleich.
Die Bedeutung: Das deutet darauf hin, dass der chinesische Aktienmarkt effizienter geworden ist und nicht einfach durch den Wochentag vorhergesagt werden kann.

Fazit

Die Autoren haben einen neuen, sehr starken „Schnüffler" entwickelt, der in der Lage ist, selbst in riesigen, chaotischen Datenmengen subtile Unterschiede zwischen Gruppen aufzuspüren. Während der erste Test (MOD) der Detektiv ist, der laut schreit, ist der zweite Test (CA-MOD) der erfahrene Ermittler, der die Beweise ordnet und eine klare Antwort liefert. Beide helfen uns, die Welt der Daten besser zu verstehen.

Titel: Maximum-of-Differences Test für den Vergleich multivariater K-Stichproben-Verteilungen

Autoren: Wei Lan, Long Feng, Runze Li und Chih-Ling Tsai.

1. Problemstellung

Der Vergleich von Verteilungen aus $K$ verschiedenen Stichproben ist ein fundamentales Problem in den Datenwissenschaften mit Anwendungen in Bioinformatik, Wirtschaft, Finanzen und maschinellem Lernen. Bisherige Ansätze haben jedoch Einschränkungen:

Parametrische Tests (z. B. Hotelling-Typ): Setzen oft Normalverteilungen und bekannte Kovarianzstrukturen voraus und testen im Wesentlichen nur Mittelwert- oder Kovarianzgleichheit, nicht aber die gesamte Verteilungsgleichheit.
Klassische nicht-parametrische Tests (z. B. Kolmogorov-Smirnov): Sind oft nicht effizient für multivariate Daten geeignet.
Graph-basierte Methoden: Existierende Ansätze (z. B. basierend auf minimalen aufspannenden Bäumen, MST) funktionieren gut für $K=2$ , zeigen aber bei $K>2$ oder in hochdimensionalen Settings teilweise Schwächen oder Instabilitäten.
Regressionskontext: Es fehlte an Methoden, die Verteilungstests für multivariate Daten unter Berücksichtigung von Kovariaten (Regressionsmodellen) durchführen können.

Das Ziel dieses Papers ist die Entwicklung eines neuen, robusten Verfahrens, das sowohl für multivariate Daten mit $K \ge 2$ Stichproben (in festen und hochdimensionalen Settings) als auch für multivariate Regressionsmodelle anwendbar ist.

2. Methodik

Die Autoren schlagen einen Maximum-of-Differences (MOD) Test vor, der auf der Idee basiert, die Verbindungswahrscheinlichkeiten zwischen Beobachtungen innerhalb derselben Stichprobe ("within") und zwischen verschiedenen Stichproben ("between") zu vergleichen.

A. Der MOD-Test (Maximum-of-Differences)

Der Test erfolgt in drei Schritten:

Distanz und Verbindung: Berechnung der paarweisen Distanzen (L2-Norm) aller gepoolten Beobachtungen. Zwei Beobachtungen $i$ und $j$ werden als "verbunden" definiert, wenn ihre Distanz einen Schwellenwert $\tau$ nicht überschreitet ( $||X_i - X_j|| \le \tau$ ).
Wahrscheinlichkeiten: Für jede Beobachtung $i$ $i$ werden zwei Wahrscheinlichkeiten geschätzt:
- $\hat{p}_{in}^{(i)}$ : Der Anteil der Verbindungen zu anderen Beobachtungen derselben Stichprobe.
- $\hat{p}_{bet}^{(i)}$ : Der Anteil der Verbindungen zu Beobachtungen anderer Stichproben.
Teststatistik: Unter der Nullhypothese ( $H_0$ : Alle $K$ Verteilungen sind gleich) sollten diese Wahrscheinlichkeiten für jede Beobachtung gleich sein. Der Test sucht nach der maximalen Abweichung. Die Teststatistik $T_\tau$ ist das Maximum der standardisierten quadrierten Differenzen über alle Beobachtungen:
$T_\tau = \max_{1 \le i \le n} \frac{(\hat{p}_{bet}^{(i)} - \hat{p}_{in}^{(i)})^2}{\text{Varianz-Schätzer}}$

B. Der CA-MOD-Test (Covariance-Adjusted MOD)

Da die Teststatistiken $T_{i,\tau}$ für verschiedene $i$ korreliert sind, ist die asymptotische Verteilung von $T_\tau$ analytisch schwer zu bestimmen (sie konvergiert gegen ein Maximum korrelierter gewichteter Summen). Um dies zu umgehen, wird eine Kovarianzadjustierung durchgeführt:

Die Kovarianzstruktur der Differenzen wird vor der Maximierung "geprofilet" (durch Multiplikation mit $\hat{\Sigma}^{-1/2}$ ).
Die resultierenden adjustierten Statistiken sind schwach korreliert.
Die Teststatistik $T_\tau^{adj}$ konvergiert unter $H_0$ gegen eine Typ-I-Extremwertverteilung (Gumbel-Verteilung), was die Berechnung kritischer Werte stark vereinfacht.

C. Auswahl des Parameters $\tau$

Die Leistung des Tests hängt vom Schwellenwert $\tau$ ab. Die Autoren zeigen theoretisch, dass die Wahl von $\tau$ als Median der paarweisen Distanzen $||X_i - X_j||$ die Teststärke (Power) unter bestimmten Alternativen maximiert und numerische Stabilität gewährleistet.

D. Erweiterung auf Regression

Der Ansatz wird auf multivariate Regressionsmodelle $X_i^{(k)} = \beta^{(k)}W_i^{(k)} + \epsilon_i^{(k)}$ erweitert. Anstatt der Rohdaten werden die Residuen $\hat{\epsilon}_i$ verwendet, um die Verteilungsgleichheit der Fehlerterme (und damit der bedingten Verteilungen) zu testen.

3. Theoretische Ergebnisse

Asymptotische Verteilung (Nullhypothese):
- Der MOD-Test konvergiert gegen das Maximum von $K$ korrelierten gewichteten Summen aus Normal- und Extremwertverteilungen. Kritische Werte werden durch eine numerische Replikationsmethode (Simulation) ermittelt.
- Der CA-MOD-Test konvergiert direkt gegen die Typ-I-Extremwertverteilung, was eine einfache analytische Bestimmung des kritischen Werts erlaubt.
Konsistenz (Alternativhypothese):
- Beide Tests sind konsistent gegen Alternativen, bei denen sich die "within"- und "between"-Wahrscheinlichkeiten signifikant unterscheiden. Die Power hängt von der maximalen Differenz dieser Wahrscheinlichkeiten ab.
Dimensionalität:
- Die Methoden erfordern keine Beschränkungen an die Dimension $p$ des Datenraums; sie funktionieren sowohl für $p < n$ als auch für $p \gg n$ (hochdimensional).

4. Ergebnisse und Simulationen

Die Autoren führten umfangreiche Simulationsstudien durch, um die Leistung von MOD und CA-MOD mit bestehenden Methoden (EC, GEC, WEC, GLP, MMCM) zu vergleichen.

Größenkontrolle (Size): Beide Tests kontrollieren das Signifikanzniveau (Größe) in allen Szenarien (K=2 und K=6, verschiedene Dimensionen) sehr gut.
Teststärke (Power):
- Mittelwertverschiebung (Mean Shift): MOD und CA-MOD sind vergleichbar mit oder leicht unterlegen gegenüber spezialisierten Graph-Methoden (wie GEC/WEC), aber robust.
- Kovarianz- und Verteilungsverschiebung (Covariance/Distribution Shift): Hier schneiden CA-MOD und MOD deutlich besser ab als die meisten konkurrierenden Methoden. CA-MOD ist oft der leistungsstärkste Test.
- K > 2: Bei $K=6$ zeigen MOD und CA-MOD eine überlegene Leistung gegenüber dem GLP-Test (der bei hohem $K$ instabil sein kann) und dem MMCM-Test.
Regression: In Regressionssettings (K=2 und K=6) behaupten beide Tests ihre Überlegenheit, insbesondere bei der Erkennung von Verteilungsunterschieden der Fehlerterme.
Robustheit: Die Tests sind robust gegenüber Ausreißern und nicht-normalverteilten Daten (z. B. t-Verteilungen), da sie nur auf binären Verbindungsindikatoren basieren.

5. Anwendung auf reale Daten

Die Methode wurde auf Aktienrenditedaten des chinesischen Marktes angewendet, um den "Day-of-the-Week-Effekt" zu testen (Unterschiede in den Verteilungen der Renditen an verschiedenen Wochentagen).

Daten: 898 Aktien von 2020, aufgeteilt nach Wochentagen ( $K=5$ ).
Ergebnis: Weder der MOD- noch der CA-MOD-Test konnten die Nullhypothese der Gleichverteilung ablehnen (p-Werte: 0.199 und 0.247).
Schlussfolgerung: Es gibt keine Evidenz für einen Day-of-the-Week-Effekt, was auf eine zunehmende Markteffizienz nach den Reformen von 2005/2006 hindeutet. Auch nach Anpassung für den Marktindex (CAPM-Modell) blieben die Ergebnisse signifikant.

6. Bedeutung und Fazit

Dieses Paper stellt einen bedeutenden Fortschritt im Bereich der multivariaten Nicht-Parametrik dar:

Allgemeingültigkeit: Es bietet einen einheitlichen Rahmen für K-Stichproben-Vergleiche, der sowohl Mittelwert-, Kovarianz- als auch komplexe Verteilungsunterschiede erfasst.
Skalierbarkeit: Die Methoden sind für hochdimensionale Daten geeignet, wo klassische Tests oft versagen.
Regressionsfähigkeit: Die Erweiterung auf Regressionsmodelle füllt eine Lücke, da viele existierende Verteilungstests Kovariaten nicht berücksichtigen können.
Praktische Anwendbarkeit: Der CA-MOD-Test bietet durch die Extremwert-Approximation eine rechnerisch effiziente und theoretisch fundierte Alternative zu aufwendigen Simulationsverfahren.

Zukünftige Forschungsrichtungen könnten die Kombination mit Summen-Tests für dichte Alternativen, die Optimierung der Distanzmaße und die Berücksichtigung korrelierter Beobachtungen umfassen.