📊 statistics

A Jensen-Shannon divergence based $k$ -- $NN$ algorithm for missing value imputation in compositional data

Dieser Artikel schlägt einen neuen nichtparametrischen $k$ -NN-Algorithmus zur Imputation fehlender Werte in kompositionellen Daten vor, der die Jensen-Shannon-Divergenz und den Fréchet-Mittelwert nutzt, um Nullwerte zu behandeln und Hyperparameter selbst anzupassen, und dabei eine überlegene Genauigkeit und Recheneffizienz im Vergleich zu bestehenden Methoden demonstriert.

Ursprüngliche Autoren: Michail Tsagris, Connie Stewart, Abdulaziz Alenazi

Veröffentlicht 2026-05-29

📖 5 Min. Lesezeit🧠 Tiefgang

CC0 1.0

Ursprüngliche Autoren: Michail Tsagris, Connie Stewart, Abdulaziz Alenazi

Originalarbeit unter CC0 1.0 der Gemeinfreiheit gewidmet (http://creativecommons.org/publicdomain/zero/1.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein Koch, der versucht, ein geheimes Familienrezept nachzubereiten. Sie haben einen Stapel Rezeptkarten, aber einige sind zerrissen oder es fehlen darin aufgeführte Zutaten. Ihr Ziel ist es, zu erraten, welche Zutaten fehlen, damit Sie die Gerichte fertigstellen können.

In der Welt der Datenwissenschaft nennt man dies Imputation (das Ausfüllen von Lücken). Doch dieser Artikel befasst sich mit einer sehr spezifischen, kniffligen Art von Rezept: Zusammengesetzte Daten (Compositional Data).

Was sind „zusammengesetzte Daten"?

Stellen Sie sich ein Tortendiagramm vor. Der gesamte Kuchen entspricht immer 100 %. Wenn Sie ein Stück „Äpfel" und ein Stück „Orangen" haben und Sie mehr Äpfel hinzufügen, muss das Orangenscheibchen kleiner werden, um die Summe bei 100 % zu halten.

Dies unterscheidet sich von einer normalen Einkaufsliste, auf der Sie 5 Äpfel und 10 Orangen haben können, ohne dass sich das eine auf das andere auswirkt. Bei zusammengesetzten Daten sind die Teile in einem Tanz miteinander verankert; bewegt sich einer, müssen sich die anderen anpassen. Dies macht das Ausfüllen fehlender Zahlen sehr schwierig, da Sie nicht einfach eine Zahl erraten können; Sie müssen eine Zahl erraten, die perfekt zum gesamten Kuchen passt.

Das Problem mit alten Methoden

Jahrelang versuchten Wissenschaftler, fehlende Teile in diesen „Tortendiagrammen" mit einer Methode namens k-NN (k-Nearest Neighbors / k-Nächste-Nachbarn) zu beheben.

Funktionsweise: Wenn Ihnen bei einem Rezept „Salz" fehlt, sucht der Computer nach anderen Rezepten, die Ihrem sehr ähnlich sind. Er sieht, was diese ähnlichen Rezepte für Salz verwendet haben, und vermutet, dass Sie wahrscheinlich etwas Ähnliches verwendet haben.
Der Fehler: Die alte Methode zur Messung der „Ähnlichkeit" (genannt Aitchison-Distanz) ist wie der Versuch, die Entfernung zwischen zwei Städten mit einem Lineal auf einer flachen Karte zu messen, obwohl die Erde rund ist. Manchmal funktioniert es einigermaßen, aber es versagt, wenn Ihr Rezept null Zutaten enthält (z. B. „Keine Oliven"). In der alten Mathematik kann man die Distanz nicht berechnen, wenn eine Zahl null ist, sodass das gesamte System abstürzt.

Die neue Lösung: Der „Jensen-Shannon"-Kompass

Die Autoren dieses Artikels entwickelten einen neuen, intelligenteren Kompass zur Messung der Ähnlichkeit. Sie nennen ihn die Jensen-Shannon-Divergenz (JSD).

Die Analogie: Stellen Sie sich vor, Sie vergleichen zwei Smoothies. Die alte Methode könnte verwirrt sein, wenn ein Smoothie keine Erdbeeren enthält. Die neue JSD-Methode ist wie ein intelligenter Mixer, der sagt: „Okay, Sie haben keine Erdbeeren, aber Sie haben viele Bananen. Lassen Sie uns das Geschmacksprofil der gesamten Mischung vergleichen und ignorieren, dass eine Zutat fehlt."
Der Vorteil: Diese neue Methode funktioniert perfekt, selbst wenn die Daten Nullen enthalten. Sie bricht nicht zusammen; sie passt sich einfach an.

Der „magische Regler" (das Fréchet-Mittel)

Die Autoren blieben nicht stehen. Sie fügten einen „magischen Regler" (einen Parameter namens $\alpha$ ) zu ihrem Algorithmus hinzu.

Die Analogie: Stellen Sie sich vor, Sie mitteln die Meinungen Ihrer Nachbarn, um die fehlende Zutat zu erraten.
- Wenn Sie einfach das arithmetische Mittel (den Standarddurchschnitt) nehmen, sind Sie wie ein strenger Lehrer: „Jeder erhält das gleiche Gewicht."
- Wenn Sie das geometrische Mittel verwenden, sind Sie wie ein vorsichtiger Redakteur: „Wir ignorieren extreme Ausreißer."
- Das Fréchet-Mittel ist wie ein flexibler Vermittler. Der „magische Regler" ( $\alpha$ ) ermöglicht es Ihnen, zwischen streng, vorsichtig oder irgendwo dazwischen zu gleiten. Der Computer kann diesen Regler automatisch justieren, um das perfekte Gleichgewicht für Ihre spezifischen Daten zu finden.

Die „selbstanpassende" Funktion

Manchmal sind fehlende Daten nicht zufällig. Vielleicht fehlt „Salz" nur in scharfen Rezepten, während „Zucker" nur in süßen fehlt.

Die Autoren schufen eine adaptive Version ihres Werkzeugs. Anstatt eine Regel für das gesamte Kochbuch zu verwenden, betrachtet diese Version, wie die Daten fehlen, und ändert ihre Strategie für jedes spezifische Muster. Es ist wie ein anderer Koch für jede Art von Gericht.

Was haben sie herausgefunden?

Das Team testete ihr neues Werkzeug gegen die alten Methoden mit realen Daten, wie zum Beispiel:

Weinchemie: Analyse von Säuren in tschechischen Weinen.
Flusswasser: Überprüfung chemischer Werte in spanischen Flüssen.
Fischernährung: Untersuchung von Fettsäuren in Fischen (wo einige Fische bestimmte Dinge einfach nicht essen, was zu „Null"-Werten führt).
Landwirtschaft: Ermittlung, wie viel von bestimmten Pflanzen in griechischen Regionen angebaut wurde.

Die Ergebnisse:

Genauigkeit: Ihre neue Methode war durchweg genauer als die alten. Sie riet die fehlenden Zahlen näher an die Wahrheit heran.
Geschwindigkeit: Sie war viel schneller. In einigen Tests dauerte die alte Methode 12- bis 25-mal länger, um dieselbe Arbeit zu verrichten.
Nullen: Sie bewältigte „Null"-Werte problemlos, während die alten Methoden Schwierigkeiten hatten oder versagten.

Das Fazit

Die Autoren entwickelten eine neue, schnellere und flexiblere Methode, um die fehlenden Teile von „Tortendiagramm"-Daten auszufüllen. Sie funktioniert sogar, wenn einige Scheiben komplett leer sind (Nullen), und nutzt einen intelligenten „magischen Regler", um ihre eigenen Einstellungen für die besten Ergebnisse anzupassen. Während die „selbstanpassende" Funktion cool ist, stellten sie fest, dass manchmal die einfachere Version genauso gut und weniger kompliziert ist.

Hinweis: Der Artikel konzentriert sich streng auf die Mathematik und die Simulationsergebnisse. Er behauptet nicht, dies sei eine medizinische Heilung oder ein spezifisches Werkzeug für die zukünftige klinische Anwendung, sondern vielmehr eine statistische Verbesserung zur Handhabung von Daten in Bereichen wie Wirtschaft, Ökologie und Chemie.

Technische Zusammenfassung: Ein auf der Jensen-Shannon-Divergenz basierender k–NN-Algorithmus zur Imputation fehlender Werte in kompositionellen Daten

1. Problemstellung

Kompositionelle Daten, definiert als nicht-negative multivariate Vektoren, die zu einer Konstante (typischerweise 1) summieren, befinden sich in einem Standard-Simplex-Stichprobenraum ( $S^{D-1}$ ). Fehlende Werte in solchen Daten stellen einzigartige Herausforderungen dar, da Standard-Imputationstechniken oft versagen, die restriktive Geometrie des Simplex zu respektieren, oder Log-Ratio-Transformationen erfordern, die keine Nullwerte verarbeiten können.

Bestehende Methoden, wie der von Hron et al. (2010) vorgeschlagene k–NN-Algorithmus, verlassen sich auf die Aitchison-Distanz. Die Aitchison-Distanz erfordert jedoch Log-Ratio-Transformationen, was sie für Datensätze mit Nullwerten (ob gerundet oder strukturell) unanwendbar macht. Darüber hinaus gehen traditionelle Ansätze oft von einer spezifischen parametrischen Struktur aus oder erfordern iterative Regressionsmodelle, die rechenintensiv sein können. Dieser Artikel adressiert die Notwendigkeit einer flexiblen, nichtparametrischen Imputationsmethode, die:

Direkt auf dem Simplex ohne Log-Ratio-Transformationen operiert.
Nullwerte auf natürliche Weise berücksichtigt.
Recheneffizienz und Flexibilität im Umgang mit Mustern fehlender Werte bietet.

2. Methodik

Die vorgeschlagene Lösung ist ein neuartiger JSD k–NN-Algorithmus, erweitert um eine Fréchet-Mittelwert-Generalisierung und einen adaptiven Mechanismus.

2.1 Distanzmetrik: Jensen-Shannon-Divergenz (JSD)

Anstelle der Aitchison-Distanz nutzt der Algorithmus die Jensen-Shannon-Divergenz (JSD), um Abstände zwischen kompositionellen Vektoren zu messen.

Definition: Für zwei Kompositionen $x$ und $y$ gilt: $JSD(x, y) = \sum_{j=1}^D \left( x_j \log \frac{2x_j}{x_j+y_j} + y_j \log \frac{2y_j}{x_j+y_j} \right)$ .
Vorteile: Im Gegensatz zur Aitchison-Distanz behandelt die JSD Nullwerte auf natürliche Weise (da $0 \log 0 = 0$ ), wodurch die Notwendigkeit von Strategien zum Ersetzen von Nullen entfällt. Sie ist eine Metrik (die Quadratwurzel erfüllt die Dreiecksungleichung) und beschränkt.

2.2 Der JSD k–NN-Algorithmus

Der Kernalgorithmus folgt einem sechsstufigen nichtparametrischen Verfahren:

Auswahl: Wahl der Anzahl der nächsten Nachbarn, $k$ .
Trennung: Aufteilung der Daten in unvollständige Vektoren ( $X_M$ ) und vollständige Vektoren ( $X_O$ ).
Normalisierung: Für einen unvollständigen Vektor werden die beobachteten Komponenten so normalisiert, dass sie zu 1 summieren. Ebenso werden die entsprechenden Komponenten in den vollständigen Vektoren normalisiert.
Distanzberechnung: Berechnung der JSD zwischen den normalisierten beobachteten Komponenten des unvollständigen Vektors und allen vollständigen Vektoren.
Nachbarauswahl: Identifizierung der $k$ vollständigen Vektoren mit den kleinsten JSD-Abständen.
Imputation: Berechnung des Mittels der $k$ nächsten Nachbarn. Die fehlenden Komponenten werden geschätzt, indem das arithmetische Mittel der entsprechenden Komponenten in den $k$ Nachbarn gebildet, diese normalisiert und mit der Summe der beobachteten Komponenten im ursprünglichen unvollständigen Vektor skaliert werden.

2.3 Erweiterung 1: JSD $\alpha$ –k–NN (Fréchet-Mittelwert)

Um die Flexibilität zu erhöhen, wird das in Schritt 5 verwendete arithmetische Mittel durch das Stichproben-Fréchet-Mittel ersetzt, definiert von Tsagris et al. (2011):
$\hat{\mu}_\alpha(x) = C \left\{ \left( \sum_{i=1}^n \frac{x_{ij}^\alpha}{\sum_{k=1}^D x_{kj}^\alpha} \right)^{1/\alpha} \right\}_{j=1,\dots,D}$
wobei $\alpha$ ein justierbarer Hyperparameter ist.

Eigenschaften: Für $\alpha \to 0$ konvergiert es zum geometrischen Mittel; bei $\alpha = 1$ ist es das arithmetische Mittel. Dies ermöglicht es dem Algorithmus, sich ohne Log-Ratio-Transformationen an die Verteilung der Daten anzupassen.

2.4 Erweiterung 2: Adaptiver JSD $\alpha$ –k–NN

In Anerkennung dessen, dass Muster fehlender Werte variieren können (z. B. Fehlende Werte in Bezug auf spezifische Komponentenmagnituden), schlagen die Autoren einen adaptiven Ansatz vor, bei dem die Hyperparameter ( $\alpha$ und $k$ ) separat für jedes im Datensatz beobachtete distincte Muster fehlender Werte justiert werden, anstatt ein einziges globales Paar zu verwenden.

2.5 Hyperparameter-Tuning

Die optimalen Werte für $k$ und $\alpha$ werden über ein wiederholtes Leave-N-out-Cross-Validation-Protokoll bestimmt. Die Leistungsmetrik ist der Abstand (Aitchison-Distanz, wenn keine Nullen vorhanden sind; JSD, wenn Nullen vorhanden sind) zwischen den wahren Werten und den imputierten Werten im Testset.

3. Hauptbeiträge

Nulltolerante Imputation: Die Methode ist der erste k–NN-Ansatz für kompositionelle Daten, der keine Log-Ratio-Transformationen erfordert und somit sowohl gerundete als auch strukturelle Nullen nativ verarbeitet.
Nichtparametrische Flexibilität: Durch die Nutzung von JSD und dem Fréchet-Mittelwert vermeidet die Methode restriktive parametrische Annahmen über die Datenstruktur.
Recheneffizienz: Der Algorithmus ist erheblich schneller als konkurrierende iterative regressionsbasierte Methoden (insbesondere diejenigen im Paket robCompositions).
Adaptives Framework: Die Einführung eines adaptiven Mechanismus ermöglicht es Hyperparametern, sich an spezifische Muster fehlender Werte anzupassen, wobei der Artikel jedoch feststellt, dass dies die Rechenkomplexität erhöht.

4. Ergebnisse aus Simulationsstudien

Die Autoren bewerteten die Algorithmen unter Verwendung von vier realen Datensätzen: Weine (keine Nullen), Hydrochemie (keine Nullen), Beutefettsäuren (enthält Nullen und Artenklassen) und FADN (landwirtschaftliche Daten mit Nullen und Aggregations-/Disaggregationsszenarien).

Genauigkeit (ohne Nullen): Bei den Datensätzen Weine und Hydrochemie schnitt der JSD $\alpha$ –k–NN (mit optimalem $\alpha$ ) gemessen an der Aitchison-Distanz um 12 % bzw. 2 % besser ab als der Standard-JSD k–NN. Beide vorgeschlagenen Methoden schnitten besser ab als die konkurrierenden Algorithmen von Hron et al. (2010) (rob k–NN, lm, ltsReg).
Genauigkeit (mit Nullen): Beim Datensatz Beutefettsäuren verbesserte der JSD k–NN die Leistung um 22 % gegenüber dem robusten k–NN (Hron et al., 2010) unter Verwendung der euklidischen Distanz. Der JSD $\alpha$ –k–NN lieferte eine zusätzliche Verbesserung von 3,5 %. Die adaptive Version erzielte in diesem spezifischen Fall keine weiteren Gewinne.
Disaggregationsszenario: Im FADN-Datensatz (Simulation der Disaggregation aggregierter Erntedaten) schnitt der JSD k–NN um 15 % besser ab als der robuste k–NN. Die $\alpha$ - und adaptiven Erweiterungen zeigten hier keine weitere Verbesserung.
Rechenkosten: Der JSD k–NN war erheblich schneller als der robuste k–NN. Die Beschleunigungsfaktoren reichten je nach Stichprobengröße und Dimensionalität von etwa 6-fach bis 25-fach. Die Beschleunigung war bei höheren Dimensionen und geringeren Stichprobengrößen ausgeprägter.

5. Bedeutung und Behauptungen

Der Artikel behauptet, dass der vorgeschlagene JSD k–NN-Algorithmus eine robuste, genaue und recheneffiziente Alternative zur Imputation fehlender Werte in kompositionellen Daten bietet. Seine primäre Bedeutung liegt in der Fähigkeit, Nullwerte ohne Modifikation zu verarbeiten, was eine kritische Einschränkung bestehender auf Log-Ratio basierender Methoden darstellt.

Die Autoren schließen bescheiden, dass die Erweiterung adaptiver JSD $\alpha$ –k–NN zwar eine theoretische Verbesserung durch die Anpassung der Parameter an Muster fehlender Werte bietet, aber in der Praxis nicht immer die Leistung erheblich verbessert. Sie schlagen vor, dass die hinzugefügte Komplexität nicht in allen Fällen lohnend sein mag, insbesondere wenn Muster fehlender Werte spärlich sind. Dennoch demonstrieren der Kern-JSD k–NN und die Erweiterung des Fréchet-Mittelwerts (JSD $\alpha$ –k–NN) konsistent überlegene Genauigkeit und Effizienz im Vergleich zu aktuellen State-of-the-Art-Methoden.

Die Arbeit wird als praktisches Werkzeug für Bereiche wie Ökologie, Landwirtschaft und amtliche Statistik positioniert, in denen kompositionelle Daten mit Nullen und fehlenden Werten weit verbreitet sind. Die Autoren erkennen an, dass die Methode zwar von „Missing At Random" (MAR) ausgeht, sie jedoch nicht unter Szenarien „Missing Not At Random" (MNAR) bewertet wurde, die in der amtlichen Statistik häufig vorkommen.