CARTGen-IR: Synthetic Tabular Data Generation for Imbalanced Regression

Die Studie stellt CARTGen-IR vor, eine effiziente und interpretierbare Methode zur synthetischen Datengenerierung für tabellarische Daten mit unausgewogenen Regressionszielen, die mittels relevanz- und dichtegesteuerten Samplingverfahren ohne willkürliche Schwellenwerte realistische Stichproben erzeugt und damit die Leistung von Regressionsmodellen in extremen Wertebereichen verbessert.

Das Wesentliche

Stellen Sie sich vor, Sie sind ein Wettervorhersage-Experte. Ihre Aufgabe ist es, das Wetter für die nächsten Tage vorherzusagen. Aber es gibt ein Problem: In Ihren Daten gibt es tausende Einträge für "schönes, normales Wetter" und nur ein paar Dutzend für "katastrophale Stürme".

Wenn Sie einen Computeralgorithmus mit diesen Daten füttern, wird er lernen, immer "schönes Wetter" vorherzusagen. Warum? Weil das in den Daten am häufigsten vorkommt. Die seltenen, aber lebenswichtigen Stürme werden ignoriert. Das ist das Problem des ungleichgewichteten Regressionsproblems: Wichtige, seltene Werte werden von der KI übersehen.

Die Autoren dieses Papers, António und Rita, haben eine neue Lösung namens CARTGen-IR entwickelt. Hier ist, wie das funktioniert, einfach erklärt:

1. Das alte Problem: Der willkürliche Schwellenwert

Früher haben Forscher versucht, dieses Problem zu lösen, indem sie eine willkürliche Grenze gezogen haben.

• Die Analogie: Stellen Sie sich vor, Sie sagen: "Alles über 50 Grad ist ein 'Sturm', alles darunter ist 'normal'."
• Das Problem: Das ist unsinnig. 49,9 Grad ist fast genauso heiß wie 50,1 Grad. Aber nach dieser Regel ist einer "normal" und der andere "Katastrophe". Diese harte Grenze verzerre die Realität und macht die Vorhersage ungenau. Viele alte Methoden machten genau diesen Fehler.

2. Die neue Lösung: CARTGen-IR (Der clevere Gärtner)

Die Autoren schlagen vor, keine harten Grenzen zu ziehen, sondern einen intelligenten Gärtner (den CART-Algorithmus) zu nutzen.

Stellen Sie sich Ihren Datensatz als einen riesigen, verwilderten Garten vor:

• Die meisten Pflanzen sind kleine, unscheinbare Grashalme (das "normale" Wetter).
• Es gibt nur wenige, riesige, seltene Bäume (die "Stürme").

Wie funktioniert CARTGen-IR?

1. Die Bewertung (Was ist wichtig?):
   Der Gärtner schaut sich den Garten an und erkennt: "Aha, diese riesigen Bäume sind selten und sehr wichtig!" Er gibt ihnen keine willkürliche Grenze, sondern bewertet sie einfach danach, wie selten sie sind. Je seltener, desto mehr Aufmerksamkeit bekommen sie.

2. Das Kopieren (Synthetische Daten):
   Der Gärtner möchte mehr von diesen seltenen Bäumen haben, um sie besser zu studieren. Aber er kann keine echten Bäume aus dem Boden reißen. Stattdessen baut er perfekte Modelle (synthetische Daten) nach.

   • Der Trick: Er nutzt einen Baumplan (eine Entscheidungsbaum-Struktur). Er schaut sich an: "Wenn der Boden feucht ist UND die Sonne scheint, dann wächst dort ein großer Baum."
   • Anstatt einfach eine Kopie zu machen, nutzt er diese Regeln, um neue, realistische Bäume zu erschaffen, die genau in die Lücken passen, wo es bisher zu wenig von gab.

3. Die Mischung (Kein "Fake"-Garten):
   Ein häufiges Problem bei künstlichen Daten ist, dass sie "falsch" aussehen. CARTGen-IR ist besonders clever, weil es nicht nur Zahlen durcheinanderwirft. Es versteht die Zusammenhänge. Wenn im Garten "Regen" und "Schlamm" zusammenhängen, erzeugt es neue Daten, die diesen Zusammenhang respektieren. Es fügt sogar ein wenig "Rauschen" (wie ein leichtes Windhauch) hinzu, damit die neuen Bäume nicht alle exakt gleich aussehen, sondern natürlich wirken.

3. Warum ist das besser als die anderen Methoden?

• Keine schwarzen Kisten: Viele moderne KI-Methoden (wie tiefe neuronale Netze) sind wie eine schwarze Kiste. Man gibt Daten rein, und ein Ergebnis kommt heraus, aber man weiß nicht warum. CARTGen-IR ist wie ein durchsichtiger Baum. Man kann jeden Ast nachvollziehen: "Hier wurde entschieden, weil der Wert X so war." Das ist für Menschen leicht zu verstehen.
• Geschwindigkeit: Die komplexen KI-Modelle brauchen oft Stunden oder Tage, um neue Daten zu erstellen. CARTGen-IR ist wie ein schneller Handwerker – es ist deutlich schneller und trotzdem sehr genau.
• Keine willkürlichen Grenzen: Es behandelt die Daten so, wie sie sind: als fließendes Kontinuum. Es gibt keine harte Grenze zwischen "normal" und "wichtig".

Zusammenfassung

Stellen Sie sich vor, Sie wollen lernen, wie man seltene Fehler in einer Fabrik erkennt.

• Die alten Methoden sagten: "Alles über 50 Fehler ist wichtig." (Das ist dumm, weil 49 Fehler auch wichtig sein können).
• Die neuen KI-Methoden sagen: "Wir bauen eine riesige, undurchsichtige Maschine, die nach Jahren der Berechnung vielleicht weiß, was los ist."
• CARTGen-IR sagt: "Schauen wir uns die seltenen Fehler genau an, verstehen wir die Regeln, nach denen sie entstehen, und bauen dann realistische Beispiele davon, damit der Lerner besser wird – alles schnell und verständlich."

Das Paper zeigt, dass diese Methode nicht nur schneller und verständlicher ist, sondern auch bessere Ergebnisse liefert als viele andere hochkomplexe Techniken, besonders wenn es darum geht, die seltenen, aber kritischen Ereignisse vorherzusagen.

Technische Zusammenfassung

Hier ist eine detaillierte technische Zusammenfassung des Papers „CARTGen-IR: Synthetic Tabular Data Generation for Imbalanced Regression" auf Deutsch:

1. Problemstellung

Das Paper adressiert das Problem des ungleichgewichtigen Regressionslernens (Imbalanced Regression) bei tabellarischen Daten. Im Gegensatz zum Klassifikationsproblem, bei dem Klassen klar definiert sind, ist das Ziel in der Regression ein kontinuierlicher Wert.

• Herausforderung: In vielen realen Szenarien (z. B. Vorhersage extremer Wetterereignisse, Finanzbetrug, seltene Medikamentenreaktionen) sind die relevanten Fälle (oft extreme Werte) stark unterrepräsentiert.
• Limitationen bestehender Ansätze:
  • Viele Daten-Level-Strategien adaptieren Klassifikationsmethoden, indem sie willkürliche Schwellenwerte (Thresholds) über den kontinuierlichen Zielwert legen. Dies führt zu einer künstlichen Diskretisierung, die die Natur der Regression verfälscht (z. B. wird ein Wert von 5,1 als „wichtig" und 4,9 als „normal" eingestuft, obwohl sie nahe beieinander liegen).
  • Tiefe generative Modelle (GANs, VAEs, Diffusionsmodelle) sind zwar flexibel, aber rechenintensiv, schwer zu interpretieren (Black-Box) und oft nicht spezifisch für ungleichgewichtige Regression optimiert.
  • Bestehende Methoden wie SMOTER oder SMOGN leiden unter der Notwendigkeit von Schwellenwerten oder haben Schwierigkeiten mit kategorialen Features und fehlenden Werten.

2. Methodik: CARTGen-IR

Die Autoren schlagen CARTGen-IR vor, eine Methode zur synthetischen Datengenerierung, die auf CART-Algorithmen (Classification and Regression Trees) basiert und speziell für ungleichgewichtige Regression entwickelt wurde.

Kernprinzipien:

• Verzicht auf Schwellenwerte: Die Methode benötigt keine vom Benutzer definierten Schwellenwerte zur Identifizierung seltener Fälle. Stattdessen werden die Zielwerte kontinuierlich gewichtet.
• Gewichtung nach Seltenheit/Relevanz:
  • Zielwerte werden basierend auf ihrer Seltenheit oder Relevanz gewichtet.
  • Es können zwei Ansätze genutzt werden: DenseWeight (basierend auf der Dichteschätzung via Kernel Density Estimation) oder eine Relevanzfunktion (basierend auf Domain-Wissen oder Daten-getriebenen Extremwertstatistiken).
  • Ein Exponent $\alpha$ steuert die Stärke der Gewichtung.
• Resampling: Das ursprüngliche Dataset wird mit Zurücklegen (with replacement) neu gesampelt, wobei seltene Fälle eine höhere Wahrscheinlichkeit haben, ausgewählt zu werden.
• Synthetische Generierung via CART:
  • Anstatt Interpolation (wie bei SMOTE) zu nutzen, wird ein CART-Modell iterativ für jedes Attribut trainiert, wobei die vorherigen Attribute als Prädiktoren dienen.
  • Für die Generierung neuer Fälle wird sequenziell durch die Bäume navigiert: Für jedes Attribut wird der passende Blattknoten basierend auf den bereits generierten Werten der vorherigen Attribute ausgewählt.
  • Kontinuierliche Werte: Statt diskrete Werte aus dem Blatt zu ziehen, wird ein Gaußscher Kernel-Density-Schätzer auf die Werte im Blatt angepasst, um plausible, glatte Werte zu generieren, die auch die statistischen Verteilungen (inkl. dünner Schwänze) abbilden.
• Handling von Datenarten: Die Methode unterstützt nativ numerische und kategoriale Features sowie fehlende Werte (Missing Values), ohne explizite Imputation.
• Rauschen: Um Overfitting bei duplizierten Instanzen zu vermeiden, kann optionales Gaußsches Rauschen ($\delta$) auf numerische Features angewendet werden.

3. Schlüsselbeiträge

1. Schwellenwert-freier Ansatz: CARTGen-IR eliminiert die willkürliche Diskretisierung des Zielraums, was ein Hauptproblem bei der Anwendung von Klassifikationsmethoden auf Regression ist.
2. Interpretierbarkeit: Da die Methode auf Entscheidungsbäumen basiert, bleibt der Prozess der Datengenerierung transparent und nachvollziehbar (White-Box), im Gegensatz zu tiefen neuronalen Netzen.
3. Robustheit und Flexibilität: Die Methode bewältigt heterogene Features (numerisch/kategorial) und fehlende Werte effektiv.
4. Effizienz: Im Vergleich zu generativen Deep-Learning-Modellen ist CARTGen-IR deutlich schneller.

4. Ergebnisse

Die Autoren führten eine umfassende experimentelle Evaluation durch:

• Datensätze: 15 Benchmark-Datensätze für Regression mit verschiedenen Extremwerttypen (hoch, niedrig, beide) und unterschiedlichen Raritätsgraden.
• Vergleichspartner: Der Ansatz wurde gegen 14 andere State-of-the-Art-Methoden getestet, darunter SMOTER, SMOGN, WSMOTER, KNNOR-REG sowie Deep-Learning-Modelle (TVAE, CTGAN, TabDDPM).
• Metriken: Neben dem Standard RMSE wurden spezielle Metriken für ungleichgewichtige Regression verwendet: SERA (Squared Error–Relevance Area) und RW-RMSE (Relevance Weighted RMSE).
• Ergebnisse:
  • Leistung: CARTGen-IR erzielte konsistent hohe Ergebnisse und rangiert overall auf Platz 1 oder 2, oft mit einem besseren Gewinn-Verlust-Verhältnis als die Konkurrenz.
  • Vergleich mit WSMOTER: In einem Bayesschen Signed-Rank-Test zeigte CARTGen-IR eine signifikante Überlegenheit gegenüber WSMOTER (dem zweitbesten Ansatz), insbesondere bei Random Forests (99% Wahrscheinlichkeit der Überlegenheit).
  • Geschwindigkeit: CARTGen-IR ist eine der schnellsten Methoden zur synthetischen Datengenerierung. Deep-Learning-Modelle waren im Durchschnitt 131-mal langsamer.
  • Trade-off: Es gab einen leichten Anstieg des Standard-RMSE (da seltene Fälle priorisiert werden), aber signifikante Verbesserungen bei den relevanten Metriken (SERA, RW-RMSE), was zeigt, dass die Vorhersagegenauigkeit für die kritischen Extremwerte massiv verbessert wurde.

5. Bedeutung und Fazit

CARTGen-IR stellt einen vielversprechenden, skalierbaren und interpretierbaren Ansatz zur Bewältigung von ungleichgewichtiger Regression dar.

• Praktische Relevanz: Die Methode ermöglicht es Standard-Machine-Learning-Algorithmen (wie Random Forests, XGBoost, SVR), besser auf seltene, aber kritische Ereignisse zu trainieren, ohne auf komplexe Black-Box-Modelle zurückgreifen zu müssen.
• Zukunftsperspektiven: Die Autoren schlagen vor, die Methode auf weitere Datensätze zu erweitern, alternative Baum-Lerner zu testen und kostensensitive Lernansätze zu integrieren.

Zusammenfassend beweist das Paper, dass baumbasierte Methoden für die synthetische Datengenerierung im Kontext der Regression nicht nur interpretierbar, sondern auch leistungsfähiger und effizienter als viele moderne Deep-Learning-Ansätze sein können.